jsonscraper

Microsoft laajentaa Maiaa: sirut Azure-inferenssin perustaksi

Maia 200 palvelee jo tuotantokuormia, ja Maia 300:n tuotantokäyttöönotot alkavat vuonna 2027. Microsoft esitteli myös uuden järjestelmän arkkitehtuurin ja omat arvionsa sen suorituskyvystä.

Toimituksellinen linjaus Ilmoita virheestä

Microsoft kertoi 12. lokakuuta, että se skaalaa Azure Maia -tuoteperhettä useisiin gigawatteihin vuodesta 2027 alkaen. Yhtiön mukaan Maia 200 on jo osa tuotantoinferenssin käytössä olevaa infrastruktuuria: siru palvelee Microsoftin kuormia, kuten Copilotia, sekä OpenAI:n malleja, yhtiön omia MAI-malleja ja avoimilla painoilla julkaistuja malliperheitä. GitHub Copilotin ja Microsoft Foundryn on määrä seurata vuoden 2026 loppuun mennessä. Maia 300:n tuotantokäyttöönotot on suunniteltu vuodelle 2027. Microsoft pyrkii tekemään Maiasta tuotteidensa ja palveluidensa ensisijaisen inferenssijärjestelmän osana avointa ja heterogeenista infrastruktuuria, jossa käytetään erilaisia malleja ja piirejä. Yhtiö ei ilmoituksessa kertonut, milloin Maia tulee Azure-asiakkaiden saataville.

Artikkeli: Microsoft laajentaa Maiaa: sirut Azure-inferenssin perustaksi
Yhteenveto: Microsoft kertoi 12. lokakuuta, että Maia 200 palvelee jo tuotantokuormia, kuten Copilotia, ja Maia 300:n tuotantokäyttöönotot alkavat vuonna 2027. Yhtiö aikoo skaalata Maia-tuoteperheen useisiin gigawatteihin ja julkaisi tulevan järjestelmän arkkitehtuurin.
Kuvan rooli: kansikuva – keskeinen ajatus
Osio: 
Visuaalinen aihe: Azure Maia 300 -kiihdytinteline, jossa näkyy nestejäähdytysputkia, h
© jsonscraper · tekoälyn luoma kuvitus

Microsoft kertoo, että Maia 200:aa otetaan käyttöön Yhdysvalloissa, Euroopassa ja Australiassa. Teamsin, Copilotin ja Coworkin sisäänrakennetuissa tekoälytoiminnoissa yhtiö ilmoittaa erilliseksi arvioksi jopa 1,7 kertaa enemmän tokeneita wattia kohti verrattuna johtavaan GPU-infrastruktuuriin. Luku koskee Microsoftin nimeämiä palveluita ja sen käyttöolosuhteita.

Maia 300 suunnitellaan inferenssiin ja pitkään kontekstiin

Microsoft asemoi Maia 300:n vaativaan inferenssiin: pitkien kontekstien käsittelyyn, viiveherkkiin keskustelutehtäviin ja monivaiheisiin agenttitehtäviin. Yhtiö kuvaa arkkitehtuuria, jossa tasapainotetaan laskentaa, muistin kaistanleveyttä, verkkoliikennettä ja energiankulutusta. Microsoft pitää datan siirtämistä suurten inferenssijärjestelmien pullonkaulana; yhtiön suunnitelman mukaan ohjelmistomääritelty datankäsittelyarkkitehtuuri parantaa laskenta-, verkko- ja muistiresurssien käyttöastetta.

96 Maia 300 -kiihdyttimen telineeseen mahtuu 27,6 Tt HBM-muistia, ja sen yhteenlaskettu muistikaistanleveys on 1,7 Pt/s ilmoitetulla 167 kW:n teholla. Microsoft arvioi, että täysi 96 kiihdyttimen kokoonpano voi tarjota jopa seitsemän kertaa suuremman yhteenlasketun tokenien läpimenon telinetasolla kuin Maia 200. Lisäksi yhtiö ennustaa 40 prosenttia enemmän tokeneita megawattia kohti verrattuna johtaviin GPU-järjestelmiin. Nämä arviot koskevat tulevaa kokoonpanoa; Maia 300:n tuotantokäyttöönotot on suunniteltu vuodelle 2027.

Mitä panostus omiin kiihdyttimiin merkitsee

Oma kiihdytin antaa pilvipalveluntarjoajalle mahdollisuuden suunnitella sirut, verkon, ohjelmistot ja palvelukuormat yhdessä. Microsoft nostaa Maian esimerkiksi tällaisesta suunnittelusta, jossa huomioidaan laajassa mittakaavassa käytettävät mallit ja sovellukset. Pilviliiketoiminnalle tämä voi laajentaa inferenssi-infrastruktuurin valikoimaa ja auttaa käsittelemään enemmän tekoälypyyntöjä datakeskusten sähkötehon puitteissa. Yhtiö ei kertonut ilmoituksessaan, miten tämä vaikuttaa Azuren hintoihin tai sirun saatavuuteen asiakaskäyttöön.

Infrastruktuuria nyt valitsevien tiimien kannattaa erottaa Maian nykyiset tuotantokuormat tulevasta Maia 300:sta. Microsoft ei ole ilmoittanut Maia 300:n asiakassaatavuuden aikataulua, tiettyjä pilvipalveluita tai hintoja. Käyttöönottoa suunniteltaessa kannattaa tarkistaa kiihdyttimen saatavuus tarvittavalle mallille ja palvelulle sekä kuorman maantieteellinen sijainti, viive ja kustannukset.

Microsoftin mukaan Maia 300:ssa on kahdeksan HBM4-pinoa, muistin huippukaistanleveys on 18 Tt/s ja TDP 950 W, ja laskentapiirileetit valmistetaan TSMC:n N2P-prosessilla. Järjestelmässä on myös erilliset laskenta-, muistiohjain- ja I/O-lohkot, ja se käyttää Ethernet-verkkoa skaalautuakseen telineestä datakeskukseen. Yhtiö esitteli arkkitehtuurin yksityiskohdat Maia 300:n teknisessä artikkelissa. Julkaistut tiedot valottavat, miten Microsoft kehittää omia inferenssikiihdyttimiään GPU-infrastruktuurin rinnalle.

People

No people listed for this article yet.

Keep readingSingapore ja Google DeepMind kehittivät tekoälyn huijausviestien tunnistamiseen puhelimessa
Read the next article

Muuta lukemasi toimivaksi integraatioksi

Tutustu jsonscraperin sosiaalisen datan rajapintoihin, testaa pyyntöjä ja rakenna seuraava työnkulkusi.

Tutki API:t