Michael Johnson12. oktober opplyste Microsoft at selskapet skalerer Azure Maia-familien til flere gigawatt fra 2027. Selskapet omtaler Maia 200 som en del av infrastrukturen for inferens i produksjon: Brikken håndterer Microsofts belastninger, blant annet Copilot, samt modeller fra OpenAI, Microsofts egne MAI-modeller og modellfamilier med åpne vekter. Ifølge planen skal GitHub Copilot og Microsoft Foundry følge etter før utgangen av 2026. Produksjonsutrullingen av Maia 300 er planlagt i 2027. Microsoft vil gjøre Maia til det viktigste inferenssystemet for sine produkter og tjenester innenfor en åpen, heterogen infrastruktur med ulike modeller og typer silisium. I kunngjøringen oppga selskapet ingen tidsplan for når Maia blir tilgjengelig for Azure-kunder.
Microsoft opplyser at Maia 200 rulles ut i USA, Europa og Australia. For de innebygde AI-funksjonene i Teams, Copilot og Cowork oppgir selskapet et eget estimat: opptil 1,7 ganger flere tokener per watt sammenlignet med ledende GPU-infrastruktur. Dette er et tall for tjenestene Microsoft nevner og driftsforholdene selskapet bruker.
Maia 300 utvikles for inferens og lange kontekster
Microsoft posisjonerer Maia 300 for krevende inferensoppgaver: behandling av lange kontekster, dialogoppgaver med strenge krav til forsinkelse og agentbaserte scenarioer i flere trinn. Selskapet beskriver en arkitektur som balanserer beregninger, minnebåndbredde, nettverkskommunikasjon og strømforbruk. Microsoft peker på dataflytting som en flaskehals i store inferenssystemer; selskapets mål er at en programvaredefinert arkitektur for databehandling skal forbedre utnyttelsen av beregnings-, nettverks- og minneressurser.
Et rack med 96 Maia 300-akseleratorer er dimensjonert for 27,6 TB HBM og en samlet minnebåndbredde på 1,7 PB/s, med en oppgitt effekt på 167 kW. Ifølge Microsofts estimat kan en full konfigurasjon med 96 akseleratorer levere opptil sju ganger høyere samlet tokenkapasitet på racknivå enn Maia 200. Selskapet anslår separat 40 prosent flere tokener per megawatt sammenlignet med ledende GPU-systemer. Dette er estimater for en framtidig konfigurasjon; produksjonsutrullingen av Maia 300 er planlagt i 2027.
Hva satsingen på egne akseleratorer betyr
En egen akselerator gjør det mulig for en skyleverandør å utvikle brikker, nettverk, programvare og tjenestebelastninger i sammenheng. Microsoft trekker fram Maia som et eksempel på slik utvikling, tilpasset modeller og applikasjoner som kjører i stor skala. For skytjenestevirksomheten kan denne tilnærmingen gi flere infrastrukturalternativer for inferens og bidra til å håndtere flere AI-forespørsler innenfor datasentrenes kapasitet. I kunngjøringen opplyste selskapet ikke hvordan dette vil påvirke Azure-priser eller tilgjengeligheten av brikken for kundeløsninger.
For team som velger infrastruktur nå, er det viktig å skille mellom Maia 200, som allerede håndterer produksjonsbelastninger, og den framtidige Maia 300. Microsoft har ikke kunngjort noen tidsplan for kundetilgang til Maia 300, en liste over konkrete skytjenester eller priser. Ved planlegging av utrulling bør man undersøke om akseleratoren er tilgjengelig for den aktuelle modellen og tjenesten, samt vurdere geografisk tilgjengelighet, forsinkelse og kostnad for den konkrete arbeidsbelastningen.
Microsoft oppgir at Maia 300 har åtte HBM4-stabler, en maksimal minnebåndbredde på 18 TB/s ved en TDP på 950 W og beregningsbrikker produsert med TSMCs N2P-prosess. Systemet omfatter også separate blokker for beregning, minnekontrollere og inn-/utdata, og bruker et Ethernet-nettverk for skalering fra rack til datasenter. Selskapet beskriver arkitekturen i en teknisk artikkel om Maia 300. Opplysningene som er offentliggjort, viser hvordan Microsoft videreutvikler egne inferensakseleratorer ved siden av GPU-infrastrukturen.