Michael JohnsonDen 12 oktober meddelade Microsoft att företaget skalar upp Azure Maia-familjen till flera gigawatt med start 2027. Företaget beskriver Maia 200 som en del av den produktionsinfrastruktur för inferens som redan är i drift: chippet hanterar Microsofts arbetsbelastningar, däribland Copilot, samt modeller från OpenAI, Microsofts egna MAI-modeller och modellfamiljer med öppna vikter. Enligt företagets plan ska GitHub Copilot och Microsoft Foundry följa före utgången av 2026. Produktionsutrullningen av Maia 300 är planerad till 2027. Microsoft vill göra Maia till det främsta inferenssystemet för sina produkter och tjänster, inom ramen för en öppen, heterogen infrastruktur med olika modeller och typer av kisel. I tillkännagivandet angav företaget ingen tidsplan för när Maia blir tillgängligt för Azure-kunder.
Microsoft uppger att Maia 200 rullas ut i USA, Europa och Australien. För de inbyggda AI-funktionerna i Teams, Copilot och Cowork anger företaget en separat uppskattning: upp till 1,7 gånger fler token per watt jämfört med ledande GPU-infrastruktur. Detta är ett mått för de tjänster och driftsförhållanden som Microsoft har specificerat.
Maia 300 utformas för inferens och långa kontexter
Microsoft positionerar Maia 300 för beräkningsintensiv inferens: hantering av långa kontexter, dialoguppgifter där svarstiden är viktig och agentbaserade arbetsflöden med flera steg. Företaget beskriver en arkitektur som balanserar beräkningar, minnesbandbredd, nätverkstrafik och energiförbrukning. Microsoft pekar ut dataförflyttning som en flaskhals i stora inferenssystem; enligt företagets tanke ska en mjukvarudefinierad dataarkitektur förbättra utnyttjandet av beräknings-, nätverks- och minnesresurser.
Ett rack med 96 Maia 300-acceleratorer är dimensionerat för 27,6 TB HBM och en sammanlagd minnesbandbredd på 1,7 PB/s, med en angiven effektförbrukning på 167 kW. Enligt Microsofts uppskattning kan en full konfiguration med 96 acceleratorer ge upp till sju gånger högre sammanlagd tokenkapacitet på racknivå än Maia 200. Företaget räknar dessutom med 40 procent fler token per megawatt jämfört med ledande GPU-system. Uppskattningarna gäller en framtida konfiguration; produktionsutrullningen av Maia 300 är planerad till 2027.
Vad satsningen på egna acceleratorer innebär
En egen accelerator gör det möjligt för en molnleverantör att samutveckla chip, nätverk, programvara och tjänsternas arbetsbelastningar. Microsoft lyfter fram Maia som ett exempel på sådan utveckling, anpassad efter modeller och applikationer som körs i stor skala. För molnverksamheten kan detta bredda utbudet av inferensinfrastruktur och hjälpa till att hantera fler AI-förfrågningar inom datacentrens kapacitet. I tillkännagivandet avslöjade företaget inte hur satsningen påverkar priserna i Azure eller om chippet blir tillgängligt för kundernas användningsområden.
Team som väljer infrastruktur nu bör skilja mellan Maia 200:s befintliga produktionsbelastningar och den kommande Maia 300. Microsoft har inte meddelat någon tidsplan för när Maia 300 blir tillgängligt för kunder, vilka specifika molntjänster som kommer att använda chippet eller vilka priser som gäller. Vid planering av driftsättning bör man kontrollera om acceleratorn stöder den aktuella modellen och tjänsten samt bedöma geografisk tillgänglighet, svarstid och kostnad för den specifika arbetsbelastningen.
Microsoft anger att Maia 300 har åtta HBM4-staplar, en maximal minnesbandbredd på 18 TB/s vid en TDP på 950 W och beräkningschiplets tillverkade med TSMC:s N2P-process. Systemet omfattar även separata block för beräkning, minnesstyrenheter och in- och utmatning. För skalning från rack till datacenter används ett Ethernet-nätverk. Företaget har beskrivit arkitekturdetaljerna i en teknisk artikel om Maia 300. Den publicerade informationen visar hur Microsoft utvecklar egna inferensacceleratorer vid sidan av GPU-infrastrukturen.