Michael JohnsonMicrosoft 12. října oznámil, že rozšíří rodinu Azure Maia na několik gigawattů počínaje rokem 2027. Společnost označuje Maia 200 za součást již fungující infrastruktury pro produkční inferenci: čip obsluhuje zátěž Microsoftu včetně Copilotu, modely OpenAI, vlastní modely MAI i rodiny modelů s otevřenými vahami. GitHub Copilot a Microsoft Foundry mají podle plánu společnosti následovat do konce roku 2026. Nasazování Maia 300 do produkce je plánováno na rok 2027. Microsoft chce, aby se Maia stala hlavní inferenční platformou pro jeho produkty a služby v rámci otevřené, heterogenní infrastruktury s různými modely a typy čipů. V oznámení společnost neuvedla harmonogram zpřístupnění Maia zákazníkům Azure.
Microsoft uvádí, že Maia 200 se nasazuje ve Spojených státech, Evropě a Austrálii. U vestavěných funkcí AI v Teams, Copilotu a Coworku společnost uvádí samostatný odhad: až 1,7krát více tokenů na watt ve srovnání s přední infrastrukturou GPU. Jde o údaj pro služby pojmenované Microsoftem a podmínky jeho provozu.
Maia 300 je navržena pro inferenci a dlouhý kontext
Microsoft určuje Maia 300 pro výpočetně náročnou inferenci: zpracování dlouhého kontextu, dialogové úlohy citlivé na latenci a vícekrokové scénáře s agenty. Společnost popisuje architekturu vyvažující výpočty, propustnost paměti, síťovou komunikaci a spotřebu energie. Microsoft označuje přesun dat za úzké hrdlo rozsáhlých inferenčních systémů; softwarově definovaná architektura zpracování dat má podle záměru společnosti zlepšit využití výpočetních, síťových a paměťových prostředků.
Rack s 96 akcelerátory Maia 300 je dimenzován na 27,6 TB HBM a celkovou propustnost paměti 1,7 PB/s při deklarovaném příkonu 167 kW. Podle odhadu Microsoftu může plná konfigurace s 96 akcelerátory nabídnout až sedminásobnou celkovou propustnost tokenů na úrovni racku oproti Maia 200. Samostatně společnost předpokládá o 40 % více tokenů na megawatt ve srovnání s předními systémy GPU. Tyto odhady se vztahují k budoucí konfiguraci; nasazování Maia 300 do produkce je plánováno na rok 2027.
Co znamená sázka na vlastní akcelerátory
Vlastní akcelerátor umožňuje poskytovateli cloudových služeb společně navrhovat čipy, síť, software i zátěž služeb. Microsoft uvádí Maia jako příklad takového návrhu přizpůsobeného modelům a aplikacím provozovaným ve velkém měřítku. Pro cloudové podnikání může tento přístup rozšířit výběr inferenční infrastruktury a pomoci obsloužit více požadavků AI v rámci kapacity datových center. V oznámení společnost neupřesnila, jak to ovlivní ceny Azure ani dostupnost čipu pro zákaznické scénáře.
Týmy, které právě vybírají infrastrukturu, by měly rozlišovat mezi současnou produkční zátěží Maia 200 a budoucí Maia 300. Microsoft neoznámil harmonogram zpřístupnění Maia 300 zákazníkům, seznam konkrétních cloudových služeb ani ceny. Při plánování nasazení je vhodné ověřit dostupnost akcelerátoru pro požadovaný model a službu, geografickou dostupnost, latenci i náklady konkrétní zátěže.
Microsoft u Maia 300 uvádí osm HBM4 stacků, špičkovou propustnost paměti 18 TB/s při TDP 950 W a výpočetní čiplety vyráběné procesem TSMC N2P. Systém zahrnuje také samostatné bloky pro výpočty, řadiče paměti a vstupně-výstupní operace; pro škálování od racku po datové centrum využívá ethernetovou síť. Architektonické podrobnosti společnost popsala v technickém článku o Maia 300. Zveřejněné informace ukazují, jak Microsoft vedle infrastruktury GPU rozvíjí vlastní inferenční akcelerátory.