Michael Johnson12 października Microsoft poinformował, że zwiększy skalę rodziny Azure Maia do kilku gigawatów od 2027 roku. Firma przedstawia Maia 200 jako część działającej już infrastruktury inferencji produkcyjnej: układ obsługuje obciążenia Microsoftu, w tym Copilot, a także modele OpenAI, własne modele MAI oraz rodziny modeli o otwartych wagach. Zgodnie z planem firmy do końca 2026 roku dołączą do nich GitHub Copilot i Microsoft Foundry. Wdrożenia produkcyjne Maia 300 zaplanowano na 2027 rok. Microsoft chce, aby Maia stała się głównym systemem inferencji dla jego produktów i usług w ramach otwartej, heterogenicznej infrastruktury wykorzystującej różne modele i typy układów. W komunikacie firma nie podała harmonogramu udostępnienia Maia klientom Azure.
Microsoft informuje, że Maia 200 jest wdrażana w Stanach Zjednoczonych, Europie i Australii. W przypadku wbudowanych funkcji AI w Teams, Copilot i Cowork firma podaje osobny szacunek: do 1,7 raza więcej tokenów na wat w porównaniu z wiodącą infrastrukturą GPU. Wskaźnik ten dotyczy usług wskazanych przez Microsoft i warunków ich działania.
Maia 300 projektowana z myślą o inferencji i długim kontekście
Microsoft pozycjonuje Maia 300 jako układ do wymagających obliczeniowo zadań inferencji: przetwarzania długiego kontekstu, zadań konwersacyjnych wrażliwych na opóźnienia oraz wieloetapowych scenariuszy agentowych. Firma opisuje architekturę równoważącą moc obliczeniową, przepustowość pamięci, komunikację sieciową i zużycie energii. Jako wąskie gardło dużych systemów inferencji Microsoft wskazuje transfer danych; zgodnie z założeniami firmy architektura przetwarzania danych definiowana programowo ma poprawić wykorzystanie zasobów obliczeniowych, sieciowych i pamięciowych.
Szafa z 96 akceleratorami Maia 300 ma zapewniać 27,6 TB pamięci HBM i łączną przepustowość pamięci na poziomie 1,7 PB/s przy deklarowanej mocy 167 kW. Według szacunków Microsoftu pełna konfiguracja z 96 akceleratorami może zapewnić do siedmiu razy większą łączną przepustowość tokenów na poziomie szafy niż Maia 200. Firma osobno prognozuje o 40% więcej tokenów na megawat w porównaniu z wiodącymi systemami GPU. Szacunki te dotyczą przyszłej konfiguracji; wdrożenia produkcyjne Maia 300 zaplanowano na 2027 rok.
Co oznacza postawienie na własne akceleratory
Własny akcelerator pozwala dostawcy usług chmurowych wspólnie projektować układy, sieć, oprogramowanie i obciążenia usług. Microsoft przedstawia Maia jako przykład takiego projektowania z uwzględnieniem modeli i aplikacji działających na dużą skalę. Dla biznesu chmurowego takie podejście może poszerzyć wybór infrastruktury do inferencji i pomóc obsługiwać więcej zapytań AI w ramach możliwości centrów danych. W komunikacie firma nie ujawniła, jak wpłynie to na ceny Azure ani dostępność układu w zastosowaniach klientów.
Zespoły wybierające obecnie infrastrukturę powinny odróżniać działające już obciążenia produkcyjne Maia 200 od przyszłej Maia 300. Microsoft nie ogłosił harmonogramu udostępnienia Maia 300 klientom, listy konkretnych usług chmurowych ani cen. Planując wdrożenie, warto sprawdzić dostępność akceleratora dla danego modelu i usługi, lokalizację, opóźnienia oraz koszt konkretnego obciążenia.
Microsoft podaje, że Maia 300 ma osiem stosów HBM4, szczytową przepustowość pamięci 18 TB/s przy TDP wynoszącym 950 W oraz chipletowe układy obliczeniowe w procesie technologicznym TSMC N2P. System obejmuje również osobne bloki obliczeniowe, kontrolery pamięci i układy wejścia-wyjścia, a do skalowania od szafy po centrum danych wykorzystuje sieć Ethernet. Szczegóły architektury firma opisała w artykule technicznym o Maia 300. Opublikowane informacje pokazują, jak Microsoft rozwija własne akceleratory do inferencji równolegle z infrastrukturą GPU.