Michael JohnsonIl 12 ottobre Microsoft ha dichiarato che amplierà la famiglia Azure Maia fino a diversi gigawatt a partire dal 2027. L’azienda presenta Maia 200 come parte dell’infrastruttura di inferenza già operativa in produzione: il chip gestisce carichi di lavoro di Microsoft, tra cui Copilot, oltre ai modelli di OpenAI, ai modelli MAI proprietari e a famiglie di modelli con pesi aperti. Secondo i piani dell’azienda, GitHub Copilot e Microsoft Foundry seguiranno entro la fine del 2026. Le implementazioni di Maia 300 in produzione sono previste per il 2027. Microsoft punta a fare di Maia il principale sistema di inferenza per i propri prodotti e servizi, nell’ambito di un’infrastruttura aperta ed eterogenea con diversi modelli e tipi di silicio. Nell’annuncio l’azienda non ha indicato un calendario per la disponibilità di Maia ai clienti Azure.
Microsoft riferisce che Maia 200 è in fase di implementazione negli Stati Uniti, in Europa e in Australia. Per le funzionalità di IA integrate in Teams, Copilot e Cowork, l’azienda indica una stima distinta: fino a 1,7 volte più token per watt rispetto alle principali infrastrutture basate su GPU. Si tratta di un dato riferito ai servizi citati da Microsoft e alle condizioni operative dell’azienda.
Maia 300 è progettato per l’inferenza e i contesti lunghi
Microsoft presenta Maia 300 come soluzione per l’inferenza ad alta intensità di risorse: elaborazione di contesti lunghi, attività conversazionali sensibili alla latenza e scenari agentici a più passaggi. L’azienda descrive un’architettura che bilancia calcolo, larghezza di banda della memoria, comunicazione di rete e consumo energetico. Microsoft individua nello spostamento dei dati un collo di bottiglia per i grandi sistemi di inferenza; secondo l’azienda, l’architettura di elaborazione dei dati definita dal software dovrebbe migliorare l’utilizzo delle risorse di calcolo, rete e memoria.
Il rack con 96 acceleratori Maia 300 è progettato per 27,6 TB di HBM e una larghezza di banda complessiva della memoria di 1,7 PB/s, con una potenza dichiarata di 167 kW. Secondo le stime di Microsoft, una configurazione completa con 96 acceleratori può offrire una larghezza di banda complessiva dei token a livello di rack fino a sette volte superiore a quella di Maia 200. Separatamente, l’azienda prevede il 40% di token in più per megawatt rispetto ai principali sistemi GPU. Queste stime riguardano la futura configurazione; le implementazioni di Maia 300 in produzione sono previste per il 2027.
Cosa comporta puntare sugli acceleratori proprietari
Un acceleratore proprietario consente a un fornitore cloud di progettare insieme chip, rete, software e carichi di lavoro dei servizi. Microsoft cita Maia come esempio di progettazione pensata per i modelli e le applicazioni eseguiti su larga scala. Per un’attività cloud, questo approccio può ampliare la scelta delle infrastrutture per l’inferenza e aiutare a gestire più richieste di IA entro i limiti di potenza dei data center. Nell’annuncio l’azienda non ha spiegato quale sarà l’impatto sui prezzi di Azure o sulla disponibilità del chip per i carichi dei clienti.
Per i team che scelgono oggi un’infrastruttura, è importante distinguere tra i carichi di produzione attualmente gestiti da Maia 200 e il futuro Maia 300. Microsoft non ha annunciato un calendario di disponibilità di Maia 300 per i clienti, un elenco di servizi cloud specifici o le tariffe. Nel pianificare un’implementazione, conviene verificare la disponibilità dell’acceleratore per il modello e il servizio desiderati, l’area geografica, la latenza e il costo del carico di lavoro specifico.
Per Maia 300, Microsoft indica otto stack HBM4, una larghezza di banda di picco della memoria di 18 TB/s con un TDP di 950 W e chiplet di calcolo realizzati con il processo TSMC N2P. Il sistema include inoltre blocchi separati per il calcolo, i controller di memoria e l’I/O; per scalare dal rack al data center utilizza una rete Ethernet. L’azienda ha illustrato i dettagli architetturali in un approfondimento tecnico su Maia 300. Le informazioni pubblicate mostrano come Microsoft stia sviluppando acceleratori proprietari per l’inferenza accanto alle infrastrutture GPU.