Michael Johnson12 октября Microsoft сообщила, что масштабирует семейство Azure Maia до нескольких гигаватт начиная с 2027 года. Компания называет Maia 200 частью уже работающей инфраструктуры производственного инференса: чип обслуживает нагрузки Microsoft, включая Copilot, а также модели OpenAI, собственные модели MAI и семейства моделей с открытыми весами. GitHub Copilot и Microsoft Foundry, по плану компании, последуют до конца 2026 года. Производственные развёртывания Maia 300 запланированы на 2027 год. Microsoft стремится сделать Maia основной системой инференса для своих продуктов и сервисов в рамках открытой, гетерогенной инфраструктуры с разными моделями и типами кремния. В анонсе компания не указала расписание доступности Maia для клиентов Azure.
Microsoft сообщает, что Maia 200 развёртывается в США, Европе и Австралии. Для встроенных ИИ-функций Teams, Copilot и Cowork компания приводит отдельную оценку: до 1,7 раза больше токенов на ватт по сравнению с ведущей GPU-инфраструктурой. Это показатель для названных Microsoft сервисов и условий её эксплуатации.
Maia 300 проектируют для инференса и длинного контекста
Microsoft позиционирует Maia 300 для ресурсоёмкого инференса: обработки длинного контекста, диалоговых задач, чувствительных к задержке, и многошаговых агентных сценариев. Компания описывает архитектуру, балансирующую вычисления, пропускную способность памяти, сетевой обмен и энергопотребление. В качестве узкого места крупных систем инференса Microsoft выделяет перемещение данных; программно-определяемая архитектура обработки данных, по замыслу компании, должна улучшать загрузку вычислительных, сетевых и память-ресурсов.
Стойка с 96 ускорителями Maia 300 рассчитана на 27,6 ТБ HBM и совокупную пропускную способность памяти 1,7 ПБ/с при заявленной мощности 167 кВт. По оценке Microsoft, полная конфигурация с 96 ускорителями может обеспечить до семи раз большую совокупную пропускную способность токенов на уровне стойки, чем Maia 200. Отдельно компания прогнозирует на 40% больше токенов на мегаватт относительно ведущих GPU-систем. Эти оценки относятся к будущей конфигурации; производственные развёртывания Maia 300 запланированы на 2027 год.
Что означает ставка на собственные ускорители
Собственный ускоритель позволяет облачному провайдеру совместно проектировать чипы, сеть, программное обеспечение и сервисные нагрузки. Microsoft приводит Maia как пример такого проектирования с учётом моделей и приложений, работающих в масштабе. Для облачного бизнеса этот подход может расширить выбор инфраструктуры для инференса и помочь обслуживать больше ИИ-запросов в пределах мощности дата-центров. В анонсе компания не раскрыла, как это повлияет на цены Azure или доступность чипа для клиентских сценариев.
Командам, выбирающим инфраструктуру сейчас, важно различать действующие производственные нагрузки Maia 200 и будущую Maia 300. Microsoft не объявила клиентское расписание доступности Maia 300, перечень конкретных облачных сервисов или тарифы. При планировании размещения стоит проверять доступность ускорителя для нужной модели и сервиса, географию, задержку и стоимость конкретной нагрузки.
Microsoft указывает для Maia 300 восемь стеков HBM4, пиковую пропускную способность памяти 18 ТБ/с при TDP 950 Вт и вычислительные чиплеты на техпроцессе TSMC N2P. Система также включает отдельные блоки вычислений, контроллеров памяти и ввода-вывода, а для масштабирования от стойки до дата-центра использует Ethernet-сеть. Архитектурные детали компания изложила в технической статье о Maia 300. Опубликованные сведения показывают, как Microsoft развивает собственные ускорители для инференса наряду с GPU-инфраструктурой.