Michael Johnson12 жовтня Microsoft повідомила, що масштабує сімейство Azure Maia до кількох гігаватів починаючи з 2027 року. Компанія називає Maia 200 частиною інфраструктури виробничого інференсу, яка вже працює: чип обслуговує навантаження Microsoft, зокрема Copilot, а також моделі OpenAI, власні моделі MAI і сімейства моделей із відкритими вагами. За планом компанії, GitHub Copilot і Microsoft Foundry підключаться до кінця 2026 року. Виробничі розгортання Maia 300 заплановані на 2027 рік. Microsoft прагне зробити Maia основною системою інференсу для своїх продуктів і сервісів у межах відкритої гетерогенної інфраструктури з різними моделями та типами кремнію. В анонсі компанія не вказала графік доступності Maia для клієнтів Azure.
Microsoft повідомляє, що Maia 200 розгортають у США, Європі та Австралії. Для вбудованих функцій ШІ в Teams, Copilot і Cowork компанія наводить окрему оцінку: до 1,7 раза більше токенів на ват порівняно з провідною GPU-інфраструктурою. Цей показник стосується названих Microsoft сервісів та умов їхньої експлуатації.
Maia 300 проєктують для інференсу та довгого контексту
Microsoft позиціонує Maia 300 для ресурсоємного інференсу: обробки довгого контексту, діалогових завдань, чутливих до затримки, і багатоетапних агентних сценаріїв. Компанія описує архітектуру, що збалансовує обчислення, пропускну здатність пам’яті, мережевий обмін і енергоспоживання. Як вузьке місце великих систем інференсу Microsoft виокремлює переміщення даних; програмно-визначувана архітектура обробки даних, за задумом компанії, має покращити завантаження обчислювальних, мережевих і пам’яттєвих ресурсів.
Стійка з 96 прискорювачами Maia 300 розрахована на 27,6 ТБ HBM і сукупну пропускну здатність пам’яті 1,7 ПБ/с за заявленої потужності 167 кВт. За оцінкою Microsoft, повна конфігурація з 96 прискорювачами може забезпечити до семи разів більшу сукупну пропускну здатність токенів на рівні стійки, ніж Maia 200. Окремо компанія прогнозує на 40% більше токенів на мегават порівняно з провідними GPU-системами. Ці оцінки стосуються майбутньої конфігурації; виробничі розгортання Maia 300 заплановані на 2027 рік.
Що означає ставка на власні прискорювачі
Власний прискорювач дає хмарному провайдеру змогу спільно проєктувати чипи, мережу, програмне забезпечення та сервісні навантаження. Microsoft наводить Maia як приклад такого проєктування з урахуванням моделей і застосунків, що працюють у великому масштабі. Для хмарного бізнесу цей підхід може розширити вибір інфраструктури для інференсу та допомогти обслуговувати більше запитів до ШІ в межах потужностей дата-центрів. В анонсі компанія не розкрила, як це вплине на ціни Azure або доступність чипа для клієнтських сценаріїв.
Командам, які обирають інфраструктуру зараз, важливо розрізняти поточні виробничі навантаження Maia 200 і майбутню Maia 300. Microsoft не оголосила графік доступності Maia 300 для клієнтів, перелік конкретних хмарних сервісів або тарифи. Плануючи розміщення, варто перевіряти доступність прискорювача для потрібної моделі та сервісу, географію, затримку й вартість конкретного навантаження.
Для Maia 300 Microsoft зазначає вісім стеків HBM4, пікову пропускну здатність пам’яті 18 ТБ/с за TDP 950 Вт і обчислювальні чиплети за техпроцесом TSMC N2P. Система також містить окремі блоки обчислень, контролерів пам’яті та введення-виведення, а для масштабування від стійки до дата-центру використовує мережу Ethernet. Архітектурні деталі компанія виклала в технічній статті про Maia 300. Опубліковані відомості показують, як Microsoft розвиває власні прискорювачі для інференсу поряд із GPU-інфраструктурою.