10 月 12 日,微软表示将从 2027 年起把 Azure Maia 系列扩展至数吉瓦规模。公司称,Maia 200 已成为生产推理基础设施的一部分:该芯片为微软的工作负载提供服务,包括 Copilot,以及 OpenAI 模型、微软自有的 MAI 模型和开放权重模型系列。按公司计划,GitHub Copilot 和 Microsoft Foundry 将于 2026 年底前跟进。Maia 300 计划于 2027 年开始生产部署。微软希望在采用不同模型和芯片的开放式异构基础设施中,让 Maia 成为其产品和服务的主要推理系统。微软在公告中没有说明 Maia 面向 Azure 客户的可用时间表。

微软表示,Maia 200 正在美国、欧洲和澳大利亚部署。对于 Teams、Copilot 和 Cowork 的内置 AI 功能,公司给出了单独估算:与领先的 GPU 基础设施相比,每瓦可处理的 token 数最多提高 1.7 倍。这一指标针对微软列出的服务及其运行条件。
Maia 300 面向推理和长上下文而设计
微软将 Maia 300 定位为适用于高资源需求推理的芯片:处理长上下文、对延迟敏感的对话任务,以及多步骤智能体场景。公司称,其架构旨在平衡计算、内存带宽、网络通信和功耗。微软将数据移动视为大型推理系统的瓶颈;按照公司的设计思路,软件定义的数据处理架构应能提升计算、网络和内存资源的利用率。
配备 96 个 Maia 300 加速器的机架支持 27.6 TB HBM,内存总带宽为 1.7 PB/s,标称功耗为 167 kW。微软估计,完整的 96 加速器配置在机架级别的 token 总吞吐量最高可达 Maia 200 的七倍。公司另预测,与领先的 GPU 系统相比,每兆瓦可处理的 token 数提高 40%。这些估算针对未来配置;Maia 300 计划于 2027 年开始生产部署。
投资自研加速器意味着什么
自研加速器让云服务提供商能够协同设计芯片、网络、软件和服务工作负载。微软以 Maia 为例,说明如何针对大规模运行的模型和应用进行协同设计。对于云业务而言,这种方式有望扩大推理基础设施的选择,并帮助数据中心在功率容量范围内处理更多 AI 请求。微软在公告中没有透露这将如何影响 Azure 定价,也没有说明客户能否使用该芯片。
当前正在选择基础设施的团队,应区分已经承载生产负载的 Maia 200 与尚未推出的 Maia 300。微软尚未公布 Maia 300 面向客户的可用时间表、具体云服务清单或价格。规划部署时,应确认加速器是否适用于所需模型和服务,并核查地理位置、延迟以及具体工作负载的成本。
微软表示,Maia 300 配备八组 HBM4 堆栈,峰值内存带宽为 18 TB/s,TDP 为 950 W,计算芯粒采用台积电 N2P 制程。系统还包含独立的计算、内存控制器和 I/O 模块,并使用以太网网络实现从机架到数据中心的扩展。微软在Maia 300 技术文章中介绍了架构细节。已公布的信息展示了微软如何在发展自研推理加速器的同时,继续使用 GPU 基础设施。