Michael Johnson10月12日、MicrosoftはAzure Maiaファミリーを数ギガワット規模に拡大すると発表し、2027年から展開を進めるとしました。同社はMaia 200を、すでに稼働中の本番推論インフラの一部と位置づけています。このチップはCopilotを含むMicrosoftのワークロードに加え、OpenAIのモデル、自社のMAIモデル、オープンウェイトモデルのファミリーを処理します。同社の計画では、GitHub CopilotとMicrosoft Foundryも2026年末までに続く予定です。Maia 300の本番導入は2027年に予定されています。Microsoftは、多様なモデルとシリコンを組み合わせるオープンな異種混在インフラのもと、自社製品とサービスの推論を支える主要システムとしてMaiaを確立することを目指しています。発表では、Azure顧客向けのMaia提供時期は示されませんでした。
Microsoftによると、Maia 200は米国、欧州、オーストラリアで展開されています。Teams、Copilot、Coworkの組み込みAI機能について、同社は別途、主要なGPUインフラと比べてワット当たりのトークン数が最大1.7倍になるとの推定を示しています。これは、Microsoftが挙げたサービスと同社の運用条件における数値です。
Maia 300は推論と長文コンテキスト向けに設計
MicrosoftはMaia 300を、長文コンテキストの処理、遅延に敏感な対話タスク、複数段階のエージェント処理など、計算負荷の高い推論向けに位置づけています。同社は、計算性能、メモリー帯域幅、ネットワーク通信、消費電力のバランスを取るアーキテクチャだと説明しています。Microsoftは大規模な推論システムのボトルネックとしてデータ移動を挙げ、ソフトウェア定義のデータ処理アーキテクチャによって、計算、ネットワーク、メモリー資源の稼働率を高めることを目指しています。
Maia 300アクセラレーター96基を搭載するラックは、HBMを27.6 TB搭載し、メモリー帯域幅の合計は1.7 PB/s、定格電力は167 kWです。Microsoftの推定では、アクセラレーター96基のフル構成は、ラック単位のトークン総スループットでMaia 200の最大7倍を実現できます。同社はまた、主要なGPUシステムと比べてメガワット当たりのトークン数が40%増えると予測しています。これらは将来の構成に関する推定であり、Maia 300の本番導入は2027年に予定されています。
独自アクセラレーターへの注力が意味すること
独自アクセラレーターを開発すれば、クラウド事業者はチップ、ネットワーク、ソフトウェア、サービスのワークロードを連携させて設計できます。Microsoftは、実際に大規模稼働するモデルやアプリケーションを考慮した設計の例としてMaiaを挙げています。クラウド事業において、このアプローチは推論インフラの選択肢を広げ、データセンターの電力容量の範囲内でより多くのAIリクエストを処理する助けになる可能性があります。発表では、Azureの料金や、顧客向け用途でのチップ提供にどのような影響があるかは明らかにされていません。
現在インフラを選定しているチームにとって重要なのは、稼働中のMaia 200の本番ワークロードと、将来のMaia 300を区別することです。Microsoftは、Maia 300の顧客向け提供時期、具体的なクラウドサービスの一覧、料金を発表していません。導入を計画する際は、対象のモデルやサービスでアクセラレーターが利用できるか、対応地域、遅延、個々のワークロードのコストを確認する必要があります。
Microsoftによると、Maia 300は8基のHBM4スタックを搭載し、メモリー帯域幅はピーク時に18 TB/s、TDPは950 Wです。演算チップレットにはTSMC N2Pプロセスが採用されています。システムには演算、メモリーコントローラー、入出力の各専用ブロックも備わり、ラックからデータセンターまでの拡張にはイーサネットネットワークを使用します。同社はMaia 300の技術記事でアーキテクチャの詳細を説明しています。公開された情報からは、MicrosoftがGPUインフラと並行して、推論向けの独自アクセラレーターをどのように発展させているかが分かります。