Michael Johnson10월 12일 마이크로소프트는 Azure Maia 제품군을 수 기가와트 규모로 확장할 계획이며, 2027년부터 이를 추진한다고 밝혔다. 회사는 Maia 200이 이미 운영 중인 프로덕션 추론 인프라의 일부라고 설명했다. 이 칩은 Copilot을 비롯한 마이크로소프트의 워크로드와 OpenAI 모델, 자체 MAI 모델, 오픈 웨이트 모델 제품군을 처리한다. 회사 계획에 따르면 GitHub Copilot과 Microsoft Foundry도 2026년 말까지 뒤따를 예정이다. Maia 300의 프로덕션 배치는 2027년으로 예정돼 있다. 마이크로소프트는 다양한 모델과 실리콘 유형을 지원하는 개방형 이기종 인프라의 일부로 Maia를 자사 제품과 서비스의 주요 추론 시스템으로 삼으려 한다. 이번 발표에서 회사는 Azure 고객을 위한 Maia의 이용 가능 일정은 밝히지 않았다.
마이크로소프트에 따르면 Maia 200은 미국, 유럽, 호주에서 배치되고 있다. Teams, Copilot, Cowork의 내장 AI 기능에 대해서는 별도 추정치를 제시했다. 회사가 밝힌 수치는 자사 서비스와 운영 환경에서 선도적인 GPU 인프라보다 와트당 토큰 처리량이 최대 1.7배 높다는 것이다. 이 수치는 마이크로소프트가 언급한 서비스와 운영 조건에 해당한다.
Maia 300, 추론과 긴 컨텍스트 처리를 겨냥
마이크로소프트는 Maia 300을 긴 컨텍스트 처리, 지연 시간에 민감한 대화형 작업, 여러 단계로 이뤄진 에이전트 시나리오 등 컴퓨팅 집약적인 추론에 맞춰 설계하고 있다. 회사는 연산, 메모리 대역폭, 네트워크 통신, 전력 소비 간의 균형을 이루는 아키텍처라고 설명한다. 마이크로소프트는 대규모 추론 시스템의 병목으로 데이터 이동을 꼽으며, 소프트웨어 정의 데이터 처리 아키텍처가 연산·네트워크·메모리 자원의 활용도를 높이도록 설계됐다고 밝혔다.
가속기 96개를 탑재하는 Maia 300 랙은 HBM 27.6TB와 총 메모리 대역폭 1.7PB/s를 제공하도록 설계됐으며, 발표된 전력 용량은 167kW다. 마이크로소프트의 추정에 따르면 가속기 96개로 구성된 전체 시스템은 랙 단위의 총 토큰 처리량에서 Maia 200보다 최대 7배 높은 성능을 낼 수 있다. 회사는 또한 선도적인 GPU 시스템보다 메가와트당 토큰 처리량이 40% 더 많을 것으로 전망한다. 이 추정치는 향후 구성을 대상으로 하며, Maia 300의 프로덕션 배치는 2027년으로 예정돼 있다.
자체 가속기에 투자하는 이유
자체 가속기를 개발하면 클라우드 제공업체가 칩, 네트워크, 소프트웨어, 서비스 워크로드를 함께 설계할 수 있다. 마이크로소프트는 대규모로 실행되는 모델과 애플리케이션에 맞춘 공동 설계의 사례로 Maia를 들었다. 클라우드 사업에서 이러한 접근 방식은 추론 인프라 선택지를 넓히고 데이터센터의 전력 용량 안에서 더 많은 AI 요청을 처리하는 데 도움이 될 수 있다. 이번 발표에서는 Azure 가격이나 고객용 시나리오에서의 칩 이용 가능성에 미칠 영향은 공개하지 않았다.
현재 인프라를 선택하는 팀은 운영 중인 Maia 200 워크로드와 향후 출시될 Maia 300을 구분해야 한다. 마이크로소프트는 Maia 300의 고객 대상 출시 일정, 구체적인 클라우드 서비스 목록, 요금을 발표하지 않았다. 배포 계획을 세울 때는 필요한 모델과 서비스에서 가속기를 이용할 수 있는지, 지원 지역, 지연 시간, 해당 워크로드의 비용을 확인해야 한다.
마이크로소프트는 Maia 300이 HBM4 스택 8개를 탑재하고, 피크 메모리 대역폭은 18TB/s, TDP는 950W이며, 연산 칩렛에는 TSMC N2P 공정이 사용된다고 밝혔다. 시스템에는 연산, 메모리 컨트롤러, 입출력을 위한 별도 블록도 포함된다. 랙에서 데이터센터 규모로 확장할 수 있도록 이더넷 네트워크를 사용한다. 회사는 Maia 300 아키텍처 기술 문서에서 세부 사항을 설명했다. 공개된 내용은 마이크로소프트가 GPU 인프라와 함께 추론용 자체 가속기를 어떻게 발전시키고 있는지 보여준다.