Michael JohnsonMicrosoft, 12 Ekim’de Azure Maia ailesini birkaç gigavata ölçeklendireceğini ve bu sürecin 2027’de başlayacağını duyurdu. Şirket, Maia 200’ü hâlihazırda çalışan üretim çıkarım altyapısının bir parçası olarak tanımlıyor: Çip; Copilot dâhil Microsoft iş yüklerine, OpenAI modellerine, şirketin kendi MAI modellerine ve açık ağırlıklı model ailelerine hizmet veriyor. Şirketin planına göre GitHub Copilot ve Microsoft Foundry de 2026’nın sonuna kadar bu altyapıyı kullanacak. Maia 300’ün üretim ortamlarına kurulumu 2027 için planlanıyor. Microsoft, farklı modelleri ve silikon türlerini bir araya getiren açık ve heterojen altyapısı kapsamında Maia’yı ürünleri ve hizmetleri için temel çıkarım sistemi hâline getirmeyi amaçlıyor. Şirket, duyurusunda Maia’nın Azure müşterilerine ne zaman sunulacağına ilişkin bir takvim açıklamadı.
Microsoft, Maia 200’ün ABD, Avrupa ve Avustralya’da kullanıma sunulduğunu belirtiyor. Teams, Copilot ve Cowork’ün yerleşik yapay zekâ özellikleri için şirket, önde gelen GPU altyapısına kıyasla watt başına 1,7 kata kadar daha fazla belirteç işlenebileceğini tahmin ediyor. Bu, Microsoft’un adı geçen hizmetleri ve kendi çalışma koşulları için verdiği bir ölçüm.
Maia 300, çıkarım ve uzun bağlam için tasarlanıyor
Microsoft, Maia 300’ü uzun bağlamların işlenmesi, gecikmeye duyarlı diyalog görevleri ve çok adımlı ajan senaryoları gibi yoğun kaynak gerektiren çıkarım iş yükleri için konumlandırıyor. Şirket, hesaplama gücü, bellek bant genişliği, ağ iletişimi ve enerji tüketimi arasında denge kuran bir mimari tanımlıyor. Microsoft, büyük çıkarım sistemlerindeki darboğazlardan biri olarak veri taşınmasını gösteriyor; şirketin tasarımına göre yazılım tanımlı bir veri işleme mimarisi, hesaplama, ağ ve bellek kaynaklarının daha iyi kullanılmasını sağlamalı.
96 Maia 300 hızlandırıcılı bir raf, 27,6 TB HBM ve toplam 1,7 PB/sn bellek bant genişliği için tasarlandı; bildirilen güç değeri 167 kW. Microsoft’un tahminine göre 96 hızlandırıcılı tam yapılandırma, raf düzeyinde toplam belirteç bant genişliğini Maia 200’e kıyasla yedi kata kadar artırabilir. Şirket ayrıca önde gelen GPU sistemlerine kıyasla megavat başına %40 daha fazla belirteç öngörüyor. Bu tahminler gelecekteki yapılandırmaya ait; Maia 300’ün üretim ortamlarına kurulumu 2027 için planlanıyor.
Kendi hızlandırıcılarına yatırım yapmak ne anlama geliyor?
Kendi hızlandırıcısını geliştirmek, bulut sağlayıcısının çipleri, ağı, yazılımı ve hizmet iş yüklerini birlikte tasarlamasını sağlar. Microsoft, Maia’yı geniş ölçekte çalışan model ve uygulamaları dikkate alan bu tür bir tasarımın örneği olarak gösteriyor. Bulut işi açısından bu yaklaşım, çıkarım için kullanılabilecek altyapı seçeneklerini artırabilir ve veri merkezlerinin güç kapasitesi dâhilinde daha fazla yapay zekâ isteğine hizmet etmeye yardımcı olabilir. Şirket, duyurusunda bunun Azure fiyatlarını veya çipin müşteri iş yüklerine sunulmasını nasıl etkileyeceğini açıklamadı.
Bugün altyapı seçen ekiplerin, üretim iş yüklerinde kullanılan Maia 200 ile gelecekteki Maia 300’ü birbirinden ayırması önemli. Microsoft, Maia 300’ün müşterilere sunulacağı tarihi, kullanılacağı belirli bulut hizmetlerini veya fiyatlandırmayı açıklamadı. Dağıtım planı yapılırken hızlandırıcının ihtiyaç duyulan model ve hizmet için kullanılabilirliği, coğrafi konumu, gecikme süresi ve ilgili iş yükünün maliyeti kontrol edilmeli.
Microsoft, Maia 300 için sekiz HBM4 yığını, 18 TB/sn tepe bellek bant genişliği ve 950 W TDP değerine sahip olduğunu; hesaplama yongacıklarının ise TSMC N2P üretim sürecinde üretildiğini belirtiyor. Sistem ayrıca ayrı hesaplama, bellek denetleyicisi ve G/Ç blokları içeriyor; raf ölçeğinden veri merkezi ölçeğine genişlemek için Ethernet ağı kullanıyor. Şirket, mimarinin ayrıntılarını Maia 300 hakkındaki teknik yazısında anlattı. Yayımlanan bilgiler, Microsoft’un GPU altyapısının yanı sıra çıkarım için kendi hızlandırıcılarını da geliştirdiğini gösteriyor.