Michael Johnson6 Ekim’de Mistral, Mistral Large 4’ün herkese açık API ön izlemesini kullanıma açtı. Geliştiriciler modeli Mistral Studio üzerinden şimdiden test edebilir; şirket ise ağırlıkları ekim sonunda yayımlamayı planlıyor. 7 Ekim itibarıyla model API üzerinden değerlendirilebilir, ancak ağırlıkları henüz indirilemiyor. Bu durum, hizmet üzerinden hızlı test yapmakla modeli kendi ortamında çalıştırmak arasında seçim yaparken önem taşıyor.
Geliştiriciler şu anda neler yapabilir?
Mistral changelog kaydı, herkese açık ön izlemeyi ve lansmanda iki hafta süreyle geçerli olan %50 indirimli fiyatı doğruluyor. Model kartında çok modlu girdi desteği, işlev çağırma, yapılandırılmış çıktı, toplu işleme ve ajan araçları listeleniyor. Böylece geliştiriciler, modeli kendi görevlerinde API üzerinden deneyip dağıtım kararı vermeden önce değerlendirebilir.
Kontrol sırasında model kartında milyon girdi token’ı başına 0,68 $, milyon önbelleğe alınmış girdi token’ı başına 0,07 $ ve milyon çıktı token’ı başına 2,09 $ fiyat gösteriliyor. Yanında belirtilen standart fiyatlar bunun iki katı; indirim lansmana özel ve süreyle sınırlı. Bütçe hesabı yapmadan önce ücretleri doğrudan Mistral belgelerinden kontrol etmekte fayda var.
Teknik özelliklerde tutarsızlık var
Mistral, Large 4’ü çok modlu bir Mixture of Experts mimarisi olarak tanımlıyor. Belgelerde toplam 1,05 trilyon parametre ve 52 milyar etkin parametre belirtilirken, şirketin duyurusunda bu değerler sırasıyla 1 trilyon ve 49 milyar etkin parametre olarak veriliyor. Kaynaklar, değerlerin neden farklı olduğunu açıklamıyor. Bu nedenle iki sürümü de kaynaklarına atıfta bulunarak aktarmak, tek bir rakamda birleştirmekten daha doğru.
Belgelerde bir milyon token’lık bağlam penceresi belirtiliyor. Uzun istemleri planlarken bu teknik özelliği kullanılan API sürümünde doğrulamak yararlı olur; ön izleme parametreleri belgeler güncellendikçe netleşebilir.
Benchmark’ler belirli görevleri değerlendiriyor
Mistral, DeepSWE v1.1’de %61,7, Terminal-Bench 4’te %28,3 ve AutomationBench’te %59,9 sonuç elde ettiğini bildiriyor. Bunlar, şirketin belirli testler için yayımladığı sonuçlar: sırasıyla ajan davranışı içeren yazılım geliştirme görevleri, terminal iş akışları ve iş süreçlerinin otomasyonu. Bu sonuçları, model kalitesinin tek bir ölçüsü olarak değil, hangi testlerin yapılacağını seçerken başvurulacak göstergeler olarak değerlendirmek yararlı.
Uygulamada karar vermek için geliştiriciler, projelerini temsil eden birkaç görevi yeniden çalıştırmalı; model sürümünü, istemleri ve ayarları sabitlemeli, sonuçları testlerle doğrulamalı ve yeniden denemelerin maliyetini hesaba katmalı. Böyle bir test, yayımlanan sonuçların belirli kodlara, belgelere veya ajan iş akışlarına ne ölçüde uygulanabildiğini gösterir.
Açık ağırlıklar bir sonraki aşamada
Mistral, ek red-team testlerinin ardından ağırlıkları ekim sonuna kadar yayımlamayı planladığını açıkladı. Bu, şirketin geleceğe yönelik planı; yayın tarihi itibarıyla Large 4’ü kullanmanın doğrulanmış yolu, herkese açık API ön izlemesi. Kendi altyapısına ve modeli bağımsız yönetmeye ihtiyaç duyan ekipler için belirleyici gelişme, ağırlıkların ve bunlara eşlik eden kullanım koşullarının gerçekten yayımlanması olacak.
Geliştiriciler şimdilik API üzerinden erişilebilirliği, işlevleri ve kaliteyi inceleyebilir; modeli kendi ortamlarına taşıma kararını ağırlıkların yayımlanmasına kadar erteleyebilir. Lansmanda karşılaştırmalı iddialardan çok, iş görevlerinde tekrarlanabilir test sonuçları ve güncel fiyatlandırma koşulları önem taşıyor.