Michael Johnson6. lokakuuta Mistral avasi Mistral Large 4:n julkisen API-esiversion. Kehittäjät voivat jo testata mallia Mistral Studiossa, ja yhtiö suunnittelee painojen julkaisemista lokakuun loppuun mennessä. 7. lokakuuta mallia voi arvioida API:n kautta; sen painoja ei vielä voi ladata. Tämä tilanne on tärkeä, kun valitaan palvelussa tehtävän nopean testauksen ja itsenäisen käyttöönoton välillä.
Mitä kehittäjät voivat tehdä nyt
Mistralin muutoslokimerkintä vahvistaa julkisen esiversion sekä julkaisun yhteydessä tarjotun 50 prosentin alennuksen, joka on voimassa kaksi viikkoa. Mallikortissa luetellaan multimodaalisen syötteen tuki, funktiokutsut, rakenteinen tuloste, eräkäsittely ja agenttien työkalut. Näin kehittäjät voivat kokeilla mallia omissa tehtävissään API:n kautta ennen käyttöönottopäätöstä.
Tarkistushetkellä mallikortilla näkyvät hinnat ovat 0,68 dollaria miljoonaa syötetokenia kohti, 0,07 dollaria miljoonaa välimuistiin tallennettua syötetokenia kohti ja 2,09 dollaria miljoonaa tulostetokenia kohti. Samassa yhteydessä ilmoitetut normaalihinnat ovat kaksinkertaiset: alennus liittyy julkaisuun ja on määräaikainen. Budjettia laskiessa hinnat kannattaa tarkistaa suoraan Mistralin dokumentaatiosta.
Teknisissä tiedoissa on ristiriita
Mistral kuvailee Large 4:ää multimodaaliseksi Mixture of Experts -arkkitehtuuriksi. Dokumentaation mukaan mallissa on yhteensä 1,05 biljoonaa parametria, joista 52 miljardia on aktiivisia; yhtiön julkistuksessa luvut ovat biljoona ja 49 miljardia aktiivista parametria. Lähteet eivät selitä, miksi luvut eroavat. Siksi molemmat versiot on täsmällisempää esittää lähteisiin viitaten kuin yhdistää ne yhdeksi luvuksi.
Dokumentaation mukaan konteksti-ikkuna on miljoona tokenia. Pitkien pyyntöjen suunnittelussa tämä tekninen tieto kannattaa varmistaa käytössä olevasta API-versiosta: esiversion parametrit voivat tarkentua dokumentaation päivittyessä.
Vertailutestit kuvaavat yksittäisiä tehtäviä
Mistral ilmoittaa tuloksikseen 61,7 % DeepSWE v1.1 -testissä, 28,3 % Terminal-Bench 4 -testissä ja 59,9 % AutomationBench-testissä. Nämä ovat yhtiön itse julkaisemia tuloksia tietyissä testeissä, jotka koskevat vastaavasti agenttimaista toimintaa edellyttäviä ohjelmointitehtäviä, päätetyöskentelyä ja liiketoimintaprosessien automatisointia. Tuloksia kannattaa pitää lähtökohtina omien testien valinnalle, ei mallin laadun yhtenä mittarina.
Käytännön päätöstä varten kehittäjien kannattaa toistaa useita projektinsa edustavia tehtäviä: kirjata malliversio, kehotteet ja asetukset, tarkistaa tulos testeillä ja ottaa huomioon uusintayritysten kustannukset. Näin selviää, miten julkaistut tulokset siirtyvät juuri kyseiseen koodiin, dokumentteihin tai agenttiprosessiin.
Avoimet painot ovat seuraava vaihe
Mistral ilmoitti suunnittelevansa painojen julkaisemista lokakuun loppuun mennessä lisäred team -testauksen jälkeen. Kyseessä on yhtiön tulevaisuutta koskeva suunnitelma; julkaisuhetkellä vahvistettu tapa käyttää Large 4:ää on julkinen API-esiversio. Tiimeille, jotka tarvitsevat omaa infrastruktuuria ja mallin itsenäistä hallintaa, ratkaisevaa on painojen sekä niiden käyttöehtojen tosiasiallinen julkaiseminen.
Kehittäjät voivat toistaiseksi tarkistaa saatavuuden, ominaisuudet ja laadun API:n kautta ja lykätä päätöstä mallin siirtämisestä omaan ympäristöön painojen julkaisuun asti. Alkuvaiheessa vertailuväitteitä hyödyllisempiä ovat toistettavan, työtehtäviin perustuvan testin tulokset ja ajantasaiset hinnoitteluehdot.