Mistral julkaisi Le Chonkin painot: mallin voi ottaa käyttöön ja hienosäätää itse

Mistral julkaisi 29. lokakuuta päivitetyn Mistral Large 4 -mallin painot. Le Chonkina tunnetun mallin voi nyt ladata, hienosäätää ja ottaa käyttöön omassa infrastruktuurissa sen sijaan, että olisi pakko käyttää Mistralin palvelua. Yritysten on hyvä huomioida poikkeus: mallin tarjoaminen Model-as-a-Service-palveluna edellyttää erillistä kaupallista lisenssiä.

Mitä tuli saataville

Mistralin julkaisuilmoituksen mukaan painot kuuluvat versioon, jota on parannettu lokakuun alussa alkaneen julkisen esikatselun jälkeen. Yhtiön mukaan mallia voi kokeilla Mistral Studiossa ja API:n kautta, ja omassa ympäristössä käyttöönottoa varten painot voi ladata Hugging Facesta. Käynnistysvaihtoehtoina mainitaan vLLM ja SGLang. Lisäksi saatavilla ovat NVIDIA NIM -kontti ja NVIDIA:n ylläpitämät päätepisteet.

Käytännössä muutos antaa mahdollisuuden hallita, missä mallia suoritetaan, ja mukauttaa sitä omiin tarpeisiin. Tiimi voi ottaa mallin käyttöön omassa ympäristössään, hienosäätää sitä sisäisellä koodilla tai datalla ja hallita itse sen integrointia. Tämä on erityisen tärkeää organisaatioille, jotka haluavat käsitellä tietoja omassa infrastruktuurissaan. Hallittujen palvelujen käyttäjille vaihtoehtoina ovat edelleen Mistral API, Mistral Studio, OpenRouter ja Microsoft Foundry.

Mitä julkaistut testitulokset kertovat

Mistral kertoo useiden testien tuloksista, mutta kyseessä ovat yhtiön omat tiedot ja sen valitsemat arviointimenetelmät. Yksityisessä Cognition FrontierCode 2.0 -testissä malli sai 19,7 prosenttia. Artificial Analysis Coding Agent Indexissä tulos oli 48 prosenttia, ja yhtiön vertailussa tehtävää kohti kului keskimäärin 47 prosenttia vähemmän tokeneita kuin johtavalla avoimien painojen mallilla. Terminal-Bench 4.0 -testissä tulos parani esikatseluversioon verrattuna 13 prosenttiyksikköä ja oli 41 prosenttia.

Kyberturvallisuuden asiantuntijoille Mistral ilmoittaa 51 prosentin tuloksen Artificial Analysis Cyber Indexissä. Testissä arvioidaan haavoittuvuuksien löytämistä, toistamista ja korjaamista. Yhtiö kertoo myös, että malli kieltäytyi keskimäärin 96,6 prosentissa haitallisista kyberturvallisuuteen liittyvistä pyynnöistä, jotka olivat peräisin JailbreakBench-, StrongREJECT- ja AgentHarm-aineistoista. Tulokset koskevat tiettyjä tehtäväjoukkoja, joten mallia harkitsevien organisaatioiden kannattaa arvioida sitä myös omilla tehtävillään ja turvallisuusasetuksillaan.

Kenelle julkaisu tarjoaa enemmän valinnanvaraa

Pienet kehitystiimit voivat tutkia ja mukauttaa mallia ilman, että niiden tarvitsee kehittää omaa perustamallia. Yritykset voivat päättää, missä käsittely tapahtuu, mitä sisäisiä tietoja käytetään hienosäätöön ja miten malli liitetään olemassa olevaan ympäristöön. Tutkimus- ja tietoturvatiimit voivat perehtyä mallin toimintaan ja testata sitä hallituissa tilanteissa.

”Avoimet painot” tarkoittavat tässä pääsyä mallin parametreihin ja mahdollisuutta käyttää niitä lisenssin ehtojen mukaisesti, eivät automaattisesti maksutonta käyttöä. Paikallinen käyttö edellyttää sopivaa laskentainfrastruktuuria ja työtä mallin käyttöönotossa. Mistral ei julkaissut tässä ilmoituksessa kattavaa teknistä raporttia, vaan lupasi sen myöhemmin. Siksi julkaistuja tuloksia on toistaiseksi syytä tulkita vain kuvattujen testien perusteella.

Mitä tarkistaa ennen käyttöönottoa

Mistral Ecosystem Open-Weight -lisenssi sallii mallin käytön, muuttamisen, hienosäädön ja kaupallistamisen. Poikkeus koskee yrityksiä, jotka tarjoavat mallia Model-as-a-Service-palveluna: tällaiseen kaupalliseen tarjontaan tarvitaan Mistralilta erillinen lisenssi. Ennen käyttöönottoa kannattaa verrata tuotesuunnitelmaa mallikorttiin ja lisenssiin ja testata sen jälkeen laatua, nopeutta ja kustannuksia tiimin tyypillisissä tehtävissä.

Julkaisun tärkein anti ei siis ole lupaus siitä, että malli hyödyttäisi kaikkia samalla tavalla, vaan käyttäjien lisääntynyt hallinta: Le Chonkin painot voi nyt hankkia ja ottaa käyttöön itse, mutta pilvipalvelun valinta säilyy. Tiimeille, joille mallin mukauttaminen ja käyttöympäristön hallinta ovat tärkeitä, tämä on konkreettinen uusi vaihtoehto. Lisenssin ehdot ja oman infrastruktuurin kustannukset ratkaisevat, sopiiko se tiettyyn hankkeeseen.