Michael JohnsonTekoälyn ulkopuolinen riskinarviointi riippuu siitä, mitä tietoa tutkija saa käyttöönsä: sisäiset testit, mallin koulutus ja suojamekanismit ovat yleensä yritykselle tutumpia kuin ulkopuolisille arvioijille. Anthropic kertoi 15. lokakuuta 2026 alkaneensa antaa METR-ryhmälle pääsyn sisäisiin työkaluihinsa ja järjestelmiinsä. Voittoa tavoittelemattoman järjestön kuusi työntekijää sai yrityksen laitteet ja työtilat käyttöönsä, ja METR voi julkaista riskinarviointien tulokset itsenäisesti.
Anthropicin sopimuksen kuvauksen mukaan ryhmän pääsy tietoihin vastaa suunnilleen yrityksen omien riskinarviointiryhmien pääsyä. Anthropicin työntekijöitä on kehotettu jakamaan METR:n osallistujille tietoa samalla tavoin kuin riskinarviointia tekeville kollegoilleen. Näin voidaan tutkia mallien toiminnan lisäksi niiden koulutusta, arviointiprosesseja ja suojamekanismeja koskevia tietoja.
Mitä METR voi tarkistaa
METR voi julkaista analyyseja riskitasoista, tapauksista ja Anthropicin käytännöistä. Yrityksen mukaan se ei voi estää julkaisua, mutta se voi vaatia muokkaamaan ennalta määriteltyihin ryhmiin kuuluvia tietoja, kuten asiakastietoja, asianajosalaisuuden piiriin kuuluvaa aineistoa ja mallien arkkitehtuuria koskevia tietoja. Anthropic päättää, kuuluuko jokin yksittäinen kohta näihin poikkeuksiin. METR puolestaan säilyttää oikeuden kuvata saamansa pääsyn laajuutta ja sille annettuja tietoja.
Riippumaton arviointi yhdistää siis pääsyn sisäisiin aineistoihin ja rajoitukset joidenkin tietojen julkistamiselle. Lukijoille tärkeitä ovat sekä METR:n johtopäätökset että kuvaus siitä, mitä aineistoja ryhmä pystyi tarkastelemaan ja mitkä rajoitukset vaikuttivat julkaisuun. Anthropic perustelee yhteistyömallia halulla kaventaa ulkopuolisten arvioijien ja laboratorion omien tietojen välistä eroa.
Miten pääsyn taso on järjestetty
Anthropic kutsuu METR:n kanssa tehtyä sopimusta oman arvioijien pääsymallinsa kolmanneksi tasoksi. Siihen kuuluu pääsy, joka vastaa sisäisten riskinarviointiryhmien pääsyä, sekä toisen tason kaltaiset julkaisuoikeudet. Työ on kuitenkin rajattu pienelle METR-ryhmälle, jota sitovat pakolliset sopimukset; järjestön muut työntekijät, myös muissa Anthropic-projekteissa työskentelevät, pidetään erillään tästä työstä.
Yritys kertoi tehneensä yhteistyötä METR:n kanssa noin vuoden ajan muun muassa riskiraporttien arvioinnissa. Muut kumppanuudet ovat varhaisemmassa vaiheessa: SecureBio tarkistaa Anthropicin elokuun raportin kemiallisia ja biologisia aseita käsittelevää lukua, ja yritys harkitsee pääsyn laajentamista työn valmistuttua. Accenture ja Faculty tekevät Anthropicin kanssa erillistä yhteistyötä mallien arvioinnin, red team -testauksen ja suojatoimien tarkistamisen parissa. Muiden organisaatioiden, kuten Hugging Facen, kanssa yrityksellä on alustavia keskusteluja.
Mitä tämä merkitsee yrityksille
Arkaluonteisiin prosesseihin malleja käyttöön ottaville organisaatioille järjestelyn käytännön arvo selviää julkaistuista arvioinneista: mitä riskejä tarkastettiin, mitä tietoja tutkittiin ja mitkä rajoitukset vaikuttivat johtopäätöksiin. Anthropicin ilmoitus kuvaa pääsyn ja julkaisemisen ehtoja, mutta ei kerro uusia tuloksia mallin arvioinnista. Yritysostajien kannattaa siksi pitää METR:n tulevia julkaisuja näyttönä tehdyistä yksittäisistä tarkistuksista, ei valmiina johtopäätöksenä yrityksen kaikkien mallien turvallisuudesta.
Lokakuun 15. päivän ilmoitus muuttaa ulkopuolisten arvioijien pääsyä sisäisiin tietoihin ja vahvistaa METR:n mahdollisuuden julkaista johtopäätöksensä sovituin poikkeuksin. Se, kuinka hyödyllinen järjestely on tekoälyn riskien riippumattomassa arvioinnissa, käy ilmi myöhempien arviointien sisällöstä ja niiden ehtojen selkeästä kuvaamisesta.