Michael JohnsonEkstern vurdering av KI-risiko avhenger av hvilken informasjon forskerne får tilgang til: interne tester, modelltrening og sikkerhetsmekanismer er vanligvis bedre kjent for selskapet enn for eksterne evaluatorer. 15. oktober 2026 opplyste Anthropic at selskapet hadde begynt å gi METR-teamet tilgang til sine interne verktøy og systemer. Seks ansatte i den ideelle organisasjonen fikk utstyr og arbeidsplasser hos selskapet; METR kan publisere resultatene av sine risikovurderinger på egen hånd.
Ifølge Anthropics beskrivelse av avtalen er gruppens tilgang omtrent på nivå med tilgangen selskapets egne risikovurderingsteam har. Anthropic-ansatte oppfordres til å dele informasjon med METR-deltakerne på samme måte som med kolleger som arbeider med risikovurdering. Dermed kan de undersøke ikke bare modellenes atferd, men også informasjon om trening, evalueringsprosesser og sikkerhetsmekanismer.
Hva METR kan undersøke
METR kan publisere analyser av risikonivåer, hendelser og Anthropics praksis. Selskapet sier at det ikke kan nedlegge veto mot publisering, men kan kreve redigering av opplysninger innenfor forhåndsdefinerte kategorier, for eksempel kundedata, materiale som er beskyttet av advokat- og klientprivilegiet, og informasjon om modellarkitektur. Anthropic avgjør om et konkret utdrag omfattes av disse unntakene. METR beholder på sin side retten til å beskrive tilgangsnivået gruppen fikk, og hvilken informasjon den fikk tilgang til.
Den uavhengige vurderingen vil dermed kombinere tilgang til interne materialer med begrensninger på offentliggjøring av enkelte opplysninger. For leserne er både METRs konklusjoner og beskrivelsen av hvilke materialer gruppen kunne undersøke, og hvilke begrensninger som påvirket publiseringen, viktige. Anthropic forklarer samarbeidsmodellen med et ønske om å redusere avstanden mellom eksterne evaluatorers kunnskap og laboratoriets egen kunnskap.
Slik er tilgangsnivået utformet
Anthropic omtaler avtalen med METR som det tredje nivået i selskapets egen tilgangsmodell for evaluatorer. Det innebærer tilgang på nivå med selskapets interne risikovurderingsteam og publiseringsrettigheter som tilsvarer nivå to. Arbeidet er imidlertid begrenset til en liten gruppe i METR, som er bundet av avtaler; resten av organisasjonens ansatte, også de som arbeider med andre Anthropic-prosjekter, holdes adskilt fra dette arbeidet.
Selskapet opplyste at det har samarbeidet med METR i omtrent ett år, blant annet om gjennomgang av risikorapporter. Andre partnerskap er på et tidligere stadium: SecureBio gjennomgår kapitlet om kjemiske og biologiske våpen i Anthropics rapport fra august; selskapet vurderer å utvide tilgangen når arbeidet er ferdig. Anthropic utvikler et separat samarbeid med Accenture og Faculty om modelevaluering, red teaming og testing av sikkerhetstiltak. Selskapet fører innledende samtaler med andre organisasjoner, blant dem Hugging Face.
Hva dette betyr for selskaper
For organisasjoner som innfører modeller i sensitive prosesser, vil ordningens praktiske verdi komme fram i de publiserte vurderingene: hvilke risikoer som ble undersøkt, hvilke data som ble gjennomgått, og hvilke begrensninger som påvirket konklusjonene. Anthropics kunngjøring beskriver tilgangs- og publiseringsvilkårene, men legger ikke fram nye resultater fra modelevalueringer. Bedriftskunder bør derfor se framtidige METR-publikasjoner som dokumentasjon på konkrete undersøkelser, ikke som en ferdig konklusjon om sikkerheten til alle selskapets modeller.
Hendelsen 15. oktober endrer eksterne evaluatorers tilgang til intern informasjon og gir METR rett til å publisere sine konklusjoner, med de avtalte unntakene. Innholdet i de kommende vurderingene og hvor tydelig vilkårene beskrives, vil vise hvor nyttig ordningen er for uavhengig vurdering av KI-risiko.