Michael JohnsonLa valutazione esterna dei rischi dell’IA dipende dalle informazioni a disposizione dei ricercatori: di norma, i test interni, l’addestramento dei modelli e le misure di sicurezza sono più noti all’azienda che ai valutatori esterni. Il 15 ottobre 2026 Anthropic ha annunciato di aver iniziato a concedere al team di METR l’accesso ai propri strumenti e sistemi interni. Sei membri dell’organizzazione non profit hanno ricevuto attrezzature e postazioni di lavoro dell’azienda; METR potrà pubblicare autonomamente i risultati delle valutazioni dei rischi.
Secondo la descrizione dell’accordo di Anthropic, l’accesso del gruppo è grosso modo paragonabile a quello dei team interni dell’azienda che valutano i rischi. Ai dipendenti di Anthropic è stato chiesto di condividere informazioni con i membri di METR come farebbero con i colleghi che lavorano alla valutazione dei rischi. Ciò consente di esaminare non soltanto il comportamento dei modelli, ma anche le informazioni sull’addestramento, i processi di valutazione e le misure di sicurezza.
Che cosa potrà verificare METR
METR potrà pubblicare analisi dei livelli di rischio, degli incidenti e delle pratiche di Anthropic. L’azienda afferma di non poter porre il veto alle pubblicazioni, ma di poter richiedere la modifica delle informazioni appartenenti a categorie definite in anticipo: per esempio, i dati dei clienti, i materiali tutelati dal segreto professionale e le informazioni sull’architettura dei modelli. Spetta ad Anthropic decidere se un determinato passaggio rientri in queste eccezioni. METR mantiene invece il diritto di descrivere il livello di accesso ottenuto e le informazioni messe a disposizione.
La valutazione indipendente combinerà dunque l’accesso ai materiali interni con limiti alla divulgazione di alcune informazioni. Per i lettori saranno importanti sia le conclusioni di METR sia la descrizione dei materiali che il gruppo ha potuto esaminare e dei limiti che hanno inciso sulla pubblicazione. Anthropic spiega che la collaborazione mira a ridurre il divario tra le conoscenze dei valutatori esterni e quelle del laboratorio stesso.
Come funziona il livello di accesso
Anthropic definisce l’accordo con METR il terzo livello del proprio schema di accesso per i valutatori. Prevede un accesso paragonabile a quello dei team interni che valutano i rischi e diritti di pubblicazione analoghi a quelli del secondo livello. Il lavoro è però affidato a un piccolo gruppo di METR, soggetto ad accordi vincolanti; gli altri membri dell’organizzazione, compresi quelli impegnati in altri progetti con Anthropic, sono esclusi da questa attività.
L’azienda ha dichiarato di collaborare con METR da circa un anno, anche per la revisione dei rapporti sui rischi. Altre partnership sono in una fase iniziale: SecureBio sta esaminando il capitolo sulle armi chimiche e biologiche del rapporto di Anthropic di agosto; l’azienda valuta la possibilità di ampliare l’accesso una volta concluso il lavoro. Con Accenture e Faculty, Anthropic porta avanti collaborazioni distinte per la valutazione dei modelli, il red teaming e la verifica delle misure di sicurezza. L’azienda sta inoltre avviando discussioni preliminari con altre organizzazioni, tra cui Hugging Face.
Che cosa cambia per le aziende
Per le organizzazioni che integrano modelli in processi sensibili, il valore pratico dello schema emergerà dalle valutazioni pubblicate: quali rischi sono stati verificati, quali dati sono stati esaminati e quali limiti hanno inciso sulle conclusioni. L’annuncio di Anthropic descrive le condizioni di accesso e di pubblicazione, ma non comunica nuovi risultati sulla valutazione dei modelli. Perciò, le aziende che acquistano soluzioni dovrebbero considerare i futuri materiali di METR come evidenze relative a verifiche specifiche, non come un giudizio definitivo sulla sicurezza di tutti i modelli dell’azienda.
L’annuncio del 15 ottobre modifica l’accesso dei valutatori esterni alle informazioni interne e riconosce a METR la possibilità di pubblicare le proprie conclusioni, fatte salve le eccezioni concordate. Saranno i contenuti delle valutazioni successive e la chiarezza con cui verranno descritte le relative condizioni a mostrare quanto questo schema sia utile per una verifica indipendente dei rischi dell’IA.