Michael JohnsonLa evaluación externa de los riesgos de la IA depende de la información a la que acceden los investigadores: las empresas suelen conocer mejor que los evaluadores externos las pruebas internas, el entrenamiento de los modelos y las medidas de protección. El 15 de octubre de 2026, Anthropic anunció que había empezado a dar al equipo de METR acceso a sus herramientas y sistemas internos. Seis empleados de la organización sin ánimo de lucro recibieron equipos y puestos de trabajo de la empresa; METR podrá publicar sus propias evaluaciones de riesgos.
Según la descripción del acuerdo de Anthropic, el acceso del grupo es aproximadamente comparable al de los equipos internos de evaluación de riesgos de la empresa. Se ha pedido a los empleados de Anthropic que compartan información con los participantes de METR como lo harían con sus compañeros que trabajan en la evaluación de riesgos. Esto permite examinar no solo el comportamiento de los modelos, sino también información sobre su entrenamiento, los procesos de evaluación y las medidas de protección.
Qué podrá comprobar METR
METR podrá publicar análisis sobre los niveles de riesgo, los incidentes y las prácticas de Anthropic. La empresa afirma que no puede vetar una publicación, pero sí solicitar la edición de información perteneciente a categorías predefinidas, como datos de clientes, materiales protegidos por el secreto profesional entre abogado y cliente e información sobre la arquitectura de los modelos. La decisión de si un fragmento concreto queda incluido en estas excepciones corresponde a Anthropic. METR, por su parte, conserva el derecho a describir el nivel de acceso que recibió y la información que se le proporcionó.
Por tanto, la evaluación independiente combinará el acceso a materiales internos con restricciones para divulgar cierta información. Para los lectores serán importantes tanto las conclusiones de METR como la descripción de los materiales que el grupo pudo examinar y de las restricciones que afectaron a la publicación. Anthropic explica que el objetivo de este modelo de colaboración es reducir la brecha entre lo que saben los evaluadores externos y lo que sabe el propio laboratorio.
Cómo se organiza el nivel de acceso
Anthropic denomina a su acuerdo con METR el tercer nivel de su propio sistema de acceso para evaluadores. Este contempla un acceso comparable al de los equipos internos de evaluación de riesgos y derechos de publicación similares a los del segundo nivel. Sin embargo, el trabajo se limita a un grupo pequeño de METR sujeto a acuerdos vinculantes; el resto de los empleados de la organización, incluidos quienes participan en otros proyectos con Anthropic, queda separado de esta labor.
La empresa dijo que lleva alrededor de un año colaborando con METR, entre otras cosas en revisiones de informes de riesgos. Otras colaboraciones se encuentran en etapas más tempranas: SecureBio está revisando el capítulo sobre armas químicas y biológicas del informe de Anthropic de agosto; la empresa estudia ampliar el acceso cuando finalice ese trabajo. Anthropic desarrolla por separado con Accenture y Faculty una colaboración para evaluar modelos, realizar red teaming y comprobar medidas de protección. La empresa mantiene conversaciones preliminares con otras organizaciones, entre ellas Hugging Face.
Qué cambia para las empresas
Para las organizaciones que incorporan modelos en procesos sensibles, el valor práctico de este sistema se apreciará en las evaluaciones publicadas: qué riesgos se comprobaron, qué datos se examinaron y qué restricciones afectaron a las conclusiones. El anuncio de Anthropic describe las condiciones de acceso y publicación, pero no comunica nuevos resultados sobre la evaluación de un modelo. Por ello, los compradores empresariales deberían considerar los futuros materiales de METR como evidencia de comprobaciones concretas, no como una conclusión definitiva sobre la seguridad de todos los modelos de la empresa.
El anuncio del 15 de octubre cambia el acceso de los evaluadores externos a la información interna y garantiza que METR pueda publicar sus conclusiones, con las excepciones acordadas. El contenido de las próximas evaluaciones y la claridad con que se describan sus condiciones mostrarán hasta qué punto este sistema resulta útil para verificar de forma independiente los riesgos de la IA.