Michael JohnsonL’évaluation externe des risques liés à l’IA dépend des informations auxquelles les chercheurs ont accès : les tests internes, l’entraînement des modèles et les mécanismes de protection sont généralement mieux connus de l’entreprise que des évaluateurs externes. Le 15 octobre 2026, Anthropic a annoncé avoir commencé à donner à l’équipe de METR accès à ses outils et systèmes internes. Six membres de l’organisme à but non lucratif ont reçu du matériel et des postes de travail de l’entreprise ; METR pourra publier de manière indépendante les résultats de ses évaluations des risques.
Selon la description de l’accord par Anthropic, l’accès du groupe est à peu près comparable à celui des équipes internes d’évaluation des risques de l’entreprise. Les employés d’Anthropic sont invités à partager des informations avec les membres de METR comme ils le feraient avec leurs collègues chargés de l’évaluation des risques. Cela permet d’étudier non seulement le comportement des modèles, mais aussi les informations relatives à leur entraînement, aux processus d’évaluation et aux mécanismes de protection.
Ce que METR pourra examiner
METR pourra publier des analyses des niveaux de risque, des incidents et des pratiques d’Anthropic. L’entreprise affirme qu’elle ne peut pas opposer son veto à une publication, mais qu’elle peut demander la modification d’informations relevant de catégories définies à l’avance : par exemple, des données clients, des documents couverts par le secret professionnel de l’avocat et des informations sur l’architecture des modèles. C’est Anthropic qui décide si un passage donné relève de ces exceptions. De son côté, METR conserve le droit de décrire le niveau d’accès dont il a bénéficié et les informations qui lui ont été fournies.
L’évaluation indépendante associera donc l’accès à des documents internes à des restrictions concernant la divulgation de certaines informations. Pour les lecteurs, les conclusions de METR et la description des documents que le groupe a pu examiner, ainsi que des restrictions ayant influé sur la publication, sont tout aussi importantes. Anthropic explique que ce modèle de collaboration vise à réduire l’écart entre les connaissances des évaluateurs externes et celles du laboratoire lui-même.
Comment le niveau d’accès est organisé
Anthropic présente son accord avec METR comme le troisième niveau de son propre dispositif d’accès pour les évaluateurs. Celui-ci prévoit un accès comparable à celui des équipes internes d’évaluation des risques et des droits de publication similaires à ceux du deuxième niveau. Le travail est toutefois limité à un petit groupe de METR, soumis à des accords contraignants ; les autres membres de l’organisation, y compris ceux qui travaillent sur d’autres projets avec Anthropic, sont tenus à l’écart.
L’entreprise a indiqué qu’elle collaborait avec METR depuis environ un an, notamment pour examiner des rapports sur les risques. D’autres partenariats en sont à un stade plus précoce : SecureBio examine le chapitre consacré aux armes chimiques et biologiques dans le rapport d’Anthropic publié en août ; l’entreprise envisage d’élargir l’accès une fois ce travail achevé. Anthropic développe avec Accenture et Faculty une collaboration distincte portant sur l’évaluation des modèles, le red teaming et la vérification des protections. L’entreprise mène des discussions préliminaires avec d’autres organisations, dont Hugging Face.
Ce que cela change pour les entreprises
Pour les organisations qui déploient des modèles dans des processus sensibles, l’utilité pratique du dispositif apparaîtra dans les évaluations publiées : quels risques ont été examinés, quelles données ont été étudiées et quelles restrictions ont influé sur les conclusions. L’annonce d’Anthropic décrit les conditions d’accès et de publication, mais ne présente aucun nouveau résultat d’évaluation de modèle. Les entreprises clientes devraient donc considérer les futurs travaux de METR comme des éléments attestant de vérifications précises, et non comme une conclusion définitive sur la sécurité de tous les modèles de l’entreprise.
L’annonce du 15 octobre modifie l’accès des évaluateurs externes aux informations internes et garantit à METR la possibilité de publier ses conclusions, sous réserve d’exceptions définies. C’est le contenu des évaluations à venir et la clarté de la description de leurs conditions qui montreront dans quelle mesure ce dispositif contribue à l’évaluation indépendante des risques liés à l’IA.