Michael JohnsonAIの外部リスク評価は、研究者がどのような情報を得られるかに左右されます。内部テストやモデルの訓練、安全対策については、通常、外部評価者よりも企業のほうが詳しいからです。2026年10月15日、AnthropicはMETRのチームに社内のツールやシステムへのアクセスを提供し始めたと発表しました。非営利団体の職員6人には機器と社内の作業場所が提供され、METRはリスク評価の結果を独自に公表できます。
Anthropicによる合意内容の説明によると、このグループに認められるアクセスは、同社のリスク評価チームが持つアクセスにおおむね相当します。Anthropicの職員には、リスク評価に携わる同僚と同じようにMETRの参加者と情報を共有するよう求められています。これにより、モデルの挙動だけでなく、訓練や評価のプロセス、安全対策に関する情報も調査できます。
METRが検証できること
METRは、リスクの水準、インシデント、Anthropicの取り組みに関する分析を公表できます。同社は公表を拒否する権限はないとしていますが、あらかじめ定めた区分に該当する情報については編集を求めることができます。たとえば、顧客データ、弁護士秘匿特権で保護された資料、モデルアーキテクチャに関する情報などです。特定の記述がこれらの例外に該当するかどうかは、Anthropicが判断します。一方、METRには、得られたアクセスの水準や提供された情報について説明する権利が残されています。
つまり、独立評価は社内資料へのアクセスと、特定情報の開示制限を組み合わせたものになります。読者にとって重要なのは、METRの結論だけでなく、どの資料を調査でき、どのような制限が公表に影響したかという説明です。Anthropicは、外部評価者と自社の研究所との知識の隔たりを縮めることが、この協力の狙いだと説明しています。
アクセスの段階
Anthropicは、METRとの合意を、評価者向けに設けた独自のアクセス制度の第3段階と位置付けています。この段階では、社内のリスク評価チームに相当するアクセスと、第2段階に準じた公表権が認められます。ただし、活動に参加できるのは、拘束力のある契約に基づいて業務を行うMETRの小規模なグループに限られます。Anthropicの他のプロジェクトに携わる職員を含む、METRのその他の職員はこの業務から分離されています。
同社によると、METRとはリスク報告書のレビューなどを含め、約1年前から協力しています。他の提携は、まだ初期段階にあります。SecureBioはAnthropicの8月の報告書にある化学兵器・生物兵器の章を検証しており、同社はこの作業が終わった後にアクセスを拡大する可能性を検討しています。AnthropicはAccentureおよびFacultyとは、モデル評価、レッドチーム演習、安全対策の検証に関する別の協力を進めています。Hugging Faceなど他の組織とは、予備的な協議を行っています。
企業にとっての意味
モデルを重要な業務に導入する企業にとって、この制度の実用性を示すのは、どのリスクが検証され、どのデータが調査され、どの制限が結論に影響したかを明らかにする評価結果です。Anthropicの発表はアクセスと公表の条件を説明していますが、モデル評価の新たな結果は示していません。そのため、企業の購入担当者は、今後公表されるMETRの資料を、同社のすべてのモデルに対する包括的な安全性の結論ではなく、具体的な検証についての証拠として捉えるべきです。
10月15日の発表により、外部評価者が社内情報にアクセスできる範囲が変わり、一定の例外を設けたうえでMETRが結論を公表できることが明確になりました。この制度がAIリスクの独立検証にどれほど役立つかは、今後の評価内容と、その実施条件がどれだけ明確に説明されるかによって示されるでしょう。