Michael Johnsonيتوقف التقييم الخارجي لمخاطر الذكاء الاصطناعي على المعلومات التي يحصل عليها الباحث؛ فالشركة عادةً أقدر من الجهات الخارجية على معرفة الاختبارات الداخلية وتدريب النماذج وآليات الحماية. في 15 أكتوبر 2026، أعلنت Anthropic أنها بدأت إتاحة الوصول إلى أدواتها وأنظمتها الداخلية لفريق METR. وحصل ستة من موظفي المنظمة غير الربحية على معدات وأماكن عمل داخل الشركة، وستتمكن METR من نشر نتائج تقييمات المخاطر بصورة مستقلة.
وفقًا لوصف Anthropic للاتفاق، فإن مستوى وصول المجموعة مماثل تقريبًا لمستوى وصول فرق تقييم المخاطر الداخلية في الشركة. وقد طُلب من موظفي Anthropic مشاركة المعلومات مع أعضاء METR بالطريقة نفسها التي يتبعونها مع زملائهم العاملين على تقييم المخاطر. ويتيح ذلك دراسة سلوك النماذج، إلى جانب معلومات عن تدريبها وعمليات تقييمها وآليات الحماية فيها.
ما الذي ستتمكن METR من فحصه؟
ستتمكن METR من نشر تحليلات عن مستويات المخاطر والحوادث وممارسات Anthropic. وتقول الشركة إنها لا تستطيع منع النشر، لكنها تستطيع طلب حجب المعلومات التي تندرج ضمن فئات محددة سلفًا، مثل بيانات العملاء والمواد المشمولة بالسرية بين المحامي وموكله والمعلومات المتعلقة بهندسة النماذج. وتعود إلى Anthropic صلاحية تحديد ما إذا كان مقطع بعينه يندرج ضمن هذه الاستثناءات. وفي المقابل، تحتفظ METR بحق وصف مستوى الوصول الذي حصلت عليه والمعلومات التي أُتيحت لها.
وعليه، سيجمع التقييم المستقل بين الاطلاع على المواد الداخلية والقيود المفروضة على الكشف عن بعض المعلومات. وما يهم القراء هو استنتاجات METR، وكذلك وصف المواد التي تمكنت المجموعة من فحصها والقيود التي أثرت في النشر. وتوضح Anthropic أن هدف هذا التعاون هو تقليص الفجوة بين معرفة المقيمين الخارجيين ومعرفة المختبر نفسه.
كيف صُمم مستوى الوصول؟
تصف Anthropic اتفاقها مع METR بأنه المستوى الثالث ضمن مخططها الخاص لإتاحة الوصول للمقيمين. وهو يتيح مستوى وصول مماثلًا لما تتمتع به فرق تقييم المخاطر الداخلية، وحقوق نشر مماثلة للمستوى الثاني. لكن العمل يقتصر على مجموعة صغيرة من METR تعمل بموجب اتفاقيات ملزمة؛ أما بقية موظفي المنظمة، بمن فيهم المشاركون في مشاريع أخرى مع Anthropic، فهم منفصلون عن هذا العمل.
أفادت الشركة بأنها تتعاون مع METR منذ نحو عام، بما في ذلك مراجعة تقارير المخاطر. أما الشراكات الأخرى فما زالت في مراحل أبكر: إذ تراجع SecureBio فصلًا عن الأسلحة الكيميائية والبيولوجية في تقرير Anthropic الصادر في أغسطس، وتدرس الشركة إمكانية توسيع نطاق الوصول بعد إنجاز هذا العمل. وتطوّر Anthropic تعاونًا منفصلًا مع Accenture وFaculty لتقييم النماذج واختبارها هجوميًا والتحقق من وسائل الحماية. كما تجري الشركة مناقشات أولية مع منظمات أخرى، منها Hugging Face.
ما الذي يعنيه ذلك للشركات؟
بالنسبة إلى المؤسسات التي تدمج النماذج في عمليات حساسة، ستتضح القيمة العملية لهذا الترتيب من خلال التقييمات المنشورة: ما المخاطر التي اختُبرت، وما البيانات التي دُرست، وما القيود التي أثرت في الاستنتاجات. ويشرح إعلان Anthropic شروط الوصول والنشر، لكنه لا يقدم نتائج جديدة لتقييم نموذج. لذلك، ينبغي للمشترين من الشركات التعامل مع المواد المستقبلية الصادرة عن METR بوصفها أدلة على اختبارات محددة، لا حكمًا نهائيًا على سلامة جميع نماذج الشركة.
يغيّر إعلان 15 أكتوبر إمكانية وصول المقيمين الخارجيين إلى المعلومات الداخلية، ويضمن لـMETR فرصة نشر استنتاجاتها مع مراعاة الاستثناءات المتفق عليها. وسيُظهر مضمون التقييمات اللاحقة ومدى وضوح شرح شروطها مدى فائدة هذا الترتيب في التحقق المستقل من مخاطر الذكاء الاصطناعي.