Michael JohnsonYapay zekâ risklerinin dışarıdan değerlendirilmesi, araştırmacının hangi bilgilere erişebildiğine bağlıdır: İç testler, model eğitimi ve güvenlik önlemleri genellikle şirket tarafından dış değerlendiricilerden daha iyi bilinir. Anthropic, 15 Ekim 2026’da METR ekibine iç araç ve sistemlerine erişim vermeye başladığını duyurdu. Kâr amacı gütmeyen kuruluşun altı çalışanına şirket ekipmanı ve çalışma alanı sağlandı; METR risk değerlendirmelerinin sonuçlarını bağımsız olarak yayımlayabilecek.
Anthropic’in anlaşma açıklamasına göre grubun erişimi, şirketin kendi risk değerlendirme ekiplerinin erişimine kabaca denk. Anthropic çalışanlarından, risk değerlendirmesi üzerinde çalışan ekip arkadaşlarıyla paylaştıkları gibi METR katılımcılarıyla da bilgi paylaşmaları istendi. Böylece yalnızca modellerin davranışı değil, eğitimleri, değerlendirme süreçleri ve güvenlik önlemleri hakkındaki bilgiler de incelenebilecek.
METR neleri inceleyebilecek?
METR; Anthropic’in risk seviyeleri, olayları ve uygulamaları hakkında analiz yayımlayabilecek. Şirket, yayını veto edemeyeceğini, ancak önceden belirlenmiş kategorilere giren bilgilerin (örneğin müşteri verileri, avukat-müvekkil gizliliği kapsamındaki materyaller ve model mimarisi hakkındaki bilgiler) çıkarılmasını talep edebileceğini söylüyor. Belirli bir bölümün bu istisnalara girip girmediğine Anthropic karar veriyor. METR ise erişimin kapsamını ve kendisine sağlanan bilgileri açıklama hakkını koruyor.
Dolayısıyla bağımsız değerlendirme, iç materyallere erişimi bazı bilgilerin açıklanmasına getirilen kısıtlamalarla bir araya getiriyor. Okurlar için hem METR’nin bulguları hem de grubun hangi materyalleri inceleyebildiği ve yayını hangi kısıtlamaların etkilediği önemli. Anthropic, bu işbirliği modelinin dış değerlendiricilerle laboratuvarın kendi bilgi düzeyi arasındaki farkı azaltmayı amaçladığını belirtiyor.
Erişim düzeyi nasıl işliyor?
Anthropic, METR ile yapılan anlaşmayı kendi değerlendirici erişim düzeninin üçüncü seviyesi olarak tanımlıyor. Bu seviye, şirketin iç risk değerlendirme ekiplerine benzer erişim ve ikinci seviyeye benzer yayın hakları sağlıyor. Çalışmalar, bağlayıcı anlaşmalar kapsamında görev yapan küçük bir METR grubuyla sınırlı; kuruluşun diğer çalışanları, Anthropic’le başka projelerde çalışanlar da dahil, bu çalışmadan ayrı tutuluyor.
Şirket, METR’yle yaklaşık bir yıldır işbirliği yaptığını; bu işbirliğinin risk raporlarının incelenmesini de kapsadığını bildirdi. Diğer ortaklıklar daha erken aşamada: SecureBio, Anthropic’in ağustos ayındaki raporunda kimyasal ve biyolojik silahlarla ilgili bölümü inceliyor; şirket, bu çalışma tamamlandıktan sonra erişimi genişletme olasılığını değerlendiriyor. Anthropic, Accenture ve Faculty ile model değerlendirme, red teaming ve güvenlik önlemlerinin denetlenmesi alanlarında ayrı işbirlikleri geliştiriyor. Hugging Face’in de aralarında bulunduğu başka kuruluşlarla ise ön görüşmeler yürütüyor.
Bu, şirketler için ne anlama geliyor?
Modelleri hassas süreçlerde kullanan kuruluşlar açısından bu düzenin pratik değerini, yayımlanan değerlendirmeler gösterecek: Hangi risklerin test edildiği, hangi verilerin incelendiği ve hangi kısıtlamaların bulguları etkilediği. Anthropic’in duyurusu erişim ve yayın koşullarını açıklıyor, ancak model değerlendirmesine ilişkin yeni sonuçlar sunmuyor. Bu nedenle kurumsal alıcılar, METR’nin ileride yayımlayacağı materyalleri şirketin tüm modellerinin güvenli olduğuna dair kesin bir hüküm olarak değil, belirli testlere ilişkin kanıtlar olarak değerlendirmeli.
15 Ekim’deki duyuru, dış değerlendiricilerin iç bilgilere erişimini değiştiriyor ve METR’nin belirlenen istisnalar çerçevesinde bulgularını yayımlama hakkını güvence altına alıyor. Bu düzenin yapay zekâ risklerinin bağımsız denetimine ne ölçüde katkı sağlayacağını, sonraki değerlendirmelerin içeriği ve koşullarının ne kadar açık anlatıldığı gösterecek.