Michael JohnsonZewnętrzna ocena ryzyka AI zależy od tego, jakie informacje otrzymują badacze: wewnętrzne testy, proces trenowania modelu i mechanizmy zabezpieczeń są zazwyczaj lepiej znane firmie niż zewnętrznym oceniającym. 15 października 2026 roku Anthropic poinformowała, że zaczęła zapewniać zespołowi METR dostęp do swoich wewnętrznych narzędzi i systemów. Sześciu pracowników organizacji non-profit otrzymało sprzęt i stanowiska pracy firmy; METR będzie mogła samodzielnie publikować wyniki ocen ryzyka.
Zgodnie z opisem porozumienia Anthropic, dostęp grupy jest w przybliżeniu porównywalny z dostępem własnych zespołów oceny ryzyka firmy. Pracowników Anthropic poproszono, by dzielili się informacjami z uczestnikami METR tak jak z kolegami zajmującymi się oceną ryzyka. Umożliwia to badanie nie tylko zachowania modeli, lecz także informacji o ich trenowaniu, procesach oceny i mechanizmach zabezpieczeń.
Co METR będzie mogła sprawdzić
METR będzie mogła publikować analizy poziomów ryzyka, incydentów i praktyk Anthropic. Firma deklaruje, że nie może zawetować publikacji, ale może zażądać redakcji informacji należących do wcześniej określonych kategorii, takich jak dane klientów, materiały chronione tajemnicą adwokacką oraz informacje o architekturze modeli. Decyzja, czy dany fragment podlega tym wyjątkom, należy do Anthropic. METR zachowuje z kolei prawo do opisywania zakresu uzyskanego dostępu i udostępnionych informacji.
Oznacza to, że niezależna ocena będzie łączyć dostęp do materiałów wewnętrznych z ograniczeniami dotyczącymi ujawniania niektórych informacji. Dla czytelników ważne są zarówno wnioski METR, jak i opis tego, jakie materiały grupa mogła zbadać oraz jakie ograniczenia miały wpływ na publikację. Anthropic wyjaśnia, że model współpracy ma zmniejszyć różnicę między wiedzą zewnętrznych oceniających a wiedzą samego laboratorium.
Jak zorganizowano poziom dostępu
Anthropic określa porozumienie z METR jako trzeci poziom własnego systemu dostępu dla oceniających. Zapewnia on dostęp porównywalny z dostępem wewnętrznych zespołów oceny ryzyka oraz prawa do publikacji podobne do tych na poziomie drugim. Praca jest jednak ograniczona do małej grupy METR działającej na podstawie wiążących umów; pozostali pracownicy organizacji, w tym osoby zaangażowane w inne projekty z Anthropic, są od niej odseparowani.
Firma poinformowała, że współpracuje z METR od około roku, między innymi przy przeglądach raportów o ryzyku. Inne partnerstwa są na wcześniejszym etapie: SecureBio sprawdza rozdział o broni chemicznej i biologicznej w sierpniowym raporcie Anthropic; firma rozważa rozszerzenie dostępu po zakończeniu tej pracy. Anthropic rozwija odrębną współpracę z Accenture i Faculty dotyczącą oceny modeli, red teamingu i testowania zabezpieczeń. Z innymi organizacjami, w tym Hugging Face, firma prowadzi wstępne rozmowy.
Co to zmienia dla firm
W przypadku organizacji wdrażających modele w krytycznych procesach praktyczną wartość tego rozwiązania pokażą opublikowane oceny: jakie ryzyka sprawdzono, jakie dane zbadano i jakie ograniczenia wpłynęły na wnioski. Sam komunikat Anthropic opisuje warunki dostępu i publikacji, ale nie przedstawia nowych wyników oceny modelu. Dlatego odbiorcy korporacyjni powinni traktować przyszłe materiały METR jako świadectwa dotyczące konkretnych testów, a nie jako gotowy wniosek o bezpieczeństwie wszystkich modeli firmy.
Wydarzenie z 15 października zmienia dostęp zewnętrznych oceniających do informacji wewnętrznych i zapewnia METR możliwość publikowania wniosków z uwzględnieniem określonych wyjątków. To treść kolejnych ocen i przejrzystość opisu ich warunków pokażą, na ile ten model będzie przydatny w niezależnej weryfikacji ryzyka AI.