Michael JohnsonExterní hodnocení rizik umělé inteligence závisí na tom, jaké informace má výzkumník k dispozici: interní testy, trénování modelu a ochranné mechanismy zná obvykle lépe samotná společnost než externí hodnotitelé. Dne 15. října 2026 Anthropic oznámila, že týmu METR začala poskytovat přístup ke svým interním nástrojům a systémům. Šest pracovníků neziskové organizace získalo vybavení a pracovní místa ve společnosti; METR bude moci samostatně zveřejňovat výsledky hodnocení rizik.
Podle popisu dohody od Anthropic je přístup skupiny zhruba srovnatelný s přístupem vlastních týmů společnosti pro hodnocení rizik. Pracovníci Anthropic mají s účastníky METR sdílet informace stejně jako s kolegy, kteří se věnují hodnocení rizik. Díky tomu lze zkoumat nejen chování modelů, ale také informace o jejich trénování, hodnoticích procesech a ochranných mechanismech.
Co bude moci METR prověřit
METR bude moci zveřejňovat analýzy úrovní rizika, incidentů a postupů společnosti Anthropic. Společnost tvrdí, že nemůže zveřejnění vetovat, může však požadovat úpravu informací z předem vymezených kategorií, například údajů o zákaznících, materiálů chráněných právním tajemstvím a informací o architektuře modelů. O tom, zda konkrétní pasáž spadá pod tyto výjimky, rozhoduje Anthropic. METR si naopak ponechává právo popsat úroveň přístupu, který získala, i informace, jež jí byly poskytnuty.
Nezávislé hodnocení tedy spojí přístup k interním materiálům s omezeními při zveřejňování některých informací. Pro čtenáře budou důležité jak závěry METR, tak popis toho, jaké materiály mohla skupina prostudovat a jaká omezení ovlivnila zveřejnění. Anthropic vysvětluje tento model spolupráce snahou zmenšit rozdíl mezi znalostmi externích hodnotitelů a znalostmi samotné laboratoře.
Jak je nastavena úroveň přístupu
Anthropic označuje dohodu s METR za třetí úroveň vlastního systému přístupu pro hodnotitele. Ta zajišťuje přístup srovnatelný s přístupem interních týmů pro hodnocení rizik a práva na zveřejňování podobná druhé úrovni. Práci však vykonává pouze malá skupina METR, vázaná povinnými dohodami; ostatní pracovníci organizace, včetně těch, kteří pracují na jiných projektech s Anthropic, jsou od této činnosti odděleni.
Společnost uvedla, že s METR spolupracuje přibližně rok, mimo jiné při posuzování zpráv o rizicích. Další partnerství jsou v dřívější fázi: SecureBio prověřuje kapitolu o chemických a biologických zbraních ve zprávě Anthropic ze srpna; společnost zvažuje rozšíření přístupu po dokončení této práce. S Accenture a Faculty rozvíjí Anthropic samostatnou spolupráci zaměřenou na hodnocení modelů, red teaming a prověřování ochranných opatření. S dalšími organizacemi, včetně Hugging Face, společnost vede předběžná jednání.
Co to znamená pro firmy
Praktickou hodnotu tohoto uspořádání pro organizace nasazující modely v citlivých procesech ukážou zveřejněná hodnocení: jaká rizika byla prověřována, jaké údaje byly prostudovány a která omezení ovlivnila závěry. Samotné oznámení Anthropic popisuje podmínky přístupu a zveřejňování, nepřináší však nové výsledky hodnocení modelu. Firemní zákazníci by proto měli budoucí materiály METR chápat jako doklady konkrétních prověrek, nikoli jako definitivní závěr o bezpečnosti všech modelů společnosti.
Událost z 15. října mění přístup externích hodnotitelů k interním informacím a METR zajišťuje možnost zveřejňovat závěry s uvedenými výjimkami. Užitečnost tohoto modelu pro nezávislé ověřování rizik umělé inteligence ukáže až obsah následných hodnocení a srozumitelnost popisu podmínek, za nichž vznikla.