Michael JohnsonЗовнішнє оцінювання ризиків ШІ залежить від того, яку інформацію отримує дослідник: внутрішні тести, навчання моделі та захисні механізми зазвичай краще відомі компанії, ніж зовнішнім оцінювачам. 15 жовтня 2026 року Anthropic повідомила, що почала надавати команді METR доступ до своїх внутрішніх інструментів і систем. Шестеро співробітників некомерційної організації отримали обладнання та робочі місця компанії; METR зможе самостійно публікувати результати оцінювання ризиків.
Згідно з описом угоди Anthropic, доступ групи приблизно відповідає доступу власних команд оцінювання ризиків компанії. Співробітникам Anthropic запропонували ділитися інформацією з учасниками METR так само, як із колегами, які працюють над оцінюванням ризиків. Це дає змогу вивчати не лише поведінку моделей, а й відомості про їхнє навчання, процеси оцінювання та захисні механізми.
Що зможе перевірити METR
METR зможе публікувати аналіз рівнів ризику, інцидентів і практик Anthropic. Компанія заявляє, що не може накласти вето на публікацію, але має право вимагати редагування відомостей із заздалегідь визначених категорій: наприклад, даних клієнтів, матеріалів, захищених адвокатською таємницею, та інформації про архітектуру моделей. Рішення про те, чи підпадає конкретний фрагмент під ці винятки, залишається за Anthropic. METR, зі свого боку, зберігає право описувати рівень отриманого доступу та надану інформацію.
Отже, незалежне оцінювання поєднуватиме доступ до внутрішніх матеріалів з обмеженнями на розкриття окремих відомостей. Для читачів важливі і висновки METR, і опис того, які матеріали група могла вивчити, а які обмеження вплинули на публікацію. Anthropic пояснює модель співпраці прагненням скоротити розрив між знаннями зовнішніх оцінювачів і знаннями самої лабораторії.
Як влаштований рівень доступу
Anthropic називає угоду з METR третім рівнем власної схеми доступу для оцінювачів. Він передбачає доступ, зіставний із доступом внутрішніх команд оцінювання ризиків, і права на публікацію, аналогічні другому рівню. Водночас роботу обмежено невеликою групою METR, яка діє на підставі обов’язкових угод; решта співробітників організації, зокрема ті, хто працює над іншими проєктами з Anthropic, відокремлені від цієї роботи.
Компанія повідомила, що співпрацює з METR близько року, зокрема під час огляду звітів про ризики. Інші партнерства перебувають на ранніших етапах: SecureBio перевіряє розділ про хімічну та біологічну зброю у серпневому звіті Anthropic; компанія розглядає можливість розширити доступ після завершення цієї роботи. З Accenture і Faculty Anthropic розвиває окрему співпрацю з оцінювання моделей, red teaming і перевірки захисту. З іншими організаціями, зокрема Hugging Face, компанія проводить попередні обговорення.
Що це змінює для компаній
Для організацій, які впроваджують моделі у чутливі процеси, практичну цінність цієї схеми покажуть опубліковані оцінки: які ризики перевіряли, які дані вивчали та які обмеження вплинули на висновки. Саме оголошення Anthropic описує умови доступу й публікації, але не повідомляє нових результатів оцінювання моделі. Тому корпоративним покупцям варто розглядати майбутні матеріали METR як свідчення конкретних перевірок, а не як готовий висновок про безпечність усіх моделей компанії.
Подія 15 жовтня змінює доступ зовнішніх оцінювачів до внутрішньої інформації та закріплює за METR можливість публікувати власні висновки з обумовленими винятками. Саме зміст наступних оцінок і чіткість опису їхніх умов покажуть, наскільки корисною є ця схема для незалежної перевірки ризиків ШІ.