Michael JohnsonВнешняя оценка рисков ИИ зависит от того, какую информацию получает исследователь: внутренние тесты, обучение модели и защитные механизмы обычно известны компании лучше, чем внешним оценщикам. 15 октября 2026 года Anthropic сообщила, что начала предоставлять команде METR доступ к своим внутренним инструментам и системам. Шесть сотрудников некоммерческой организации получили оборудование и рабочие места компании; METR сможет самостоятельно публиковать результаты оценок рисков.
Согласно описанию соглашения Anthropic, доступ группы примерно сопоставим с доступом собственных команд оценки рисков компании. Сотрудникам Anthropic предложено делиться информацией с участниками METR так же, как с коллегами, работающими над оценкой рисков. Это позволяет изучать не только поведение моделей, но и сведения об их обучении, оценочных процессах и защитных механизмах.
Что сможет проверить METR
METR сможет публиковать анализ уровней риска, инцидентов и практик Anthropic. Компания заявляет, что не может наложить вето на публикацию, но вправе потребовать редактирования сведений из заранее определённых категорий: например, данных клиентов, материалов, защищённых адвокатской тайной, и информации об архитектуре моделей. Решение о том, подпадает ли конкретный фрагмент под эти исключения, остаётся за Anthropic. METR, в свою очередь, сохраняет право описывать уровень полученного доступа и предоставленную информацию.
Значит, независимая оценка будет сочетать доступ к внутренним материалам с ограничениями на раскрытие отдельных сведений. Для читателей важны и выводы METR, и описание того, какие материалы группа могла изучить, а какие ограничения влияли на публикацию. Anthropic объясняет модель сотрудничества желанием сократить разрыв между знаниями внешних оценщиков и знаниями самой лаборатории.
Как устроен уровень доступа
Anthropic называет соглашение с METR третьим уровнем собственной схемы доступа для оценщиков. Он предусматривает доступ, сопоставимый с доступом внутренних команд оценки рисков, и права публикации, аналогичные второму уровню. При этом работа ограничена небольшой группой METR, действующей по обязательным соглашениям; остальные сотрудники организации, в том числе занятые другими проектами с Anthropic, отделены от этой работы.
Компания сообщила, что сотрудничает с METR около года, в том числе при обзорах отчётов о рисках. Другие партнёрства находятся на более ранних этапах: SecureBio проверяет главу о химическом и биологическом оружии в августовском отчёте Anthropic; компания рассматривает возможность расширить доступ после завершения этой работы. С Accenture и Faculty Anthropic развивает отдельное сотрудничество по оценке моделей, red teaming и проверке защит. С другими организациями, включая Hugging Face, компания ведёт предварительные обсуждения.
Что это меняет для компаний
Для организаций, внедряющих модели в чувствительные процессы, практическую ценность схемы покажут опубликованные оценки: какие риски проверялись, какие данные изучались и какие ограничения затронули выводы. Само объявление Anthropic описывает условия доступа и публикации, но не сообщает новых результатов оценки модели. Поэтому корпоративным покупателям стоит рассматривать будущие материалы METR как свидетельства о конкретных проверках, а не как готовое заключение о безопасности всех моделей компании.
Событие 15 октября меняет доступ внешних оценщиков к внутренней информации и закрепляет за METR возможность публиковать свои выводы при оговорённых исключениях. Именно содержание последующих оценок и ясность описания их условий покажут, насколько полезна эта схема для независимой проверки рисков ИИ.