Michael JohnsonAnthropic повідомила 12 жовтня, що нові заходи проти дистиляції знизили обсяг міркувань Claude, які зловмисники вилучають через її платформу, у 10–100 разів. Компанія описала систему як набір із кількох рівнів: вона ускладнює розкриття прихованих міркувань, відстежує перенесення запитів між обліковими записами й моделями та блокує підозрілі звернення. Для розробників API це важливо з двох причин: захист змінює поведінку інтеграцій, а за частину заблокованих запитів тепер стягується плата.
Дистиляція дає змогу навчати меншу модель на відповідях потужнішої системи. Anthropic вважає, що для цього найбільшу цінність мають повні записи міркувань, які Claude формує до остаточної відповіді. У ранніх випробуваннях компанії модель, навчена на повних транскриптах Claude Opus 4.8, набрала 80,4% у SWE-bench Verified; під час навчання на скорочених версіях результат становив 71,8%. Ці цифри стосуються конкретного тесту й експерименту Anthropic, а не є універсальною оцінкою якості моделей.
Захист охоплює кілька способів вилучення
Перший рівень — скорочення обсягу розкриваних міркувань. За описом Anthropic, після запровадження цього заходу спроби активізувалися: у запитах почали прямо вимагати вивести прихований хід міркувань, а потім використовували мережі посередників і численні підроблені облікові записи. Компанія повідомляє, що одна з таких мереж одночасно керувала понад 20 тисячами облікових записів.
Нові заходи контролюють, куди можуть переміщатися захищені фрагменти міркувань. Anthropic називає перенесення між бесідами, моделями й обліковими записами способами обходу окремих засобів захисту. За твердженням компанії, двоетапний класифікатор тепер виявляє всі методи дистиляції, описані в її вересневому звіті, на найпотужніших загальнодоступних моделях.
Anthropic оцінює ефект за кількістю токенів міркувань, які дистилятори змогли вилучити саме на її платформі. Після впровадження класифікатора цей показник став у 10–100 разів нижчим за попередній; в окремі дні обсяг був надто малим для вимірювання. Компанія також повідомила про блокування десятків тисяч облікових записів, пов’язаних із дистиляцією. Ці дані описують власну телеметрію Anthropic, а не сукупний обсяг вилучення через сторонні хмарні сервіси та провайдерів інференсу.
Що змінюється для розробників
Захист уже вплинув на деякі легітимні інтеграції. Anthropic пише, що збережений формат міркувань потребував оновлень від частини розробників, а класифікатори помилково визначають або блокують нешкідливі запити менш ніж у 0,1% випадків. Із 24 вересня компанія стягує плату за запити, зупинені до генерації відповіді в категоріях із такою заявленою часткою хибних спрацювань, зокрема за запити, пов’язані з дистиляцією.
Практичний висновок для команд, які використовують API: після змін в обробці міркувань варто перевірити, які поля відповіді читає та зберігає застосунок і як він обробляє відмову або блокування до генерації. Також слід враховувати, що за заблокований запит може стягуватися плата, хоча корисної відповіді він не дає. Це особливо важливо для автоматичних повторів: повторення того самого звернення не виправляє класифікацію й може збільшити витрати.
В описі нових заходів Anthropic визнає, що система поки залишається частиною перегонів із нападниками: компанія не знає, як довго протримається досягнуте зниження, і ще не спостерігала надзвичайно наполегливої спроби обійти оновлений захист. Найпевніша практична зміна вже відбулася: розробникам потрібно враховувати оновлену обробку міркувань, імовірність рідкісних блокувань і тарифікацію деяких відхилених запитів.