Michael JohnsonDne 12. října Anthropic popsala novou sadu opatření proti neoprávněné destilaci modelů Claude. Podle odhadu společnosti se po zavedení klasifikátorů počet tokenů uvažování, které útočníci získávali na její platformě, snížil 10–100krát. Jde o odhad interního provozu Anthropic, nikoli o celkové měření destilace v celém odvětví.
Destilace je metoda trénování, při níž se jeden model učí z odpovědí jiného. Nová omezení Anthropic cílí na situace, kdy sítě účtů zkoušejí získávat chráněné záznamy uvažování a používat je k trénování jiných modelů. Společnost popisuje také proxy služby, které rozdělují požadavky mezi účty, modely a poskytovatele infrastruktury.
Tři úrovně ochrany
První úroveň omezuje přenos chráněných bloků uvažování mezi konverzacemi, účty a modely. Pro Claude Fable 5.1 a Opus 5.5 zavedla Anthropic režim preserved thinking: nové účty API vytvořené 31. srpna 2026 nebo později nemohou upravovat předchozí kontext modelu. U Sonnet 5.5 jsou záznamy uvažování dostupné pouze organizaci, jejíž požadavek je vytvořil.
Druhou úrovní jsou dvoufázové klasifikátory, které odhalují pokusy získat skryté uvažování. Anthropic uvádí, že systém testovala v interních i externích red-team zkouškách a podíl falešně pozitivních výsledků činí méně než 0,1 %. Klasifikátory společnost používá na nejvýkonnějších veřejně dostupných modelech uvedených v popisu nových ochranných opatření.
Třetí úroveň ztěžuje opakované pokusy: účty vykazující trvalé známky získávání dat dostávají přísnější limity nebo jsou blokovány. Anthropic tvrdí, že zablokovala desítky tisíc účtů spojených s destilací; podle společnosti bylo mnoho z nich odhaleno do dvou hodin od zahájení kampaně.
Co měří deklarovaný pokles
Odhadovaný pokles o 10–100krát porovnává počet tokenů uvažování Claude, které Anthropic považuje za získané na vlastní platformě, před zavedením nových klasifikátorů a po něm. Tato metrika popisuje provoz pozorovaný společností, nikoli kvalitu cizích modelů nebo rozsah destilace v celém odvětví. Anthropic píše, že klasifikátory na uvedených modelech odhalují všechny techniky získávání dat popsané v její zářijové zprávě.
Samostatně společnost uvádí test SWE-bench Verified. Předtrénovaný model, který byl dále trénován na úplných přepisech Claude Opus 4.8, dosáhl skóre 80,4 %; model trénovaný na zkrácených přepisech dosáhl 71,8 %. V tomto experimentu poskytly zkrácené záznamy modelu menší přínos při řešení úloh SWE-bench Verified. Anthropic tyto výsledky nepředstavuje jako hodnocení účinnosti celé nové sady ochranných opatření.
Důsledky pro vývojáře
Ochranná opatření mění integrace i účtování API. Anthropic uvádí, že režim preserved thinking si vyžádal aktualizace od části vývojářů, klasifikátory mohou v méně než 0,1 % případů chybně blokovat neškodné požadavky a od 24. září společnost účtuje poplatky za požadavky zastavené ochranami v kategoriích, kde deklarovaný podíl falešně pozitivních výsledků nedosahuje 0,1 %.
Týmy, které předávají kontext mezi jednotlivými voláními, by měly ověřit kompatibilitu své logiky s chráněnými bloky uvažování a otestovat zpracování odmítnutých požadavků i účtování v běžných scénářích. Anthropic poskytovatelům platforem API doporučuje sledovat zneužívání prostřednictvím zprostředkovatelů a externí infrastruktury a odpojovat potvrzené sítě účtů.
Anthropic očekává, že útočníci budou své postupy přizpůsobovat, a uvádí, že klasifikátory průběžně aktualizuje. Praktický úkol pro vývojáře je jasný: počítat s omezeními při předávání kontextu a ověřit, jak integrace zpracovává blokování a účtování.