Michael JohnsonAnthropic 12. října oznámila, že nová opatření proti destilaci snížila objem uvažování Claude, které útočníci získávají prostřednictvím její platformy, 10–100krát. Společnost systém popsala jako soubor několika vrstev: ztěžuje odhalování skrytého uvažování, sleduje přesun požadavků mezi účty a modely a blokuje podezřelé požadavky. Pro vývojáře využívající API je to důležité ze dvou důvodů: ochrana mění chování integrací a některé blokované požadavky jsou nyní zpoplatněny.
Destilace umožňuje trénovat menší model na odpovědích výkonnějšího systému. Anthropic považuje za nejcennější podklady úplné záznamy uvažování, které Claude vytváří před konečnou odpovědí. V raných testech společnosti dosáhl model trénovaný na úplných přepisech Claude Opus 4.8 výsledku 80,4 % v testu SWE-bench Verified; při trénování na zkrácených verzích činil výsledek 71,8 %. Tato čísla se vztahují ke konkrétnímu testu a experimentu Anthropic, nikoli k univerzálnímu hodnocení kvality modelů.
Ochrana pokrývá několik cest k získávání dat
První vrstvou je omezení zpřístupňovaného uvažování. Podle popisu Anthropic se po zavedení tohoto opatření pokusy zintenzivnily: požadavky začaly výslovně žádat o vypsání skrytého myšlenkového postupu a následně se začaly využívat sítě prostředníků a množství falešných účtů. Společnost uvádí, že jedna taková síť současně spravovala přes 20 tisíc účtů.
Nová opatření kontrolují, kam lze chráněné části uvažování přesouvat. Anthropic uvádí přesun mezi konverzacemi, modely a účty jako způsoby obcházení jednotlivých ochranných mechanismů. Dvoufázový klasifikátor podle společnosti nyní na nejvýkonnějších veřejně dostupných modelech odhalí všechny techniky destilace popsané v její zářijové zprávě.
Anthropic měří účinek podle počtu tokenů uvažování, které se destilátorům podařilo získat přímo na její platformě. Po zavedení klasifikátoru byl tento ukazatel 10–100krát nižší než dříve; v některých dnech byl objem příliš malý na změření. Společnost také informovala o zablokování desítek tisíc účtů spojených s destilací. Tato data popisují vlastní telemetrii Anthropic, nikoli celkový objem získávání dat prostřednictvím externích cloudů a poskytovatelů inferencí.
Co se mění pro vývojáře
Ochrana již ovlivnila některé legitimní integrace. Anthropic píše, že zachování formátu uvažování si vyžádalo aktualizace u části vývojářů a že klasifikátory chybně označí nebo zablokují neškodné požadavky v méně než 0,1 % případů. Od 24. září společnost účtuje poplatky za požadavky zastavené před vygenerováním odpovědi v kategoriích s takto uváděnou mírou falešně pozitivních výsledků, včetně destilace.
Praktické doporučení pro týmy používající API: po změnách ve zpracování uvažování zkontrolujte, která pole odpovědi aplikace čte a ukládá a jak zpracovává odmítnutí nebo blokování před vygenerováním odpovědi. Počítejte také s tím, že zpoplatněný blokovaný požadavek se může objevit ve výdajích, aniž přinese užitečnou odpověď. To je zvlášť důležité u automatických opakování: opakování stejného požadavku klasifikaci neopraví a může zvýšit náklady.
V popisu nových opatření Anthropic připouští, že systém je stále součástí závodu s útočníky: společnost neví, jak dlouho dosažené snížení vydrží, a dosud nezaznamenala mimořádně vytrvalý pokus obejít aktualizovanou ochranu. Nejjistější praktická změna už nastala: vývojáři musí počítat s aktualizovaným zpracováním uvažování, možností vzácných blokací a účtováním některých zamítnutých požadavků.