Michael JohnsonAnthropic meddelade den 12 oktober att nya åtgärder mot destillering minskade mängden Claude-resonemang som angripare extraherar via företagets plattform med en faktor på 10–100. Företaget beskriver systemet som en uppsättning skyddslager: det försvårar utlämning av dolda resonemang, spårar hur förfrågningar flyttas mellan konton och modeller och blockerar misstänkta anrop. För API-utvecklare är detta viktigt av två skäl: skyddet förändrar hur integrationer fungerar, och vissa blockerade förfrågningar debiteras nu.
Destillering gör det möjligt att träna en mindre modell på svar från ett kraftfullare system. Anthropic anser att fullständiga resonemangsspår som Claude skapar innan det slutliga svaret är särskilt värdefulla för detta. I företagets tidiga tester fick en modell som tränats på fullständiga transkriptioner från Claude Opus 4.8 80,4 % på SWE-bench Verified; med förkortade versioner blev resultatet 71,8 %. Siffrorna gäller ett specifikt test och ett experiment utfört av Anthropic, inte en allmän bedömning av modellernas kvalitet.
Skyddet täcker flera vägar för extraktion
Det första skyddslagret är att begränsa vilka resonemang som lämnas ut. Enligt Anthropics beskrivning blev försöken mer aktiva efter att åtgärden infördes: förfrågningar började uttryckligen kräva att den dolda tankegången skulle återges, och därefter användes nätverk av mellanhänder och ett stort antal falska konton. Företaget uppger att ett sådant nätverk samtidigt hanterade över 20 000 konton.
De nya åtgärderna kontrollerar vart skyddade resonemangsfragment kan flyttas. Anthropic räknar upp flytt mellan konversationer, modeller och konton som metoder för att kringgå enskilda skydd. En tvåstegsklassificerare identifierar nu, enligt företaget, alla destilleringstekniker som beskrevs i dess rapport från september, på de mest kraftfulla allmänt tillgängliga modellerna.
Anthropic bedömer effekten utifrån antalet resonemangstoken som destillerare lyckats extrahera just på företagets plattform. Efter att klassificeraren infördes var den siffran 10–100 gånger lägre än tidigare; vissa dagar var mängden för liten för att kunna mätas. Företaget uppger också att tiotusentals konton med koppling till destillering har blockerats. Uppgifterna beskriver Anthropics egen telemetri, inte den sammanlagda mängden extraktion via externa molntjänster och inferensleverantörer.
Vad förändras för utvecklare?
Skyddet har redan påverkat vissa legitima integrationer. Anthropic skriver att det sparade formatet för resonemang krävde uppdateringar från en del utvecklare och att klassificerarna felaktigt flaggar eller blockerar ofarliga förfrågningar i mindre än 0,1 % av fallen. Sedan den 24 september tar företaget betalt för förfrågningar som stoppas före svarsgenerering i kategorier med denna uppgivna andel falska positiva resultat, däribland destillering.
Det praktiska rådet till team som använder API:et är att efter ändringarna i hanteringen av resonemang kontrollera vilka svarsfält applikationen läser och sparar, och hur den hanterar avslag eller blockering före generering. Tänk också på att en blockerad förfrågan som debiteras kan belasta kostnaderna utan att ge något användbart svar. Detta är särskilt viktigt för automatiska återförsök: att upprepa samma anrop ändrar inte klassificeringen och kan öka kostnaderna.
I beskrivningen av de nya åtgärderna medger Anthropic att systemet fortfarande är en del av en kapplöpning med angripare: företaget vet inte hur länge den uppnådda minskningen kommer att bestå och har ännu inte sett något extremt ihärdigt försök att kringgå det uppdaterade skyddet. Den tydligaste praktiska förändringen har redan skett: utvecklare behöver ta hänsyn till den uppdaterade hanteringen av resonemang, risken för sällsynta blockeringar och debiteringen av vissa avvisade förfrågningar.