Michael JohnsonIl 12 ottobre Anthropic ha riferito che le nuove misure contro la distillazione hanno ridotto di 10–100 volte il volume dei ragionamenti di Claude estratti da malintenzionati attraverso la sua piattaforma. L’azienda descrive il sistema come un insieme di più livelli: rende più difficile rivelare i ragionamenti nascosti, monitora il trasferimento delle richieste tra account e modelli e blocca le richieste sospette. Per chi sviluppa con le API, questo è importante per due ragioni: le protezioni modificano il comportamento delle integrazioni e alcune richieste bloccate vengono ora fatturate.
La distillazione consente di addestrare un modello più piccolo sulle risposte di un sistema più potente. Anthropic considera particolarmente preziose a questo scopo le trascrizioni complete dei ragionamenti che Claude genera prima della risposta finale. Nei primi test dell’azienda, un modello addestrato sulle trascrizioni complete di Claude Opus 4.8 ha ottenuto l’80,4% su SWE-bench Verified; con versioni abbreviate il risultato è stato del 71,8%. Queste cifre si riferiscono a uno specifico test e a un esperimento di Anthropic, non sono una valutazione universale della qualità dei modelli.
La protezione copre più modalità di estrazione
Il primo livello consiste nel ridurre i ragionamenti rivelati. Secondo la descrizione di Anthropic, dopo l’introduzione di questa misura i tentativi si sono intensificati: le richieste hanno iniziato a esigere esplicitamente la visualizzazione del ragionamento nascosto, per poi ricorrere a reti di intermediari e a numerosi account falsi. L’azienda afferma che una di queste reti gestiva contemporaneamente oltre 20.000 account.
Le nuove misure controllano dove possono essere trasferiti i frammenti protetti dei ragionamenti. Anthropic indica il trasferimento tra conversazioni, modelli e account come una modalità per aggirare singole protezioni. Secondo l’azienda, un classificatore a due fasi rileva ora tutte le tecniche di distillazione descritte nel suo rapporto di settembre sui modelli pubblicamente disponibili più potenti.
Anthropic misura l’effetto in base al numero di token di ragionamento che i distillatori sono riusciti a estrarre proprio sulla sua piattaforma. Dopo l’introduzione del classificatore, questo indicatore è risultato da 10 a 100 volte inferiore rispetto a prima; in alcuni giorni il volume era troppo basso per essere misurato. L’azienda ha inoltre riferito di aver bloccato decine di migliaia di account legati alla distillazione. Questi dati descrivono la telemetria interna di Anthropic, non il volume complessivo di estrazione tramite cloud di terze parti e fornitori di inferenza.
Cosa cambia per gli sviluppatori
La protezione ha già avuto conseguenze su alcune integrazioni legittime. Anthropic scrive che il formato dei ragionamenti conservati ha richiesto aggiornamenti da parte di alcuni sviluppatori e che, in meno dello 0,1% dei casi, i classificatori identificano erroneamente o bloccano richieste innocue. Dal 24 settembre l’azienda addebita le richieste interrotte prima della generazione della risposta nelle categorie per cui dichiara tale tasso di falsi positivi, inclusa la distillazione.
Indicazione pratica per i team che usano le API: dopo le modifiche alla gestione dei ragionamenti, conviene verificare quali campi della risposta l’applicazione legge e salva e come gestisce un rifiuto o un blocco prima della generazione. Va inoltre considerato che una richiesta bloccata ma fatturata può incidere sui costi senza produrre una risposta utile. Questo è particolarmente importante per i nuovi tentativi automatici: ripetere la stessa richiesta non corregge la classificazione e può aumentare le spese.
Nella descrizione delle nuove misure, Anthropic riconosce che il sistema è ancora parte di una corsa con gli attaccanti: l’azienda non sa quanto durerà la riduzione ottenuta e non ha ancora osservato un tentativo estremamente persistente di aggirare le protezioni aggiornate. Il cambiamento pratico più certo è già in atto: gli sviluppatori devono tenere conto della nuova gestione dei ragionamenti, della possibilità di blocchi rari e della fatturazione di alcune richieste respinte.