The Pulse
Anthropic: le difese di Claude hanno ridotto fino al 99% i dati estratti per la distillazione
Anthropic afferma che le nuove misure di protezione hanno ridotto di 10-100 volte i dati relativi al ragionamento estratti da Claude per la distillazione sulla sua piattaforma. Le misure comprendono restrizioni sugli account, classificatori
AI.info Team · Scritto con l’IA ·
«Dopo l’introduzione del classificatore, il numero di token relativi al ragionamento estratti per la distillazione è costantemente inferiore di 10-100 volte rispetto a prima.»
Anthropic
Anthropic segnala un forte calo nella raccolta di dati da Claude
Il 12 ottobre Anthropic ha dichiarato che le nuove difese hanno ridotto di circa il 90-99% la quantità di dati raccolti da Claude per la distillazione. La misurazione più specifica dell’azienda riguarda i token relativi al ragionamento di Claude estratti per la distillazione sulla piattaforma di Anthropic: secondo l’azienda, dopo l’introduzione del classificatore il dato è diminuito di un fattore compreso tra 10 e 100. Il calo segnalato è una stima di Anthropic, non una misura di tutte le attività di distillazione verificata in modo indipendente.
La distillazione consiste nell’addestrare un modello più piccolo sulle risposte di uno più capace. Secondo Anthropic, il materiale più prezioso a questo scopo è spesso il ragionamento del modello usato come insegnante, che può mostrare come sia arrivato a una risposta, anziché soltanto la risposta stessa. Le ultime difese dell’azienda mirano a rendere più difficile ottenere quelle tracce del ragionamento e a ostacolare i ripetuti tentativi di estrazione.
I controlli sul ragionamento prendono di mira il passaggio tra account e modelli
Una misura, chiamata «preserved thinking», si applica ai nuovi account API creati il 31 agosto 2026 o successivamente per Claude Fable 5.1 e Claude Opus 5.5. Impedisce a quegli account di modificare il contesto precedente di Claude, una tattica che, secondo Anthropic, gli aggressori usavano per indurre il modello a rivelare il ragionamento protetto. Anthropic afferma inoltre che il ragionamento di questi modelli non può più essere letto da modelli precedenti con protezioni meno robuste; con Claude Sonnet 5.5, le trascrizioni sono accessibili soltanto all’organizzazione la cui richiesta le ha generate.
Un classificatore a due fasi individua i tentativi di estrarre il ragionamento nascosto. Anthropic afferma che ora rileva tutte le tecniche di estrazione descritte nel rapporto pubblicato dall’azienda a settembre e che i test del red team hanno contribuito a individuare e correggere i punti deboli. Il classificatore opera su Claude Sonnet 5.5, Claude Opus 5 e 5.5 e Claude Fable 5 e 5.1.
La chiusura degli account e gli addebiti per le richieste bloccate aggiungono ostacoli
Anthropic afferma di aver chiuso decine di migliaia di account associati alla distillazione, spesso entro due ore dall’avvio di una campagna. Gli account che cercano ripetutamente di ottenere il ragionamento sono soggetti a limiti d’uso più severi, mentre l’azienda afferma di aver bloccato metodi che includono le richieste di tradurre il ragionamento precedente o di riprodurlo all’interno di tag. Questi controlli contrastano la persistenza delle reti di estrazione, che possono spostare le richieste tra account e modelli.
Dal 24 settembre Anthropic addebita anche le richieste bloccate prima che Claude risponda negli ambiti in cui le sue misure di protezione hanno un tasso di falsi positivi inferiore allo 0,1%, tra cui la distillazione. L’azienda afferma che il tasso di falsi positivi del classificatore è al di sotto di quella soglia, ma riconosce che anche richieste legittime possono essere bloccate. Anthropic afferma inoltre che «preserved thinking» ha richiesto ad alcuni sviluppatori di aggiornare le proprie integrazioni.
La percentuale ha un ambito preciso
La riduzione del 90-99% riguarda i dati raccolti da Claude, non una riduzione misurata in tutte le campagne di distillazione condotte anche presso altri fornitori. Anthropic afferma che chi pratica la distillazione distribuisce il traffico tra la sua API, le piattaforme cloud e altri servizi di inferenza, e la stima pubblicata sui token riguarda la sua piattaforma. L’azienda afferma inoltre di non aver ancora osservato un tentativo molto sofisticato e persistente di aggirare le difese più recenti.
Anthropic si aspetta che gli aggressori si adattino e afferma che continuerà ad aggiornare le misure di protezione quando individuerà nuove tecniche di estrazione. Per gli sviluppatori che usano i modelli interessati, il compromesso immediato è concreto: una gestione più restrittiva del ragionamento, occasionali modifiche alle integrazioni e addebiti per alcune richieste bloccate dal sistema.