The Pulse
Anthropic ritira un obiettivo sull’allineamento e ne aggiunge due sulle politiche
Nell’aggiornamento del 19 ottobre alla sua roadmap, Anthropic riferisce di aver completato un obiettivo relativo al red-teaming automatizzato e di aver ritirato, nella sua forma attuale, un obiettivo riguardante la Constitution di Claude. F
AI.info Team · Scritto con l’IA · verificato ·
Nell’aggiornamento del 19 ottobre 2026 alla sua Frontier Safety Roadmap, Anthropic riferisce di aver completato un obiettivo relativo al red-teaming automatizzato, di aver ritirato un obiettivo riguardante l’allineamento di Claude alla sua Constitution e di aver aggiunto due obiettivi sulle politiche. I nuovi obiettivi riguardano i valutatori terzi integrati e il ritmo dello sviluppo dell’IA, con scadenze a dicembre 2026 e gennaio 2027.
I test automatizzati si concludono in anticipo
Anthropic afferma che il suo sistema di red-teaming automatizzato ha completato un obiettivo la cui scadenza originaria era il 1° gennaio 2027. L’azienda ha confrontato il sistema con le segnalazioni del programma di bug bounty relative ai suoi classificatori per le armi biologiche. Usando otto quesiti del programma e tre generazioni di classificatori impiegati in produzione, il sistema ha eguagliato o superato la migliore segnalazione umana in tutte le 24 coppie quesito-classificatore, prevalendo in 23.
Secondo Anthropic, i test automatizzati hanno richiesto dalle 24 alle 48 ore, contro le settimane o i mesi necessari per il processo di bug bounty. L’azienda ha giudicato i risultati, nel complesso, più sostanziali di quelli ottenuti con il programma di bug bounty, lo standard che aveva fissato per considerare completato l’obiettivo, e ha dichiarato di voler pubblicare in seguito un resoconto più completo. I risultati riportati riguardano i quesiti e le generazioni di classificatori specificati.
L’obiettivo sulla Constitution termina nella sua forma attuale
Anthropic ha inoltre ritirato il suo obiettivo di migliorare la supervisione dell’allineamento di Claude alla sua Constitution. L’azienda afferma che le sue valutazioni automatizzate dell’allineamento includono l’allineamento alla Constitution come metrica fondamentale per tutti i modelli valutati e che nei recenti system card compaiono evidenze ottenute con metodi di interpretabilità. Afferma inoltre di aver messo alla prova le proprie argomentazioni sull’allineamento con modelli-organismo e di aver pubblicato i risultati nei Risk Reports, ma di averlo fatto in modo meno approfondito di quanto previsto dall’obiettivo originario.
Inizialmente l’azienda aveva esaminato un campione rappresentativo dei dati e delle ricompense del post-training per verificarne l’allineamento alla Constitution. Anthropic afferma che l’esame non ha rilevato nulla che non fosse già stato individuato dai suoi processi esistenti, perciò ha smesso di svolgerlo regolarmente; anche un successivo esame a campione non ha segnalato nulla. Il ritiro riguarda l’obiettivo nella sua forma attuale. Anthropic afferma di voler continuare ad aggiornare la Constitution pubblica affinché corrisponda alla versione usata per addestrare i modelli entro 90 giorni dalle distribuzioni pertinenti.
Due obiettivi sulle politiche ricevono una scadenza
Il primo nuovo obiettivo sulle politiche è una proposta sui valutatori terzi integrati, da presentare entro il 15 dicembre 2026. Anthropic afferma che la proposta affronterà il modo in cui i governi possono favorire un accesso più approfondito per i valutatori indipendenti, inclusi i finanziamenti, l’accesso di cui hanno bisogno e le tutele della loro indipendenza. L’azienda afferma di essersi impegnata a concedere ai valutatori un accesso più approfondito ai modelli e alle informazioni interne, preservandone al contempo l’indipendenza, e che attingerà alla propria esperienza di collaborazione con loro.
Il secondo obiettivo, con scadenza il 15 gennaio 2027, è un quadro di politiche per intervenire sul ritmo dello sviluppo dell’IA. Anthropic afferma che il suo attuale quadro di politiche si concentra sull’impedire o scoraggiare la distribuzione di sistemi di IA pericolosi. Il nuovo lavoro sulle politiche prenderà in considerazione opzioni per affrontare i rischi legati alla velocità dello sviluppo, in particolare se l’automazione della ricerca e dello sviluppo dell’IA accelererà i progressi più rapidamente di quanto le misure di governance o di sicurezza possano tenere il passo. L’azienda afferma che pubblicherà una proposta oppure spiegherà perché ha deciso di non farlo.
Una revisione più ampia delle politiche
Le modifiche alla roadmap si inseriscono nella più ampia revisione della Responsible Scaling Policy di Anthropic, Version 3.0, pubblicata il 24 febbraio 2026. Nel suo annuncio, Anthropic ha affermato che la politica rivista distingue le misure che l’azienda intende perseguire indipendentemente da ciò che fanno le altre organizzazioni da una mappa più ampia delle misure di mitigazione che ritiene il settore dell’IA dovrebbe adottare. L’annuncio ha inoltre descritto le roadmap pubbliche e i Risk Reports periodici come parte delle misure di trasparenza e responsabilità previste dalla politica.
L’aggiornamento di ottobre registra diverse decisioni: Anthropic riferisce di aver completato l’obiettivo sul red-teaming, di aver ritirato quello sulla Constitution nella sua forma attuale e di aver fissato scadenze per due nuovi obiettivi sulle politiche. La roadmap descrive i propri obiettivi come priorità pubbliche e afferma che fornirà aggiornamenti sul loro raggiungimento, fissando nuovi obiettivi quando ciò accadrà.