The Pulse
Anthropic concede a sei valutatori di METR un accesso simile a quello dei dipendenti
Anthropic afferma che sei dipendenti di METR dispongono ora di hardware aziendale, spazi in ufficio e accesso a strumenti interni per svolgere valutazioni indipendenti dei rischi. METR può pubblicare i risultati, anche se Anthropic mantiene
AI.info Team · Scritto con l’IA ·
Il 14 ottobre METR ha avvertito che le aziende potrebbero limitare ciò che i valutatori esterni possono vedere; il giorno seguente, Anthropic ha dichiarato di aver concesso a sei dipendenti di METR un accesso ai propri sistemi interni simile a quello dei dipendenti. L’accordo offre all’organizzazione senza scopo di lucro una visione più diretta del lavoro dell’azienda sulla sicurezza e il diritto di pubblicare le proprie valutazioni, ma lascia ad Anthropic la facoltà di trattenere determinate informazioni e richiedere oscuramenti circoscritti.
Sei valutatori con accesso agli strumenti interni
Anthropic afferma che il team di sei persone di METR dispone di hardware aziendale, spazi in ufficio e accesso a strumenti e sistemi interni più o meno paragonabile a quello dei team di Anthropic che valutano i rischi. L’azienda afferma che i dipendenti sono incoraggiati a condividere informazioni con i valutatori come farebbero con colleghi che lavorano sui rischi legati all’allineamento.
Anthropic esclude un numero limitato di categorie, tra cui i dati dei clienti, le informazioni coperte dal segreto professionale tra avvocato e cliente e le informazioni sulle architetture dei suoi modelli. Il team di METR opera in base ad accordi giuridicamente vincolanti e gli altri dipendenti di METR, compresi i ricercatori che collaborano con Anthropic a progetti separati, sono tenuti fuori dal lavoro del team integrato.
L’azienda afferma che METR può pubblicare valutazioni dei suoi rischi, incidenti e pratiche senza l’approvazione di Anthropic. Anthropic può richiedere oscuramenti per le categorie sensibili definite, mentre METR può descrivere pubblicamente tali oscuramenti e dire se li ritiene giustificati, senza divulgare il materiale trattenuto.
L’avvertimento di METR sull’accesso controllato dalle aziende
Il giorno prima dell’annuncio di Anthropic, METR ha descritto i limiti che possono accompagnare le valutazioni volontarie. «Poiché le richieste di accesso vengono approvate o respinte a discrezione dell’azienda, i valutatori integrati di METR non avranno lo stesso grado di accesso dei responsabili senior della sicurezza di un’azienda», ha scritto l’organizzazione senza scopo di lucro nella sua proposta per valutazioni pubbliche dei rischi.
METR ha anche affermato di non poter garantire con sicurezza che lo sviluppo dell’IA sia sicuro: la ricerca scientifica non è abbastanza matura per giungere a conclusioni condivise, ha scritto, e non esistono standard in base ai quali verificare la sicurezza dello sviluppo. Il ruolo che propone è raccogliere elementi utili al pubblico, non decidere come le aziende debbano sviluppare o distribuire l’IA.
L’annuncio di Anthropic descrive un accordo più formale di una revisione esterna limitata, ma non elimina tutti i vincoli di accesso. Secondo la descrizione fornita dall’azienda stessa, alcune informazioni sono escluse e il team integrato è limitato a sei persone che operano nel rispetto dei suoi standard di sicurezza. Né l’annuncio né la proposta di METR stabiliscono che il valutatore possa esaminare ogni sistema o documento pertinente a una questione di sicurezza.
METR entra in un piano di valutazione a tre livelli
Anthropic colloca l’accordo con METR nel terzo livello di accesso dei valutatori. Nel primo livello, Anthropic decide quali informazioni riceve un valutatore e deve approvarne la pubblicazione. I valutatori del secondo livello ottengono un accesso più ampio e possono pubblicare senza approvazione, fatte salve alcune specifiche parti da oscurare; Anthropic descrive l’accordo con METR come una combinazione di accesso simile a quello dei dipendenti e diritti di pubblicazione analoghi a quelli del secondo livello.
L’azienda afferma inoltre di aver collaborato con METR a diverse revisioni dei suoi Risk Reports nell’ultimo anno. Indica SecureBio e Accenture come altri valutatori, precisando però che queste collaborazioni si trovano in fasi meno avanzate, con accesso alle informazioni e diritti di pubblicazione più limitati. Anthropic afferma anche di essere nelle fasi iniziali di confronto con organizzazioni tra cui Hugging Face.
I diritti di pubblicazione saranno la prova decisiva
Anthropic afferma di voler arrivare ad avere diversi valutatori operativi al terzo livello, ciascuno dei quali pubblichi la propria analisi dell’esposizione ai rischi dell’azienda e delle sue decisioni principali. L’annuncio non indica quando METR pubblicherà il primo rapporto nell’ambito del nuovo accordo, né specifica quanto durerà l’accesso del team integrato.
La prova sarà vedere se METR riuscirà a pubblicare risultati che mostrino sia ciò che ha esaminato sia ciò che non ha potuto esaminare. Anthropic afferma che il valutatore può descrivere pubblicamente gli oscuramenti e contestarne la giustificazione; METR ha dichiarato separatamente che i rapporti pubblici dovrebbero rendere noti i limiti di accesso e altri vincoli. L’azienda ha annunciato l’accordo il 15 ottobre 2026, nell’ambito di un aggiornamento più ampio sui valutatori indipendenti.