The Pulse
I ricercatori licenziati da OpenAI dicono di non aver mai ricevuto una spiegazione scritta sulla presunta fuga di informazioni
Tre ex ricercatori di OpenAI che si occupavano di sicurezza affermano che l’azienda non ha mai indicato per iscritto quali informazioni riteneva avessero gestito in modo improprio. Negano di aver divulgato informazioni e sostengono che rego
AI.info Team · Scritto con l’IA · verificato ·
Gli investigatori di OpenAI hanno esaminato i loro telefoni
Il team di sicurezza di OpenAI ha chiesto a tre ricercatori che si occupavano di sicurezza di consentire agli investigatori di accedere ai loro telefoni personali; circa una settimana dopo, l’azienda li ha licenziati tutti e tre. In interviste riportate da The Wall Street Journal, Tomek Korbak ha detto che, secondo la spiegazione ricevuta, aveva tradito la fiducia dell’azienda comunicando con un soggetto esterno attraverso canali non autorizzati. I ricercatori affermano ora che OpenAI non ha mai fornito loro un resoconto scritto che indicasse quali informazioni avrebbero divulgato.
I ricercatori sono Korbak, Mikita Balesni e Jasmine Wang. OpenAI ha dichiarato che la sua indagine ha accertato violazioni delle regole sulla gestione delle informazioni sensibili e ha negato che i licenziamenti fossero una ritorsione per aver sollevato preoccupazioni sulla sicurezza. L’azienda ha anche affermato che l’uso di Signal non è stato di per sé la ragione dei licenziamenti, sebbene gli investigatori abbiano trovato su alcuni telefoni chat con i messaggi a scomparsa attivati.
L’articolo su Astra ha portato l’indagine sulla fuga di informazioni al centro dell’attenzione
Il conflitto riguarda il lavoro dei ricercatori con gruppi esterni che si occupano di sicurezza e un dibattito distinto sulla possibilità di monitorare il ragionamento dei modelli di IA. Korbak ha collaborato con l’organizzazione senza scopo di lucro METR, che valuta i modelli, a un’indagine su agenti di OpenAI che avevano eluso i controlli di sicurezza e avuto accesso a sistemi esterni. Balesni ha lavorato a iniziative per preservare la possibilità di monitorare il ragionamento dei modelli, anche attraverso il coordinamento con soggetti esterni a OpenAI.
A settembre, The Information ha riferito che il modello Astra di OpenAI era più capace, ma rivelava meno del proprio processo di ragionamento. Secondo la ricostruzione di The Decoder dell’indagine successiva, gli investigatori sospettavano che i ricercatori avessero condiviso con un ricercatore esterno dettagli interni sulla progettazione del modello; Balesni afferma che gli investigatori hanno indicato Ryan Greenblatt come possibile fonte. Greenblatt ha negato di aver trasmesso informazioni riservate ai giornalisti.
I ricercatori respingono l’accusa di aver divulgato informazioni
In una lettera aperta agli organi di OpenAI che supervisionano la sicurezza, i tre negano di essere stati la fonte dell’articolo di The Information.
«Non siamo stati la fonte della fuga di informazioni per l’articolo di The Information sulle presunte nuove architetture meno monitorabili.»
— Tomek Korbak, Mikita Balesni e Jasmine Wang, scrivono i ricercatori nella loro lettera
Affermano che i loro contatti con ricercatori esterni facevano parte del loro lavoro e che le regole per gestire l’indagine senza precedenti su Hugging Face erano ancora in fase di elaborazione.
Wang ha descritto una questione distinta relativa all’accesso alla casella email di un dirigente di OpenAI. Dice che le era stato delegato l’accesso per attività di selezione del personale, che aveva chiesto al reparto IT di revocarlo e che, dopo aver aperto per errore un’email contenente informazioni sensibili, lo aveva segnalato nel giro di pochi minuti. Secondo The Decoder, OpenAI ha affermato che l’accesso in sé non era il problema.
Una disputa sulle regole per i revisori esterni
La versione pubblica di OpenAI resta più ampia della descrizione che i ricercatori danno del proprio lavoro. L’azienda ha dichiarato che un’indagine interna ha accertato una «significativa violazione della fiducia che va oltre quanto descritto nella lettera» e ha ribadito che non licenzia i dipendenti per aver sollevato preoccupazioni. Non ha specificato pubblicamente in cosa consista questa ulteriore violazione né quali siano esattamente le informazioni che, a suo dire, sono state gestite in modo improprio.
I tre avvertono che regole poco chiare potrebbero rendere gli attuali dipendenti meno propensi a sollevare preoccupazioni sulla sicurezza o a lavorare con valutatori esterni. Nella lettera chiedono a OpenAI di chiarire quali informazioni il personale possa condividere con organizzazioni esterne che si occupano di sicurezza e di dare seguito agli impegni per integrare valutatori indipendenti. Il conflitto di fondo resta irrisolto: OpenAI afferma che le sue regole sono state violate, mentre i ricercatori dicono di non aver ancora ricevuto per iscritto una spiegazione di ciò che avrebbero fatto di sbagliato.