The Pulse
La Florida chiede di fermare lo sviluppo di modelli di OpenAI senza l’approvazione delle misure di sicurezza
Il 28 settembre, il procuratore generale della Florida James Uthmeier ha chiesto a un tribunale un provvedimento cautelare temporaneo che limiti lo sviluppo di modelli di OpenAI in assenza di misure di salvaguardia indipendenti per la sicur
AI.info Team · Scritto con l’IA ·
La Florida chiede a un giudice di subordinare lo sviluppo di nuovi modelli da parte di OpenAI all’approvazione di misure di salvaguardia indipendenti per la sicurezza, trasformando una causa su ChatGPT in un tentativo di imporre vincoli al modo in cui l’azienda sviluppa la propria tecnologia. Il procuratore generale James Uthmeier ha presentato la richiesta di un provvedimento cautelare temporaneo lunedì 28 settembre, nell’ambito della causa intentata dallo Stato contro OpenAI e l’amministratore delegato Sam Altman. L’istanza chiede restrizioni imposte dal tribunale: non è una sentenza e la sua presentazione non ferma di per sé lo sviluppo.
I limiti chiesti dalla Florida vanno oltre l’addestramento dei modelli
L’istanza chiede di vietare a OpenAI di sviluppare nuovi modelli senza misure di sicurezza approvate da soggetti terzi. Chiede inoltre al tribunale di limitare l’accesso dei minori a ChatGPT, di affrontare la raccolta di informazioni personali di bambini sotto i 13 anni e di porre un freno alle funzionalità del prodotto che, secondo lo Stato, possono incoraggiare gli utenti a continuare a interagire o far sembrare umano il chatbot. La Florida chiede anche limiti alle affermazioni secondo cui ChatGPT è sicuro, accurato o affidabile.
Queste richieste associano la progettazione del prodotto, il marketing e la tutela dei minori alla supervisione dello sviluppo dei modelli. La posizione dello Stato è che a OpenAI non dovrebbe essere consentito di procedere sulla sola base delle proprie garanzie in materia di sicurezza. Il tribunale deve ancora decidere se imporre qualcuna delle condizioni richieste.
La causa avviata a giugno presenta ora un’argomentazione più ampia sulla sicurezza
La Florida ha intentato la causa contro OpenAI e Altman il 1° giugno, accusando l’azienda di aver nascosto i rischi e tratto in inganno i residenti della Florida riguardo a ChatGPT. Tra le altre contestazioni, lo Stato ha invocato nella denuncia la normativa a tutela dei consumatori e denunciato danni ai minori. L’istanza di settembre pone maggiormente l’accento sui rischi dei sistemi di IA sempre più capaci e sulla questione se la supervisione esterna debba essere una condizione per il loro sviluppo.
A sostegno della propria richiesta, la Florida cita incidenti che hanno coinvolto sistemi di IA e avvertimenti su una possibile perdita di controllo con l’aumentare delle loro capacità. L’istanza menziona tentativi di accesso o accessi non autorizzati a sistemi online, oltre ai timori che le misure di protezione possano non funzionare durante l’attività di modelli o agenti. Questi esempi sono contestazioni e argomentazioni contenute nell’istanza dello Stato, non accertamenti di un tribunale.
OpenAI sostiene che le misure di sicurezza dovrebbero riguardare l’intero settore
Il portavoce di OpenAI Drew Pusateri ha dichiarato che l’azienda sostiene uno sviluppo sicuro, ma si oppone a un provvedimento rivolto a una sola azienda. In una dichiarazione ad Axios, Pusateri ha detto:
«Le persone vogliono sapere che l’IA viene sviluppata in sicurezza, e questo comincia da ciò che aziende come la nostra fanno direttamente».
Drew Pusateri, portavoce di OpenAI
Pusateri ha anche affermato che OpenAI si impegna a collaborare con la Florida e altri Stati su politiche applicabili al più ampio settore dell’IA. Questa risposta delinea una questione centrale dell’istanza: se lo Stato possa imporre con effetto immediato, attraverso un provvedimento cautelare, condizioni specifiche per una singola azienda mentre la causa principale prosegue.
La prossima decisione del tribunale definirà la portata delle misure
La richiesta della Florida non stabilisce di per sé se il tribunale abbia l’autorità di supervisionare lo sviluppo dei modelli o quali prove giustificherebbero le restrizioni. L’istanza chiede un provvedimento temporaneo mentre la causa prosegue, non una sentenza definitiva sulle contestazioni dello Stato. La distinzione è importante: un giudice potrebbe respingere la richiesta, concedere alcune restrizioni oppure lasciare che la causa prosegua senza modifiche immediate alle attività di OpenAI.
La decisione stabilirà anche quale sarà, in pratica, la portata dei limiti proposti dallo Stato, compreso se un requisito di approvazione delle misure di sicurezza possa applicarsi ai nuovi modelli e come verrebbero fatte rispettare le regole richieste per i minori e per il modo in cui ChatGPT viene presentato. Per ora, la Florida ha chiesto queste condizioni; il tribunale non le ha ordinate.