The Pulse
Un rapporto della California propone verifiche indipendenti obbligatorie per l’IA di frontiera
Un rapporto della California raccomanda di rendere obbligatorie valutazioni indipendenti dei rischi catastrofici dei modelli di IA di frontiera. Le proposte rispecchiano diverse raccomandazioni dell’organizzazione non profit Fathom e richiederebbero un intervento legislativo e l’adozione di norme attuative.

La California propone valutazioni indipendenti obbligatorie dei rischi catastrofici dei modelli di IA di frontiera, sostituendo l’approccio volontario con la supervisione di valutatori autorizzati dallo Stato. Il governatore Gavin Newsom ha pubblicato la tabella di marcia per l’attuazione il 18 novembre, secondo una dichiarazione di Fathom, un’organizzazione non profit che ha raccomandato diverse delle misure.
Le raccomandazioni non costituiscono di per sé nuovi requisiti per gli sviluppatori. Definiscono un approccio proposto per dare attuazione alle leggi sull’IA approvate di recente in California e chiedono ulteriori interventi legislativi e l’adozione di norme attuative.
Verifiche indipendenti
In base alla proposta, i grandi sviluppatori di modelli di frontiera dovrebbero consentire a organizzazioni indipendenti di verifica, o IVO, di valutare i rischi generati dai loro modelli. L’Agenzia per le operazioni governative dello Stato autorizzerebbe i valutatori e ne supervisionerebbe costantemente l’attività, con il potere di revocare le licenze di quelli che non siano all’altezza.
I valutatori riferirebbero i risultati allo Stato, che deciderebbe quali misure adottare. La California definirebbe per legge il livello di rischio accettabile, mentre i valutatori elaborerebbero e aggiornerebbero i test usati per misurarlo.
Fathom ha affermato che il rapporto rispecchia il test giuridico da essa proposto: è improbabile che un modello di frontiera aumenti il rischio di danni catastrofici oltre il livello che si avrebbe in sua assenza, e i suoi benefici dovrebbero superare il rischio residuo. L’organizzazione non profit aveva raccomandato che lo Stato stabilisse gli esiti di sicurezza attesi e affidasse le valutazioni tecniche ai valutatori.
Monitorare la ricerca sull’IA
Il rapporto raccomanda inoltre di assegnare ai valutatori, come primo compito, la valutazione della ricerca e dello sviluppo automatizzati dell’IA. Fathom aveva esortato lo Stato a dare priorità all’auto-miglioramento ricorsivo, in cui i sistemi di IA possono migliorare le proprie capacità.
Nella sua precedente comunicazione alle autorità californiane, l’organizzazione non profit aveva proposto che i valutatori avessero accesso continuativo ai sistemi di IA durante lo sviluppo e l’uso interno. Aveva inoltre raccomandato che il loro lavoro riguardasse la governance dell’uso interno, le soglie di capacità preregistrate e la verifica delle misure di controllo.
Fathom ha suggerito che, in una fase iniziale, lo Stato assegni i valutatori attingendo a un elenco predefinito, con un compenso basato sul tempo e sui costi dei materiali. In base a questa proposta, man mano che l’elenco si amplia gli sviluppatori potrebbero scegliere i valutatori, mentre lo Stato manterrebbe poteri quali la facoltà di porre il veto a una scelta, imporre la rotazione e revocare la certificazione di un valutatore.
Dalla legge all’attuazione
Quest’estate la California ha approvato SB 813 e AB 1405, istituendo un quadro per le organizzazioni indipendenti di verifica. Un successivo ordine esecutivo ha anticipato la scadenza per la definizione dei criteri di designazione da gennaio 2028 a maggio 2027 e ha riunito esperti per valutare in quali ambiti la verifica indipendente potrebbe svolgere un ruolo più ampio.
Fathom ha affermato che il rapporto rispecchia la sua raccomandazione di introdurre gradualmente i requisiti di licenza man mano che cresce il mercato dei valutatori, anziché aspettare che maturi prima di imporre requisiti agli sviluppatori. L’organizzazione ha sostenuto che un obbligo di legge contribuirebbe ad attirare capitali e talenti nel settore.
L’amministratore delegato e cofondatore di Fathom, Andrew Freedman, ha accolto con favore il rapporto, riconoscendo al contempo che la sua attuazione solleverebbe questioni legislative, normative, di tempistiche e di costi. Ha esortato i governi statali e federali a imporre la trasparenza e valutazioni indipendenti dei rischi.
Fonti
Notizie correlate
- La California propone controlli obbligatori sulla sicurezza dell’IA e poteri di disattivazione
- L’Australia intende imporre test indipendenti sui modelli di IA di frontiera
- Organizzazioni non profit fanno causa a cinque sviluppatori di IA per fermare modelli più capaci
- La California fa causa a OpenAI per presunte carenze nei test dell’IA
- Governi e aziende di IA firmano la dichiarazione di Parigi sulla sicurezza