The Pulse
Sanders e Casar propongono di vietare la superintelligenza artificiale
Bernie Sanders e Greg Casar hanno presentato il 23 settembre una proposta di legge per vietare la superintelligenza artificiale e sospendere lo sviluppo dei sistemi di IA avanzati. La proposta istituirebbe un Dipartimento dell’intelligenza
AI.info Team ·
Sanders e Casar vogliono frenare; per Trump è una corsa
Il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il 23 settembre una proposta di legge per vietare permanentemente la superintelligenza artificiale e sospendere lo sviluppo dell’IA avanzata finché una nuova autorità federale di regolamentazione non avrà stabilito norme di sicurezza. La proposta contrappone i due legislatori al presidente Donald Trump, che insiste sulla necessità di mantenere gli Stati Uniti davanti alla Cina: Trump ha detto «chiunque vinca nella SI, chiunque vinca nella superintelligenza, vince».
Sanders ha presentato la misura come una risposta a rischi che le aziende non possono controllare in modo affidabile. «Quando si corre verso un precipizio, non basta alleggerire la pressione sull’acceleratore. Bisogna frenare», ha detto nell’annuncio l’indipendente del Vermont. Casar, democratico del Texas, ha sostenuto che gli Stati Uniti dovrebbero perseguire accordi internazionali per impedire che la superintelligenza venga realizzata in qualsiasi parte del mondo.
La sospensione va oltre la superintelligenza
Il Ban Artificial Superintelligence Act istituirebbe un Dipartimento dell’intelligenza artificiale con rango ministeriale e fermerebbe lo sviluppo dell’IA avanzata finché il dipartimento non avrà completato il proprio organico ed emanato norme di sicurezza. La proposta definisce i sistemi avanzati in base alla potenza di calcolo impiegata per addestrarli: almeno 1025 operazioni su numeri interi o in virgola mobile, con una soglia aggiornata ogni anno.
Il dipartimento proposto imporrebbe agli sviluppatori di presentare i propri piani prima dell’addestramento; spetterebbe poi al dipartimento monitorare i sistemi durante lo sviluppo e dopo la messa in funzione, e approvare quelli avanzati prima del rilascio al pubblico. La proposta prevede inoltre l’assegnazione di autorizzazioni agli sviluppatori di IA avanzata, subordinate alla possibilità di accedere ai loro sistemi, al personale e alle infrastrutture fisiche.
Il divieto riguarda i sistemi che superano le capacità cognitive umane nella maggior parte degli ambiti o che sono in grado di pianificare e attuare la distruzione dell’umanità o la sua privazione di potere. Riguarda anche i sistemi con «caratteristiche precorritrici della superintelligenza», tra cui la capacità di accelerare la ricerca sull’IA, accedere senza autorizzazione a infrastrutture protette, resistere alla disattivazione, contribuire alla realizzazione di armi nucleari, chimiche o biologiche, modificare sé stessi o sottrarsi alla supervisione umana.
Le sanzioni comprendono la disattivazione e la confisca dei beni
La proposta incarica il dipartimento di monitorare i sistemi avanzati per individuare capacità vietate. Se i funzionari individuassero caratteristiche precorritrici, il sistema verrebbe sospeso e scollegato da internet; se non fosse possibile eliminare tali capacità, il dipartimento dovrebbe renderlo inoperativo entro 30 giorni. Un sistema identificato come superintelligenza artificiale verrebbe reso immediatamente inoperativo.
Le sanzioni sono severe, ma la proposta specifica a chi potrebbero applicarsi. I dipendenti con poteri decisionali di un’azienda autorizzata e i soggetti non affiliati che violassero con condotta imprudente la sospensione, i divieti o le regole dell’autorizzazione potrebbero rischiare fino a 20 anni di carcere. Se l’accertamento di una violazione resistesse al controllo giudiziario, la proprietà intellettuale e i beni dell’azienda potrebbero essere confiscati per garantire la distruzione dei sistemi e dell’hardware correlati.
Sostenere un intervento non significa sostenere un divieto
I promotori della proposta affermano che la sospensione non fermerebbe tutti i sistemi di IA. Casar ha detto di essere entusiasta del potenziale della tecnologia di produrre progressi medici, sostenendo al tempo stesso che le capacità pericolose richiedono limiti applicabili. La proposta incaricherebbe inoltre il nuovo dipartimento e il Dipartimento di Stato di perseguire accordi internazionali e un coordinamento con gli alleati, considerando i controlli sulle esportazioni tra i possibili strumenti.
Non tutti i sostenitori di una vigilanza più rigorosa appoggiano il divieto proposto. Brendan Steinhauser, amministratore delegato dell’Alliance for Secure AI, ha elogiato Sanders e Casar per aver sollecitato il Congresso ad affrontare i rischi della superintelligenza, ma ha detto che il gruppo preferisce «un approccio più misurato». Roll Call ha riferito che anche alcune voci del settore si sono opposte a una sospensione nazionale in assenza di un accordo internazionale.
Il testo della proposta è pubblicato insieme all’annuncio. Delinea un’autorità di regolamentazione e un sistema di applicazione delle norme di ampia portata, ma non istituisce né l’una né l’altro. Nel testo riportato nel documento della proposta collegato, il numero del disegno di legge al Senato e l’assegnazione alla commissione sono lasciati in bianco.