The Pulse
I ricercatori delineano una sospensione decennale dell’addestramento dell’IA di frontiera
Un rapporto di un gruppo di lavoro esamina come i controlli sui chip per l’addestramento potrebbero sostenere una lunga sospensione dell’addestramento dell’IA di frontiera. La valutazione di fattibilità dipende dalla cooperazione dei govern
AI.info Team · Scritto con l’IA ·
I governi che valutano una lunga sospensione dell’addestramento dell’IA di frontiera si trovano di fronte a un dilemma strategico: ogni paese che si ferma potrebbe temere che i rivali continuino a sviluppare modelli più potenti. Un nuovo rapporto di un gruppo di lavoro internazionale composto da 26 membri sostiene che una sospensione decennale potrebbe essere verificata attraverso controlli sui chip usati per addestrare quei modelli. La conclusione, tuttavia, è subordinata a una condizione: i ricercatori non affermano che i governi probabilmente troveranno un accordo, né che una sospensione sia la scelta politica migliore. Esaminano se un accordo potrebbe funzionare qualora i leader lo volessero.
I chip per l’addestramento sono il punto su cui si propone di intervenire
Il rapporto, pubblicato il 9 ottobre, propone di fermare la produzione di chip in grado di sostenere l’addestramento su scala di frontiera e di sostituire poi gradualmente le scorte esistenti con chip specializzati dedicati esclusivamente all’inferenza. L’inferenza è l’utilizzo di un modello già addestrato; l’hardware sostitutivo proposto farebbe funzionare i modelli approvati in modo rapido ed efficiente, ma non sarebbe adatto all’addestramento di nuovi sistemi di frontiera. Secondo gli autori, la filiera dei chip presenta punti critici concentrati nella produzione che i governi potrebbero regolamentare.
I chip esistenti adatti all’addestramento non sparirebbero tutti in una volta. Durante la transizione, il rapporto propone di monitorarli e impedirne l’uso per l’addestramento di modelli di frontiera, mentre il nuovo hardware dedicato esclusivamente all’inferenza subentra nell’erogazione dei servizi commerciali. Gli autori discutono anche del trasferimento o del ritiro di gran parte delle vecchie scorte, compresa la possibilità di collocarle in strutture di ricerca soggette a governance internazionale o di affidarle in custodia fuori dai confini di uno Stato.
«La nostra valutazione è che un’attuazione simile a quella descritta nel § 3 sarebbe probabilmente tecnicamente fattibile nell’immediato futuro prevedibile, se i governi degli Stati Uniti, della Cina e degli Stati fornitori e proprietari di chip elencati nel § 3.1 attuassero le misure di governance e verifica discusse nel § 3.3».
The Working Group on AI Pause Feasibility, gli autori del rapporto
Il monitoraggio deve individuare le violazioni e scoraggiare l’abbandono dell’accordo
Il piano affronta due modi distinti in cui un accordo potrebbe fallire. Nel caso di una violazione occulta, uno Stato addestra segretamente nuovi modelli di frontiera dando l’impressione di rispettare l’accordo; i ricercatori sostengono che l’addestramento su scala di frontiera richiederebbe centinaia di migliaia o milioni di chip e mesi o anni di utilizzo, e sarebbe quindi più difficile da nascondere rispetto a un addestramento su scala minore. Secondo loro, perché la sospensione sia praticabile non occorre che la verifica individui ogni violazione, ma deve permettere di imporre conseguenze credibili.
La sfida aperta dell’accordo pone un problema distinto. Uno Stato potrebbe abbandonare l’accordo e cercare di assemblare un parco di chip abbastanza grande da ottenere un vantaggio prima che gli altri reagiscano; secondo il rapporto, il monitoraggio da solo non può impedirlo. Limitare l’accumulo di capacità di addestramento e sottrarre al controllo nazionale gran parte delle scorte dichiarate precedenti alla sospensione sono tra le misure prese in esame per ridurre questo rischio.
La durata decennale dipende dal numero di chip e dall’efficienza dell’addestramento
Gli autori individuano quattro condizioni perché una sospensione duri almeno un decennio: gli Stati devono cooperare sulle regole per la produzione dei chip, condividere informazioni per localizzare quelli esistenti, produrre in tempo hardware dedicato esclusivamente all’inferenza per sostituire i chip per l’addestramento e mantenere i miglioramenti dell’efficienza dell’addestramento entro l’intervallo ipotizzato dal rapporto. Un censimento globale dei chip precedenti alla sospensione aiuterebbe a individuare capacità non dichiarate, mentre l’accesso commerciale ai servizi di inferenza nella fase di transizione potrebbe incentivare i proprietari a dichiarare il proprio hardware.
L’efficienza dell’addestramento è una delle principali incognite, perché i miglioramenti degli algoritmi e dei dati possono rendere più produttiva una quantità fissa di potenza di calcolo. Secondo il rapporto, la sospensione potrebbe probabilmente durare almeno un decennio se i miglioramenti dell’efficienza nell’addestramento di modelli vicini alla frontiera a cui si applica la sospensione non superassero un ordine di grandezza ogni cinque anni. Questa stima dipende dalla valutazione dei ricercatori sui miglioramenti storici e dalla possibilità che tali miglioramenti rallentino quando si fermeranno gli esperimenti su scala di frontiera.
Uno studio di fattibilità, non una proposta di trattato
Il gruppo di lavoro dichiara esplicitamente di non valutare né se una sospensione sia auspicabile né quanto sia probabile che i leader la attuino. La sua analisi ipotizza uno scenario in cui i governi preferirebbero sospendere l’addestramento se potessero fidarsi che gli altri facciano lo stesso, oppure individuare abbastanza rapidamente eventuali defezioni. La distinzione è importante: il rapporto delinea un possibile sistema di verifica, non un accordo adottato da un governo.
Gli autori affermano inoltre che una sospensione non risolverebbe tutti i problemi creati dai sistemi di IA esistenti. Gli usi impropri e i malfunzionamenti richiederebbero comunque misure di governance, e i limiti all’addestramento su larga scala potrebbero rendere più difficile correggere le falle di sicurezza dei modelli attraverso un nuovo addestramento. Il rapporto segnala un altro rischio: a seconda di come vengono concepite le regole, le restrizioni potrebbero consolidare le posizioni di mercato delle principali aziende di IA. La prova politica centrale resta capire se gli Stati possano accordarsi per dichiarare, monitorare e infine ritirare l’hardware per l’addestramento da cui dipendono i loro stessi programmi di IA.