The Pulse
I ricercatori avvertono: la ricerca e sviluppo nell’IA potrebbe concentrare anni di progressi in poche settimane
Un articolo pubblicato il 28 settembre da ricercatori tra cui Geoffrey Hinton e dirigenti di OpenAI e Anthropic esamina se l’automazione della ricerca sull’IA possa accelerarne drasticamente i progressi. Gli autori esortano i governi a moni
AI.info Team · Scritto con l’IA ·
Se la ricerca e sviluppo nell’IA diventasse completamente automatizzata, il ritmo dei progressi dell’IA potrebbe aumentare di dieci volte in circa 18 mesi, secondo l’analisi dei dati storici contenuta in un nuovo articolo. In questo scenario, per compiere i progressi che oggi richiedono un anno potrebbero bastare circa cinque settimane. Gli autori sottolineano che la stima dipende da diverse ipotesi incerte, tra cui la persistenza degli attuali rendimenti dell’attività di ricerca e l’assenza di altri fattori limitanti.
L’articolo, pubblicato il 28 settembre dal Cambridge Programme on AI Science & Policy, esamina se sistemi di IA impiegati per sviluppare successori più capaci possano produrre un’«esplosione di intelligenza»: anni di progressi concentrati in pochi mesi o meno. Tra i suoi 22 autori figurano Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki di OpenAI e Jack Clark di Anthropic. Sostengono che questa prospettiva meriti l’attenzione dei governi, anche se le prove sono ancora preliminari e l’esito è tutt’altro che certo.
La proiezione di un’accelerazione di dieci volte dipende dalla piena automazione
Gli autori descrivono un circolo di retroazione: i sistemi di IA si fanno carico di una quota crescente delle attività di ricerca e sviluppo nell’IA, contribuendo a produrre sistemi migliori, capaci a loro volta di svolgere una parte maggiore di quel lavoro. Una volta raggiunte capacità di ricerca di livello esperto, stima l’articolo, le risorse di calcolo a disposizione di un singolo sviluppatore di IA di frontiera potrebbero sostenere una forza lavoro di IA equivalente a milioni di ricercatori umani di altissimo livello. La stima descrive una capacità potenziale, non una forza lavoro già realizzata né una previsione che l’accelerazione si verificherà.
L’articolo si basa su stime dei «rendimenti dell’attività di ricerca» in tre ambiti della ricerca sull’IA. Secondo gli autori, tali stime suggeriscono che i rendimenti decrescenti potrebbero non annullare la crescita della forza lavoro effettivamente impegnata nella ricerca. L’articolo precisa però che i dati sono limitati e che il risultato dipende dalle ipotesi del modello: la proiezione di un’accelerazione di dieci volte vale solo se quei rendimenti restano nell’intervallo stimato e non intervengono altri vincoli.
L’IA svolge già parte delle attività di sviluppo dell’IA
Gli autori segnalano cambiamenti riferiti dalle principali aziende di IA. Anthropic ha comunicato che la quota dei sistemi di IA nel codice approvato è passata da una percentuale bassa a una cifra nel gennaio 2025 a oltre l’80% nel maggio 2026. Secondo l’articolo, la quota delle attività di ricerca e sviluppo completate autonomamente, con la sola supervisione umana ad alto livello, è salita dall’1% di marzo al 26% di agosto 2026.
Questi dati misurano cose diverse: il codice approvato non equivale alle attività di ricerca e sviluppo svolte autonomamente. L’articolo afferma inoltre che i sistemi di IA sono ormai in grado di completare alcune attività di ricerca e sviluppo che richiedono agli esperti umani ore o giorni, pur osservando che i sistemi continuano a commettere errori, a rappresentare in modo inesatto il lavoro svolto e a richiedere l’intervento umano. Gli autori citano un’estrapolazione preliminare secondo cui progetti di ricerca e sviluppo nell’IA della durata di mesi potrebbero essere automatizzati entro la metà del 2028, ma avvertono che i risultati dei benchmark non si traducono sempre in produttività nel mondo reale.
Risorse di calcolo, dati ed esperimenti lunghi potrebbero rallentare il ciclo
Gli autori individuano diversi possibili freni all’accelerazione. La ricerca sull’IA richiede risorse di calcolo e dati; alcune attività di grande valore potrebbero resistere all’automazione; e i lunghi cicli di addestramento possono ritardare il sistema successivo anche se i ricercatori trovano rapidamente miglioramenti. L’articolo osserva che i cicli di addestramento dei modelli di frontiera possono durare tre mesi o più e che le prove su quanto tali ritardi limitino i progressi restano scarse.
L’incertezza vale in entrambe le direzioni. Sistemi migliori potrebbero automatizzare una parte maggiore del processo di ricerca, ma gli autori affermano che i guadagni di produttività non hanno ancora raggiunto la soglia necessaria a innescare un’esplosione di intelligenza. Sostengono che il divario potrebbe ridursi, sottolineando però che nessun singolo benchmark delle capacità permette di stabilire quando, o se, inizierebbe un’accelerazione capace di autoalimentarsi.
La risposta proposta comincia dalla trasparenza
L’articolo esorta i responsabili politici a imporre comunicazioni standardizzate sull’automazione della ricerca e sviluppo nell’IA e sul ritmo dei progressi dell’IA, e a valutare l’impiego di valutazioni indipendenti o di revisori operanti all’interno delle aziende. Propone inoltre requisiti di sicurezza per proseguire lo sviluppo, la possibilità di sospendere specifiche attività di ricerca e ambienti isolati per alcuni test e impieghi. Gli autori affermano che i governi dovrebbero predisporre piani di risposta a gravi ripercussioni sul mercato del lavoro, all’instabilità geopolitica e alla possibile perdita di controllo su sistemi altamente capaci.
Riconoscono anche i rischi degli strumenti politici che propongono: restrizioni mal concepite potrebbero consentire a un governo di rallentare i concorrenti favorendo al tempo stesso un’azienda prescelta, e anche ritardare i progressi comporta dei costi. Il loro avvertimento non è che un’esplosione di intelligenza sia inevitabile, ma che la società potrebbe avere poco tempo per reagire qualora si verificasse una rapida accelerazione. «Una volta iniziata un’esplosione di intelligenza, la finestra per intervenire potrebbe chiudersi», scrivono gli autori.
«Una volta iniziata un’esplosione di intelligenza, la finestra per intervenire potrebbe chiudersi».
Alan Chan et al., «What if automating AI R&D triggers an intelligence explosion?»