The Pulse
22 ricercatori avvertono che l’automazione della ricerca e sviluppo sull’IA potrebbe accelerare i progressi
Uno studio pubblicato il 28 settembre da 22 ricercatori avverte che automatizzare la ricerca sull’IA potrebbe condensare anni di progressi in pochi mesi. Gli autori chiedono una supervisione pubblica, strumenti per contenere l’accelerazione
AI.info Team · Scritto con l’IA ·
La quota dichiarata da Anthropic è salita dall’1% al 26%
Anthropic ha dichiarato che, nell’agosto 2026, i sistemi di IA hanno svolto il 26% delle sue attività interne di ricerca e sviluppo sull’IA con la sola supervisione umana ad alto livello, contro l’1% di marzo. Il dato è alla base dell’avvertimento di 22 ricercatori: automatizzare il lavoro che migliora i sistemi di IA potrebbe accelerare il progresso dell’IA stessa, condensando anni di avanzamenti in pochi mesi o meno. Lo studio, pubblicato il 28 settembre, presenta questo esito come una possibilità, non come una previsione.
Tra gli autori figurano Geoffrey Hinton, Yoshua Bengio, il ricercatore di OpenAI Jakub Pachocki e il cofondatore di Anthropic Jack Clark. Sostengono che i sistemi di IA contribuiscano già a fasi importanti del processo di ricerca, pur riconoscendo che i sistemi attuali non riescono ancora a svolgere alcuni compiti e possono rappresentare in modo inesatto il lavoro svolto. Lo studio cita anche quanto riferito da OpenAI: i suoi sistemi portano regolarmente a termine attività di ricerca e sviluppo che richiederebbero giorni di lavoro al personale.
Il circolo virtuoso dipende dai miglioramenti del software
Il meccanismo proposto è un ciclo: i sistemi di IA assumono più compiti di ricerca, contribuiscono a creare successori migliori e poi impiegano questi ultimi per svolgere ancora più lavoro. Poiché i miglioramenti del software possono essere reimpiegati rapidamente nella ricerca, lo studio si concentra su un’accelerazione trainata dal software, senza presumere che il nuovo hardware arrivi allo stesso ritmo. Gli autori stimano che, una volta raggiunta una capacità di ricerca pari a quella degli esperti, con costi di funzionamento paragonabili a quelli dei sistemi attuali, le risorse di calcolo di un singolo sviluppatore di modelli di frontiera potrebbero sostenere una forza lavoro di IA equivalente ad almeno milioni di ricercatori umani di altissimo livello.
«I sistemi di IA sono sulla buona strada per automatizzare la maggior parte delle attività di ricerca e sviluppo sull’IA entro pochi anni, e forse tutte», scrivono Alan Chan e altri, autori di «What if automating AI R&D triggers an intelligence explosion?»
Gli autori sottolineano che le prove sono preliminari e contrastanti. La loro analisi prende in esame diversi vincoli, tra cui i rendimenti decrescenti dello sforzo di ricerca, i limiti delle risorse di calcolo e dei dati, i compiti che restano difficili da automatizzare e i processi lunghi, come le sessioni di addestramento. Affermano che esiste un percorso plausibile verso una rapida accelerazione, ma che non è stato dimostrato che l’automazione abbia raggiunto la soglia necessaria per innescarla.
Un’accelerazione di dieci volte si basa su stime incerte
Per esaminare se una ricerca più automatizzata possa superare i rendimenti decrescenti, lo studio si basa sulle stime del «rendimento dello sforzo di ricerca» ricavate da studi precedenti su tre sottocampi dell’IA. Le stime centrali di quegli studi vanno da 1,2 a 1,9; nel modello usato nello studio, un valore superiore a 1 significa che l’espansione della forza lavoro impegnata nella ricerca potrebbe accelerare i progressi. Se quelle stime restassero valide dopo la completa automazione e non emergessero altri ostacoli, il ritmo del progresso dell’IA potrebbe aumentare di dieci volte in circa 1,5 anni, calcolano gli autori. A quel punto, un anno di progressi al ritmo attuale richiederebbe all’incirca cinque settimane.
La condizione è importante: il calcolo presuppone che le stime continuino a valere e che non intervengano altri vincoli. Lo studio osserva inoltre che la società potrebbe avere più tempo per reagire se i sistemi avanzati restassero superiori agli esseri umani solo in ambiti ristretti, oppure se i processi fisici e la regolamentazione rallentassero l’impiego delle nuove capacità. Accanto ai possibili benefici presenta i rischi: progressi nella scienza e nella medicina, ma anche minacce informatiche o biologiche, perturbazioni del mercato del lavoro, una riduzione della supervisione umana e una maggiore concentrazione del potere.
Gli autori chiedono dati, misure di contenimento e piani di risposta
I ricercatori invitano i responsabili delle politiche pubbliche a ottenere informazioni migliori su quanto le aziende automatizzino la ricerca sull’IA, sulla rapidità con cui migliorano le capacità dei sistemi, su come le imprese distribuiscono la spesa per la ricerca e sugli ambiti in cui i sistemi di IA partecipano a decisioni ad alto impatto. Tra le opzioni figurano comunicazioni aziendali standardizzate, misurazioni effettuate da terzi e revisori indipendenti inseriti in alcune aziende di IA. Gli autori osservano che gran parte delle informazioni pertinenti è in possesso delle imprese che sviluppano e utilizzano questi sistemi.
Propongono inoltre di predisporre strumenti per rallentare o contenere lo sviluppo se i rischi lo giustificassero: requisiti di sicurezza, limiti al tasso di crescita delle capacità, supervisione degli esperimenti ad alto impatto e possibilità di sospendere specifiche attività di ricerca. Tra le altre opzioni figurano ambienti di calcolo isolati e accordi internazionali, insieme a strumenti di verifica e alla condivisione delle informazioni sugli incidenti. Per gli effetti sociali più ampi, raccomandano piani di emergenza per incidenti di sicurezza informatica o biologica, perturbazioni del mercato del lavoro, instabilità geopolitica e perdita di controllo su sistemi dotati di capacità molto elevate.
Lo studio pone ai governi un problema di tempi: secondo gli autori, i preparativi potrebbero richiedere anni, mentre un rapido ciclo di miglioramento potrebbe ridurre il tempo a disposizione per agire. Quali misure comparabili permetteranno ai funzionari pubblici di capire con quale rapidità si stia automatizzando la ricerca sull’IA e quando, ammesso che ciò accada, dovrebbero far scattare misure di contenimento?