The Pulse
Masayoshi Son di SoftBank avverte: l’IA potrebbe diventare «super pericolosa»
Il CEO di SoftBank Group Masayoshi Son ha avvertito a Kyoto, il 4 ottobre, che un’IA potente potrebbe diventare pericolosa nelle mani sbagliate. Le sue dichiarazioni sono arrivate in concomitanza con un’iniziativa di 17 paesi per ampliare i
AI.info Team · Scritto con l’IA ·
Masayoshi Son ha avvertito che un’IA potente potrebbe diventare «super pericolosa» nelle mani sbagliate, mentre un’iniziativa guidata dagli Stati Uniti, annunciata a Kyoto, promuoveva l’IA come mezzo per accelerare le scoperte scientifiche. Il CEO di SoftBank Group ha lanciato l’avvertimento il 4 ottobre, durante un evento a cui partecipava anche Michael Kratsios, consigliere della Casa Bianca per le politiche scientifiche e tecnologiche.
«Non possiamo più permetterci che gli esseri umani combattano tra loro», ha detto Son, sostenendo che i paesi devono collaborare per controllare una minaccia che ha descritto come ben più grave dei conflitti tra persone. Le sue parole hanno rappresentato una rara nota di cautela da parte di un investitore che da tempo sottolinea il potenziale dell’IA di trasformare l’economia.
Son avverte di una minaccia più grave dei conflitti tra esseri umani
Son ha collegato il rischio a quella che ha descritto come la crescita esponenziale delle capacità dell’IA. A suo avviso, i governi devono costruire un rapporto di fiducia e cooperare man mano che i sistemi diventano più capaci; una superintelligenza nelle mani sbagliate, ha detto, potrebbe essere «super pericolosa».
L’avvertimento è arrivato durante il 23° Science and Technology in Society Forum annuale, a Kyoto. Non equivaleva a un rifiuto dello sviluppo dell’IA: Son ha anche descritto come i servizi di IA stiano acquisendo la capacità di navigare sui siti web e scrivere codice, e ha presentato una previsione secondo cui le macchine svolgeranno un numero maggiore di compiti fisici.
A Kyoto, l’avvertimento di Son si affianca a un’iniziativa per la ricerca
Kratsios è intervenuto all’evento mentre gli Stati Uniti e altri 16 paesi aderivano alla Kyoto Vision for a Golden Age of Science. Secondo la dichiarazione della Casa Bianca, i paesi sostengono un più ampio accesso dei ricercatori agli strumenti di IA, ai dati scientifici, alle infrastrutture di calcolo e alle strutture sperimentali, oltre all’integrazione dell’IA avanzata nei flussi di lavoro della ricerca.
Kratsios ha presentato l’iniziativa in termini decisamente positivi. «La superintelligenza applicata alla scienza sarà la più grande forza della storia per democratizzare la ricerca», ha detto nell’annuncio della Casa Bianca. I due messaggi sono stati espressi sullo stesso palco, ma le dichiarazioni riportate non indicano un disaccordo diretto tra Son e Kratsios: il primo ha sottolineato il pericolo di un uso improprio, mentre la dichiarazione si è concentrata sull’accelerazione del lavoro scientifico.
Son vede l’IA passare dagli schermi al mondo fisico
Son ha descritto un’evoluzione dai chatbot ai servizi che usano strumenti come la navigazione web e la scrittura di codice, seguiti da sistemi in grado di aiutare i robot e altre macchine a interagire con il mondo fisico. Ha detto che questa terza fase potrebbe iniziare già nel 2027.
Questa transizione è importante per il suo avvertimento perché prefigura un’IA che agisce al di là di una conversazione o di un compito software. Son non ha specificato misure di salvaguardia né un calendario entro cui i governi dovrebbero coordinarsi per esercitare un controllo. Ha esortato i paesi a collaborare man mano che le capacità aumentano.
L’avvertimento sulla sicurezza si affianca a una previsione da 46 bilioni di dollari
Son ha mantenuto le sue previsioni ottimistiche a lungo termine pur sollevando la questione dei rischi. Ha ribadito la sua previsione secondo cui l’IA e le macchine capaci di apprendere potrebbero rappresentare almeno il 20% del prodotto interno lordo mondiale entro il 2040, pari a 46 bilioni di dollari.
Questa combinazione — un avvertimento sul controllo e una previsione di un enorme impatto economico — riassume la tensione nelle dichiarazioni di Son a Kyoto. Ha chiesto cooperazione internazionale contro l’uso improprio dell’IA, continuando al tempo stesso a sostenere che la tecnologia potrebbe diventare una forza importante nell’economia mondiale.