The Pulse
Un panel dell’ONU afferma che le misure di salvaguardia non possono attendere la certezza
Il primo panel scientifico indipendente delle Nazioni Unite sull’intelligenza artificiale ha avvertito che l’IA avanza più rapidamente della vigilanza pubblica, mentre il segretario generale António Guterres ha chiesto standard comuni per i
AI.info Team ·
Questo articolo si basa su una trascrizione prodotta mediante riconoscimento automatico del parlato e pubblicata dalle Nazioni Unite. L’ONU precisa che la trascrizione non è un resoconto ufficiale né un documento ufficiale.
Il panel dell’ONU presenta il suo primo rapporto sull’intelligenza artificiale
Il Panel scientifico internazionale indipendente sull’intelligenza artificiale delle Nazioni Unite ha presentato il suo primo rapporto il 6 luglio, durante l’apertura del Dialogo globale sulla governance dell’IA a Ginevra.
Il panel riunisce 40 esperti di diverse regioni e discipline, che partecipano a titolo personale e in modo indipendente da governi, aziende e altre istituzioni. Il rapporto offre una valutazione basata su dati comprovati degli effetti attuali, delle opportunità e dei rischi dell’intelligenza artificiale. Il programma precisa che si tratta del primo rapporto del panel e che non contiene raccomandazioni politiche specifiche.
Il segretario generale dell’ONU António Guterres ha dichiarato che il rapporto individua tre grandi segnali d’allarme: la velocità dello sviluppo dell’IA, la concentrazione della potenza di calcolo, dei dati e dei talenti, e l’effetto delle informazioni sintetiche o generate dalle macchine sulla fiducia del pubblico.
Ha affermato che i sistemi di IA non si limitano più ad attendere istruzioni dirette. Scrivono codice, agiscono online e compiono scelte con una supervisione umana ridotta, mentre le istituzioni sono ancora concepite in larga misura per governare macchine che eseguono ordini.
Guterres ha inoltre affermato che i sistemi più avanzati sono concentrati in un ristretto numero di aziende e paesi, lasciando a molte nazioni poca influenza sulle decisioni che incideranno sul loro futuro. Ha avvertito che le falsità diffuse con l’ausilio delle macchine possono persuadere con la stessa efficacia delle informazioni veritiere, mentre prove autentiche possono essere liquidate come fabbricate.
Guterres chiede metodi comuni per i test
Guterres ha chiesto ai paesi di concordare metodi per testare i sistemi di IA, misurare i rischi e attribuire le responsabilità oltre i confini nazionali. Ha affermato che servono criteri di base comuni per i sistemi avanzati e metodi comuni per valutare e verificare i rischi.
«Nessun bambino dovrebbe fare da cavia per un’IA non regolamentata.»
António Guterres, segretario generale delle Nazioni Unite
Ha inoltre annunciato l’AI Child Safety Pledge, chiedendo tre misure di salvaguardia. Le aziende non dovrebbero distribuire sistemi accessibili ai minori senza test di sicurezza specifici per loro e una supervisione indipendente. Dovrebbero applicare una politica di tolleranza zero verso la generazione di immagini sessuali di minori e devono individuare, segnalare e rimuovere tale materiale. I sistemi dovrebbero inoltre mettere in contatto i minori che mostrano segni di disagio con persone in grado di aiutarli, anziché gestire da soli una situazione di crisi.
Guterres ha affermato che la responsabilità umana deve restare centrale quando l’IA viene usata in decisioni ad alto impatto riguardanti la giustizia, l’assistenza sanitaria e l’attività di polizia. Le macchine possono contribuire a informare queste decisioni, ha detto, ma devono essere gli esseri umani a decidere e a rispondere degli esiti.
Le capacità restano distribuite in modo diseguale
Il segretario generale ha affermato che i benefici e i rischi dell’IA sono distribuiti in modo diseguale. Le infrastrutture di calcolo, i dati e le competenze tecniche sono concentrati, mentre molti paesi in via di sviluppo non dispongono delle risorse necessarie per partecipare pienamente allo sviluppo dell’IA o governare i sistemi secondo le proprie esigenze.
Ha detto che le Nazioni Unite stanno lavorando con gli Stati membri a una rete globale per lo scambio di conoscenze e lo sviluppo di capacità nel campo dell’IA, in particolare nei paesi in via di sviluppo. Ha inoltre annunciato che presenterà raccomandazioni per un Fondo globale per l’IA a sostegno delle competenze, dei dati e dell’accesso a potenza di calcolo a costi contenuti.
Il panel non è un’autorità di regolamentazione e non può imporre norme vincolanti. Il suo ruolo è fornire analisi scientifiche indipendenti ai governi e ad altri decisori. La responsabilità finale delle scelte politiche resta quindi agli Stati membri.
Guterres ha affermato che le evidenze raccolte dal panel dovrebbero favorire un’azione urgente, non ritardarla. La questione centrale, ha detto ai delegati, è se i governi daranno forma insieme all’IA o lasceranno che la tecnologia plasmi le società senza un piano condiviso.