The Pulse
Il comitato dell’UE esamina gli incidenti di perdita di controllo dell’IA in una riunione speciale
La Commissione europea afferma che il suo comitato scientifico ha indagato su recenti incidenti di perdita di controllo dell’IA e ha preparato domande per le aziende che hanno sviluppato i modelli coinvolti. Il comitato presenterà raccomand
AI.info Team · Scritto con l’IA ·
Domande alle aziende, raccomandazioni alla Commissione
Il comitato scientifico della Commissione europea sta esaminando recenti «incidenti di perdita di controllo» dell’IA, mentre l’UE applica il suo AI Act ai rischi sistemici. In una riunione speciale del 9 ottobre 2026, il comitato presenterà raccomandazioni sulla sicurezza e la protezione dell’IA di frontiera. La Commissione afferma inoltre che il comitato ha collaborato con il suo ufficio per l’IA alla preparazione di domande per le aziende che hanno sviluppato i modelli coinvolti.
L’annuncio non nomina i modelli, non descrive gli incidenti e non pubblica le domande. Non dice neppure se le aziende abbiano risposto. Le raccomandazioni della riunione restano quindi l’indicazione più chiara di quali rischi, secondo i consulenti scientifici della Commissione, richiedano attenzione.
Virkkunen collega il comitato all’applicazione delle norme
Henna Virkkunen, vicepresidente esecutiva della Commissione per la Sovranità tecnologica, la sicurezza e la democrazia, partecipa alla riunione. Il suo messaggio collega la consulenza scientifica all’autorità giuridica dell’UE e alla sua capacità di far rispettare le norme sull’IA avanzata.
«L’UE ha la prima legge al mondo che affronta il rischio sistemico derivante dall’IA e abbiamo bisogno di un contributo scientifico all’avanguardia. Le capacità dell’IA progrediscono rapidamente, ma con un solido quadro giuridico, un’applicazione decisa delle norme e le migliori menti scientifiche a sostegno di questo lavoro, l’Europa può essere all’avanguardia nel garantire un’IA sicura e protetta.»
Henna Virkkunen, vicepresidente esecutiva per la Sovranità tecnologica, la sicurezza e la democrazia, Commissione europea
La dichiarazione espone la posizione della Commissione, non una valutazione indipendente di quanto saranno efficaci la legge o la sua applicazione. La rilevanza pratica della riunione dipenderà dalle raccomandazioni del comitato e dall’uso che ne farà la Commissione.
Un comitato di 60 membri con un ampio mandato
Il comitato conta 60 esperti indipendenti. Fornisce consulenza all’ufficio per l’IA dell’UE e alle autorità nazionali sui rischi sistemici, sulla classificazione dei modelli di IA per finalità generali, sui metodi di valutazione e sulla vigilanza transfrontaliera del mercato.
La pagina della Commissione dedicata al comitato elenca anche competenze nella valutazione delle capacità, nella valutazione dei rischi, nella mitigazione tecnica, nei rischi di uso improprio e di impiego, nella cybersicurezza e nella misurazione della capacità di calcolo. I membri svolgono mandati biennali a titolo personale. Il loro mandato fa del comitato un consulente tecnico delle autorità di regolamentazione, non un’autorità distinta incaricata di far rispettare le norme.
Le competenze elencate per il comitato comprendono anche i rischi che emergono a livello sistemico e quelli legati alle offensive informatiche. I suoi membri sono stati selezionati tra persone provenienti da diversi paesi; la pagina della Commissione dedicata al comitato indica che, nel processo di selezione, sono stati considerati l’equilibrio geografico e quello di genere. La pagina afferma che la maggior parte degli esperti lavora nel mondo accademico, mentre gli altri provengono da organizzazioni legate al settore pubblico, dalla ricerca indipendente o dalla società civile. Gli incarichi, della durata di 24 mesi, sono rinnovabili e i membri operano a titolo personale.
I dettagli degli incidenti restano riservati
Nel resoconto di settembre di una riunione del comitato per l’IA, la Commissione aveva riferito che i funzionari avevano discusso di recenti incidenti legati all’IA e delle nuove capacità dei modelli di frontiera. L’annuncio di ottobre collega quell’attenzione all’indagine del comitato scientifico sugli incidenti di perdita di controllo, ma non fornisce ulteriori dettagli né risultati sugli incidenti.
Per ora, la Commissione ha annunciato un processo: gli esperti hanno esaminato gli incidenti, contribuito a formulare domande per gli sviluppatori dei modelli e stanno presentando raccomandazioni. L’avviso pubblicato non dice quali siano le raccomandazioni né identifica i sistemi a cui si riferiscono.