The Pulse

L’Ufficio per l’IA dell’UE chiede ulteriori informazioni sugli incidenti di perdita di controllo dei modelli

La Commissione europea afferma che l’Ufficio per l’IA ha ricevuto segnalazioni di incidenti gravi e chiesto informazioni sulle pratiche di sicurezza agli sviluppatori dei modelli coinvolti in recenti incidenti di perdita di controllo. Preve

AI.info Team · 2026-10-13

«Rafforzare le capacità dell’UE di individuare, valutare e indagare incidenti di questa natura.»

Il presidente e il vicepresidente dell’AI Scientific Panel, citati nel resoconto della Commissione europea

La Commissione europea afferma che il suo Ufficio per l’IA ha ricevuto segnalazioni di incidenti gravi e ha chiesto informazioni sulle pratiche di sicurezza agli sviluppatori di modelli avanzati coinvolti in recenti incidenti che descrive come casi di «perdita di controllo». La Commissione ha pubblicato l’aggiornamento il 12 ottobre, dopo una riunione straordinaria del suo AI Scientific Panel il 9 ottobre. Intende inviare agli sviluppatori ulteriori domande preparate congiuntamente dal panel e dall’Ufficio per l’IA.

Bruxelles ha ricevuto segnalazioni e ha domande per gli sviluppatori

Il resoconto della Commissione segna il passaggio dall’indagine del panel alla raccolta diretta di informazioni presso le aziende coinvolte. L’Ufficio per l’IA aveva già richiesto e ricevuto segnalazioni di incidenti gravi e inviato richieste di informazioni sulle pratiche di sicurezza degli sviluppatori. La prossima serie di domande unirà queste richieste ai quesiti elaborati dal panel, che fornisce consulenza tecnica all’ufficio.

La Commissione non ha indicato i nomi degli sviluppatori, dei modelli o degli incidenti. Il suo resoconto pubblico non descrive che cosa sia accaduto nei singoli casi, se gli incidenti abbiano avuto una causa comune o se abbiano interessato persone o sistemi al di fuori dei test. L’espressione «perdita di controllo» è il modo in cui la Commissione descrive gli incidenti in esame; l’annuncio non dimostra che un modello sia diventato impossibile da fermare.

Il panel affianca all’esame degli incidenti quello dei rischi tecnici emergenti

Alla riunione del 9 ottobre, il presidente del panel Seán Ó hÉigeartaigh ha illustrato ciò che gli investigatori sanno degli incidenti e ciò che resta ignoto. Il panel ha esaminato anche le prove relative alla possibilità di un auto-miglioramento ricorsivo e ai rischi associati. La sintesi della Commissione non afferma che uno dei modelli oggetto dell’indagine si sia migliorato da solo.

Gli esperti hanno discusso anche di tecniche di addestramento che potrebbero ridurre la monitorabilità dei modelli, ossia la possibilità di osservarne e valutarne il comportamento. Secondo la Commissione, il presidente e il vicepresidente del panel hanno raccomandato un esame più attento delle tecniche e delle architetture che riducono la monitorabilità, insieme a una maggiore supervisione dei modelli interni utilizzati durante lo sviluppo e i test. Tra le altre proposte figurano una task force europea per migliorare l’individuazione degli incidenti e le relative indagini, e un’iniziativa internazionale per la condivisione delle informazioni e il coordinamento della risposta alle crisi.

Le richieste di informazioni non equivalgono all’accertamento di una violazione

L’indagine rientra nel quadro di vigilanza dell’AI Act per i modelli di uso generale, compresi quelli più avanzati che potrebbero comportare rischi sistemici. La Commissione afferma che l’Ufficio per l’IA può richiedere informazioni per verificare che i fornitori rispettino le norme e che, nel caso dei modelli di uso generale, può condurre valutazioni o richiedere l’accesso necessario a svolgerle. Alcuni poteri di applicazione dell’AI Act sono entrati in vigore il 2 agosto 2026.

La Commissione non ha annunciato alcuna sanzione né accertato violazioni a carico di uno sviluppatore in questa vicenda. Le richieste di segnalazioni e di informazioni sulla sicurezza sono passaggi di un’indagine, non la prova che un’azienda abbia violato la legge; qualsiasi sanzione richiederebbe alla Commissione di accertare una violazione dolosa o colposa. Per ora, le informazioni pubbliche indicano che l’ufficio ha ricevuto segnalazioni, ha chiesto chiarimenti sulle pratiche di sicurezza e intende inviare un’altra serie di domande, mentre gli incidenti e le aziende coinvolte restano senza nome.