The Pulse

Governi e aziende di IA firmano la dichiarazione di Parigi sulla sicurezza

Una dichiarazione firmata da governi, aziende di IA e gruppi della società civile stabilisce tre impegni sulla sicurezza dell’IA di frontiera. La dichiarazione chiede metodi di valutazione condivisi, maggiori responsabilità e sistemi miglio

AI.info Team · Scritto con l’IA · verificato · 2026-11-10

Una dichiarazione congiunta pubblicata dall’ufficio del primo ministro canadese stabilisce impegni sulla sicurezza dell’IA di frontiera, sulla responsabilità e sulla condivisione delle informazioni. È stata firmata lunedì 9 novembre 2026 dai leader di governo, dalle aziende di IA e dai rappresentanti della società civile indicati nel testo e resta aperta a ulteriori adesioni.

I governi indicati tra i firmatari sono quelli di Bahrain, Canada, Finlandia, Francia, Norvegia e Paesi Bassi. Le aziende firmatarie sono Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI e Synthesia. Tra i firmatari della società civile figurano LawZero, rappresentata da Yoshua Bengio; SaferAI, rappresentata da Henry Papadatos; AI Safety Connect, rappresentata da Nicolas Miailhe; e Ifri, rappresentato da Laure de Roucy-Rochegonde.

Standard di valutazione condivisi

La dichiarazione riflette, affermano i firmatari, un interesse comune a sviluppare un’IA sicura, protetta, utile e ampiamente disponibile. Lo sviluppo, la diffusione e gli effetti dei modelli di frontiera hanno una portata globale, afferma la dichiarazione, e nessun singolo Stato, azienda o organizzazione internazionale può gestire da solo tutti i rischi.

Le tre priorità individuate nel corso delle discussioni sono un quadro normativo chiaro e prevedibile, progressi immediati in materia di trasparenza e segnalazione degli incidenti e standard di valutazione rigorosi. Il primo impegno prevede che responsabili politici, ricercatori e sviluppatori definiscano un quadro comune per valutare e gestire i rischi dei modelli di frontiera, basandosi sui quadri esistenti.

Il quadro proposto si baserebbe su standard tecnici, strumenti e metodi comuni in grado di tenere il passo con i cambiamenti nelle capacità dei modelli. La dichiarazione richiama i rischi legati a usi impropri pericolosi, anche in ambito informatico e CBRN, nonché alla crescente autonomia, al disallineamento dei modelli e alla perdita di controllo. I firmatari si impegnano a pubblicare in un formato standardizzato i risultati non sensibili delle valutazioni e a creare un archivio accessibile al pubblico che, secondo la dichiarazione, potrebbe includere protocolli di red-teaming, strumenti di benchmarking, valutazioni dei rischi e risultati degli stress test.

Responsabilità lungo il ciclo di vita del modello

Il secondo impegno afferma che tutti gli attori dell’ecosistema dell’IA dovrebbero rispondere del proprio operato in base ai rispettivi ruoli. Lungo il ciclo di vita del modello, i firmatari si impegnano a rispettare rigorosi standard di sicurezza stabiliti o riconosciuti dalle autorità nazionali, sotto la supervisione di queste ultime e con valutazioni da parte di soggetti terzi credibili, competenti e indipendenti.

Ai responsabili politici si chiede di definire quadri giuridici che chiariscano le responsabilità nei casi di danni su vasta scala, anche quando questi oltrepassano i confini nazionali. Secondo la dichiarazione, ciò dovrebbe proteggere le persone colpite e offrire alle aziende di IA la certezza del diritto necessaria allo sviluppo economico.

Gli sviluppatori di modelli di frontiera si impegnano a rendere note capacità, limitazioni e rischi conosciuti e, quando appropriato e proporzionato al rischio, a sostenere la valutazione da parte di esperti indipendenti qualificati. Si impegnano inoltre a predisporre meccanismi di sicurezza che consentano di interrompere le operazioni dei modelli sotto il loro controllo, anche durante l’addestramento e l’uso interno. La dichiarazione segnala il rischio che le misure di salvaguardia vengano rimosse o aggirate, anche attraverso l’abliteration, ma riconosce anche i vantaggi dello sviluppo a pesi aperti per la ricerca, l’innovazione e la sicurezza.

La dichiarazione chiede che la governance interna preveda una gestione continua dei rischi, il monitoraggio in tempo reale delle capacità emergenti, attività di red-teaming interne e canali di segnalazione che proteggano i ricercatori. Gli sviluppatori si impegnano, in base alla dichiarazione, a lavorare su strutture di governance con responsabilità definite, risorse adeguate e supervisione indipendente.

Segnalazione degli incidenti e allerta precoce

Il terzo impegno riguarda la condivisione delle informazioni, le segnalazioni e i sistemi di allerta precoce. Allerte rapide, basate sui meccanismi esistenti di risposta agli incidenti, compresi quelli di sicurezza informatica, sono essenziali per prevenire rischi sistemici a cascata e rispondere alle minacce emergenti, afferma il testo.

Si propone inoltre di rafforzare i meccanismi di segnalazione, affinché le organizzazioni possano allineare le classificazioni degli incidenti e condividere tempestivamente informazioni su gravi incidenti informatici e legati al controllo dell’IA, nonché su altri segnali che potrebbero precedere danni gravi. La condivisione delle informazioni potrebbe avvenire tra aziende e governi, tra governi o tra aziende di IA, e la dichiarazione chiede di valutare se un meccanismo di cooperazione possa essere utile.

I responsabili politici si impegnano a offrire canali sicuri e riservati attraverso i quali le persone che effettuano segnalazioni, compresi i dipendenti e altri soggetti interessati, possano esprimere preoccupazioni fondate sui rischi sistemici senza temere ritorsioni legali o professionali.