The Pulse
UNIDIR studia i rischi per la sicurezza dei modelli di IA open source
UNIDIR sta studiando come i modelli di IA disponibili apertamente potrebbero essere usati in modo improprio da attori malevoli non statali. Il suo prossimo lavoro esaminerà le salvaguardie tecniche, la regolamentazione e la cooperazione internazionale, insieme ai vantaggi dell’accesso.

UNIDIR sta studiando come i modelli di IA disponibili apertamente potrebbero essere usati in modo improprio da attori malevoli non statali, con uno studio di prossima pubblicazione che esaminerà le possibili risposte politiche. In un commento pubblicato il 17 novembre, l’istituto ha avvertito che le misure volte ad affrontare questi rischi non hanno tenuto il passo con la diffusione delle capacità dell’IA.
Il lavoro, condotto dal Centre of Excellence on AI, Peace and Security di UNIDIR, esaminerà l’IA open source, i suoi usi e le possibili risposte normative. Rientra nel lavoro dell’istituto volto a contrastare la proliferazione dell’IA.
Gradi di apertura
L’istituto distingue tra modelli completamente chiusi, servizi basati sul cloud, modelli open-weight e modelli completamente open source. Avverte che la distinzione tra aperto e chiuso può essere fuorviante, perché l’accesso alle componenti di un modello varia.
I modelli aperti più comuni sono quelli open-weight, afferma UNIDIR. I loro pesi sono i parametri che contribuiscono a determinare le risposte prodotte da un modello. I modelli open-weight possono essere scaricati, eseguiti e modificati, mentre alcune componenti, come i dati di addestramento o il codice, possono rimanere private. Al contrario, un modello completamente open source rende disponibili tutte le sue componenti a chiunque.
I termini open source e open-weight sono spesso usati come sinonimi, anche se dal punto di vista tecnico non sono identici. Il commento sostiene che, tuttavia, i due possano essere considerati equivalenti quando si valutano i rischi legati alla loro diffusione tra attori malevoli.
Accesso e uso improprio
Tra i vantaggi, i modelli aperti richiedono in genere hardware meno potente, secondo UNIDIR. Per esempio, l’istituto afferma che basta un portatile di fascia alta per eseguire un modello locale destinato alla generazione automatizzata di contenuti per i social media, ad analisi di intelligence di base e al supporto logistico per una piccola organizzazione.
I modelli aperti consentono inoltre a ricercatori, governi e organizzazioni private di adattarli alle proprie esigenze, mantenendo al contempo il controllo sui dati sensibili, afferma il commento. Aggiunge che questi modelli possono ridurre le dipendenze e offrire pari opportunità ai Paesi in via di sviluppo.
Secondo l’istituto, lo stesso accesso crea opportunità di uso improprio. Afferma che le salvaguardie integrate possono essere rimosse o aggirate nel giro di pochi giorni dal rilascio di un modello e che i modelli privati di tali salvaguardie possono aiutare gli attori malevoli in attività che includono pianificazione, logistica, reclutamento e raccolta di informazioni.
L’istituto afferma che sono stati documentati anche casi di gruppi terroristici che hanno usato modelli chiusi per la logistica e la fabbricazione di armi ed esplosivi, oltre a casi analoghi che coinvolgono estremisti e terroristi che agiscono da soli. I fornitori di modelli chiusi possono monitorare le richieste e sospendere o bloccare gli account sospettati di intenti violenti; i modelli aperti non sono sottoposti allo stesso livello di controllo, secondo il commento.
Risposte al vaglio
La prossima ricerca prenderà in considerazione come i quadri normativi potrebbero affrontare i rischi. UNIDIR individua nel carattere a duplice uso della tecnologia una sfida particolare per la regolamentazione dei dati di addestramento: la stessa tecnologia può avere finalità benefiche o dannose.
Le possibili risposte da esaminare spaziano dalle misure tecniche, comprese le salvaguardie contro la rimozione delle barriere di sicurezza e la verifica dell’identità, alle misure politiche e alla cooperazione multilaterale contro la proliferazione e l’uso improprio. Il commento chiede risposte coordinate che impediscano gli usi malevoli preservando al contempo un accesso equo ai vantaggi dei modelli aperti.
Fonte
Notizie correlate
- NVIDIA accetta di acquistare Hugging Face per 12,93 miliardi di dollari
- L’FSB definisce 12 pratiche sull’IA per le istituzioni finanziarie
- Meta aggiunge tutele in fase di addestramento al suo quadro per il rilascio dell’IA
- Esperti elaborano regole per segnalare gli incidenti che coinvolgono agenti di IA
- Microsoft e i partner avviano un’iniziativa per la trasparenza dell’IA nelle imprese