The Pulse
CDT rileva gravi lacune nelle misure di protezione relative alle immagini di sette aziende di IA
Secondo un rapporto del Center for Democracy & Technology, solo una delle sette aziende di IA esaminate definisce esplicitamente nelle proprie politiche le immagini intime non consensuali. Il rapporto afferma inoltre che le aziende non hann
AI.info Team · Scritto con l’IA ·
Solo un’azienda su sette definisce l’abuso
Solo una delle sette aziende di IA esaminate dal Center for Democracy & Technology definisce esplicitamente nelle proprie politiche le immagini intime non consensuali, afferma l’organizzazione. Il rapporto, pubblicato il 15 ottobre, rileva che le regole e le misure tecniche di protezione delle aziende presentano lacune nella prevenzione della creazione, da parte dei sistemi di IA, di immagini intime che raffigurano persone identificabili senza il loro consenso.
I ricercatori hanno esaminato Anthropic, Google, Meta, Midjourney, OpenAI, Stability AI e xAI. Hanno analizzato le politiche e la documentazione tecnica delle aziende, ricerche accademiche e 11 interviste con rappresentanti di aziende di IA e organizzazioni della società civile. L’analisi riguarda le pratiche adottate da gennaio a giugno 2026 e si concentra sulle vittime adulte e sui contenuti per adulti, non sul materiale pedopornografico.
Gli autori distinguono le immagini intime non consensuali, o NCII, dai contenuti sessuali in generale. La loro preoccupazione è che i sistemi prendano spesso di mira categorie ampie, come la nudità o il materiale erotico, anziché lo specifico abuso in questione: usare le sembianze di una persona in un contesto intimo senza il suo consenso.
Le regole generali sui contenuti sessuali possono non rilevare l’uso abusivo delle sembianze di una persona
Secondo il rapporto, tutte e sette le aziende vietano in teoria le NCII, ma le loro politiche le classificano in modi diversi: come contenuti sessuali, violenza sessuale o uso improprio delle sembianze di una persona. Meta è stata l’unica azienda esaminata a fornire una definizione esplicita di NCII. Secondo i ricercatori, regole vaghe o sparse in più documenti rendono difficile per gli utenti capire che cosa sia vietato e per chi osserva dall’esterno valutare se le misure di protezione siano applicate in modo coerente.
Un’impostazione così ampia comporta rischi in entrambe le direzioni. Un sistema concentrato sui contenuti sessuali potrebbe non individuare un’immagine che usa le sembianze di una persona senza essere classificata come sessuale, mentre un filtro impreciso potrebbe bloccare materiale lecito riguardante l’educazione sessuale, l’assistenza sanitaria, il lavoro sessuale o le questioni di genere. Secondo il rapporto, i sistemi basati sull’IA possono applicare queste definizioni in modo incoerente, rendendo più incerte le decisioni sia sugli abusi sia sulle forme lecite di espressione.
Le protezioni possono venir meno fuori dai prodotti delle aziende
Molte misure di protezione operano a livello di prodotto: un servizio può filtrare un prompt, esaminare un risultato o limitare l’accesso di un utente. Ma gli sviluppatori che realizzano prodotti basati su un modello potrebbero non usare le stesse protezioni. La lacuna è particolarmente marcata per i modelli a pesi aperti, i cui componenti scaricabili possono essere modificati o usati senza la supervisione dell’azienda che li ha creati.
Il rapporto afferma che gli sviluppatori possono sottoporre i modelli a pesi aperti a fine-tuning per usi specialistici ed eliminare alcune restrizioni. Rileva inoltre che gli interventi attuali possono avere effetti indesiderati: i filtri rivolti al materiale sessuale possono interferire con contenuti leciti, mentre le modifiche a livello di modello potrebbero dover essere riprogettate man mano che i sistemi cambiano. Tra le misure relative ai dati di addestramento, il rapporto ha rilevato che le aziende dichiarano di filtrare il materiale pedopornografico individuato, ma nessuna ha riferito pubblicamente di filtrare i dati di addestramento per individuare le NCII; solo Anthropic ha inserito questo tipo di filtro nel proprio piano di sviluppo.
Le aziende non hanno dimostrato che le misure di protezione funzionino
CDT ha rilevato che le aziende descrivono le misure di protezione con diversi livelli di dettaglio, ma in generale non pubblicano informazioni sufficienti a stabilire quanto siano efficaci contro le NCII. Secondo i ricercatori, i metodi di test sono spesso poco trasparenti: è quindi difficile capire se le valutazioni delle aziende rispecchino i tentativi compiuti nel mondo reale da persone con diversi livelli di motivazione, competenza e accesso agli strumenti. Il rapporto chiede test regolari che tengano conto di tattiche come l’aggiramento delle restrizioni tramite prompt, il caricamento di immagini e l’uso di applicazioni a valle.
Le ricerche accademiche citate nel rapporto hanno riscontrato limiti notevoli negli interventi tecnici. Gli autori sostengono che, accanto alle valutazioni delle aziende, servano test indipendenti, pur riconoscendo che nessun test può coprire ogni possibile modo di generare un’immagine. Raccomandano che le dichiarazioni sull’efficacia di una misura di protezione specifichino quali tattiche sono state sottoposte a test e spieghino in che modo quei test si rapportano agli abusi nel mondo reale e alle forme lecite di espressione.
L’esperienza delle persone sopravvissute agli abusi fa parte della verifica
Il rapporto sostiene che le prestazioni tecniche da sole non possono misurare se una misura di protezione funzioni per le persone prese di mira dagli abusi. Le aziende potrebbero contare i contenuti segnalati, i responsabili delle politiche pubbliche potrebbero cercare regole applicabili e le persone sopravvissute agli abusi potrebbero valutare la risposta in base alla possibilità di segnalare il danno e ottenere aiuto. Queste misure non descrivono necessariamente lo stesso risultato.
«Tutto ciò che secondo me non funziona dipende dal fatto che di solito lavoro direttamente con le persone sopravvissute agli abusi e non ha funzionato un c****.»
Omny Miranda Martone della Sexual Violence Prevention Association, citata nel rapporto di CDT
CDT chiede uno standard condiviso per i test, definizioni più chiare delle NCII e un maggiore accesso per i ricercatori indipendenti, affinché possano valutare le protezioni. Il rapporto lascia alle aziende e ai responsabili delle politiche pubbliche una domanda precisa: quali risultati dei test dovrebbero essere considerati una prova del fatto che un modello o un prodotto è sufficientemente sicuro?