The Pulse
WIRED risale a centinaia di app e siti collegati a strumenti nascosti per deepfake
WIRED ha individuato oltre 400 app e siti web collegati tra loro che sembravano offrire normali servizi di IA, ma potevano caricare strumenti per generare immagini e video di abusi sessuali. Apple e Google hanno rimosso alcune app, mentre M
AI.info Team · Scritto con l’IA · verificato ·
Oltre 400 app e siti web collegati tra loro, presentati come normali servizi di IA, potevano nascondere strumenti per generare deepfake di abusi sessuali, secondo un’inchiesta di WIRED pubblicata il 2 novembre. App pubblicizzate per ritratti di animali domestici, lezioni di lingua o programmi di allenamento potevano, in determinate condizioni, caricare un’interfaccia web che trasforma le foto caricate in immagini e video espliciti. I ricercatori sono risaliti alla rete dopo aver esaminato i link presenti negli annunci video su Facebook e Instagram di Meta.
Un’app per ritratti di animali con un secondo scopo
Viefur, pubblicizzata come uno strumento di IA per creare ritratti di animali domestici, vende monete digitali per trasformazioni come mettere a un gatto una camicia hawaiana. WIRED ha scoperto che l’app si collega anche a un generatore nascosto di immagini di abusi sessuali. L’inchiesta ha individuato modelli che raffigurano violenze sessuali e minacce, tra cui uno scenario in cui un uomo tiene un coltello alla gola di una donna.
La funzione nascosta non appare allo stesso modo per ogni utente. Paul Bouchaud, ricercatore responsabile presso l’organizzazione non profit AI Forensics, ha detto a WIRED che un’app contatta un server fornendo informazioni come la posizione e la lingua dell’utente e un identificativo univoco; il server determina poi se mostrare la versione esplicita o quella ordinaria.
«Ogni volta che l’applicazione viene scaricata, viene effettuata una chiamata al server con alcune informazioni, come la provenienza dell’utente, la lingua, un identificativo univoco, e il server risponde indicando se mostrare o meno la versione esplicita o quella non esplicita», spiega Paul Bouchaud, ricercatore responsabile di AI Forensics.
I ricercatori hanno detto che non esiste un elenco chiaro dei motivi per cui un utente potrebbe vedere la versione esplicita, ma un possibile fattore scatenante era il download di un’app dopo aver cliccato su un annuncio associato sulle piattaforme di Meta.
Centinaia di app e codice collegato
I siti web delle app mostravano spesso una schermata vuota, mentre il codice sottostante conteneva un elenco di domini correlati, dettagli sulle app, chiavi di crittografia e tracker pubblicitari di Facebook. WIRED ha riferito che il ricercatore di Infoblox Maël Le Touz ha individuato quasi 500 domini collegati. Descrivendo il codice, Le Touz ha detto: «Contenevano questo enorme elenco di configurazione di altri domini con diverse chiavi di crittografia. Eseguono lo stesso codice e fanno tutti riferimento gli uni agli altri».
L’analisi delle registrazioni dei domini condotta da Bouchaud ha rilevato che le app hanno iniziato a comparire verso la fine del 2025, con un picco nella primavera del 2026. A un certo punto venivano registrati circa 30 app e siti web per denudare le persone ogni settimana. A settembre, 27 erano attivi su Google Play; insieme avevano registrato oltre 350.000 download e molti erano classificati come adatti a tutte le fasce d’età, secondo la ricerca citata da WIRED.
Un’app, DiffAI, aveva registrato oltre 100.000 download sul Play Store dopo la sua creazione nel dicembre 2025. Una recensione sullo store segnalava che offriva modelli per materiale pedopornografico e altro materiale pornografico, e sosteneva che non verificasse l’età degli utenti. Google ha rimosso DiffAI poco prima che WIRED contattasse l’azienda. WIRED ha riferito che Google aveva già rimosso la maggior parte delle app prima di essere interpellata.
Apple e Meta descrivono le rimozioni
Apple ha rimosso 19 app, tra cui Viefur, dopo che WIRED ha condiviso informazioni sull’attività e sui domini associati. Il portavoce di Apple Adam Dema ha detto che le app erano conformi alle regole dell’azienda al momento della revisione. Ha attribuito le modifiche successive ai loro sviluppatori:
«Dopo l’approvazione, i loro sviluppatori hanno cambiato il sito web da cui l’app trae i suoi contenuti, sostituendo ciò che avevamo approvato con contenuti pornografici, e l’hanno promossa tramite annunci pornografici ospitati su una piattaforma di terze parti», dice il portavoce di Apple Adam Dema.
Apple ha dichiarato di aver sospeso decine di migliaia di app per tattiche simili di «sostituzione dopo l’approvazione» nell’anno precedente.
Meta ha dichiarato di aver vietato a KeLing Technology Limited di fare pubblicità nel 2025, dopo che l’azienda non aveva ottemperato a una lettera di diffida. Dopo che WIRED ha condiviso oltre 400 domini con Meta, il portavoce dell’azienda ha detto che erano stati condivisi oltre 3.000 annunci associati e collegati a quei domini, due terzi dei quali Meta aveva già rimosso dai propri sistemi. Meta ha poi detto a WIRED di aver adottato misure contro 11.600 account pubblicitari, oltre 4.700 pagine aziendali, 5.200 utenti e 15.000 pagine collegati ai domini, e di aver impedito a 209 app di fare pubblicità sulle sue piattaforme.
Annunci e app simili hanno continuato a comparire
WIRED ha collegato la rete di app a sviluppatori di lingua cinese e alla società KeLing Technology Limited, registrata a Hong Kong, sulla base dei dati di registrazione dei domini e del funzionamento dei servizi. Gli indirizzi email associati a KeLing, alle app e ai servizi correlati non hanno risposto alle richieste di commento di WIRED. Dopo le richieste, alcuni collegamenti pubblici a KeLing sono stati rimossi o rinominati.
Meta ha dichiarato che gli operatori usavano identità false e metodi sempre più ingannevoli per evitare di essere individuati, e che interviene sugli annunci quando ne viene a conoscenza. Mentre WIRED concludeva il suo lavoro, annunci e app simili continuavano a comparire sulle piattaforme tecnologiche.