The Pulse

Meta aggiunge il rilevamento degli annunci tramite LLM e un agente di red teaming per la sicurezza dei minori

Meta afferma di aver aggiunto il rilevamento tramite modelli linguistici di grandi dimensioni e un agente di red teaming basato sull’IA per individuare annunci legati allo sfruttamento dei minori su Facebook e Instagram. L’azienda riferisce

AI.info Team · Scritto con l’IA · 2026-10-07

Meta afferma di aver aggiunto ai suoi sistemi per la sicurezza dei minori il rilevamento tramite modelli linguistici di grandi dimensioni e un agente di red teaming basato sull’IA, dopo aver scoperto che alcuni annunci potevano sembrare innocui pur indirizzando gli utenti verso materiale illegale ospitato altrove. Nell’annuncio del 7 ottobre, l’azienda descrive nuove verifiche delle destinazioni degli annunci e delle «indicazioni nascoste», oltre a controlli automatizzati e a strumenti più efficaci per individuare chi commette violazioni ripetute.

Le misure affrontano un problema che Meta aveva riconosciuto a luglio: i suoi sistemi pubblicitari non avevano individuato alcuni annunci che violavano le norme in India, inducendo l’azienda a rimuovere altri annunci e a imporre restrizioni agli account dopo un’indagine. Meta afferma ora che i suoi strumenti aggiornati esamineranno non solo il contenuto visibile di un annuncio, ma anche la destinazione a cui indirizza le persone. L’azienda non ha pubblicato tassi di accuratezza né un conteggio delle violazioni individuate specificamente dai nuovi strumenti.

Meta prende di mira gli annunci che nascondono la propria destinazione

Meta definisce «indicazioni nascoste» i contenuti pubblicitari apparentemente innocui sospettati di indirizzare di nascosto le persone verso materiale di sfruttamento sessuale dei minori o altre attività dannose fuori dalle sue piattaforme. Il nuovo rilevamento tramite modelli linguistici di grandi dimensioni è pensato per individuare questo tipo di promozione in codice o indiretta, mentre le verifiche più approfondite delle destinazioni mirano ad aiutare l’azienda a bloccare i siti web che violano le norme e a prendere provvedimenti contro gli account responsabili.

L’azienda afferma inoltre di aver ampliato i controlli dei contenuti pubblicitari basati sull’IA per far emergere materiale sfuggito ai sistemi precedenti. Un agente di red teaming basato sull’IA metterà alla prova le difese di Meta alla ricerca di punti deboli, con l’obiettivo dichiarato di individuare nuove tattiche prima che si diffondano. Il post non spiega come l’agente metta alla prova i sistemi, con quale frequenza operi né se i suoi risultati siano esaminati da investigatori umani.

Meta afferma che le aggiunte sono seguite a un’indagine sulla pubblicità dannosa. Dice di aver esteso le ricerche oltre gli annunci già portati alla sua attenzione, di aver trovato attività correlate, disabilitato account e bloccato link. In un post di luglio, l’azienda aveva riconosciuto le segnalazioni di annunci su Instagram in India che violavano le sue norme e aveva dichiarato che l’indagine successiva aveva portato alla rimozione di altri annunci e al blocco degli URL correlati.

I nuovi strumenti di IA si affiancano ai sistemi di rilevamento esistenti

Meta presenta le misure sugli annunci come aggiunte a un sistema più ampio, non come sostituti degli strumenti di rilevamento esistenti. Il suo post descrive segnali comportamentali che indicano attività sospette degli account, classificatori automatizzati e regole per individuare schemi emergenti, oltre a PhotoDNA e ad altre tecnologie di confronto per immagini e video già noti. Meta afferma di utilizzare il confronto di foto e video nelle sue app dal 2011.

L’azienda afferma inoltre di bloccare i link a siti esterni che ospitano materiale in violazione delle norme e di cercare poi post, commenti e annunci che contengono quei link. Condivide gli hash di immagini e video attraverso il programma Lantern della Tech Coalition, che consente alle aziende partecipanti di utilizzare i segnali condivisi nelle proprie attività di applicazione delle norme. L’annuncio non fornisce dati dettagliati sulle prestazioni dei nuovi strumenti per gli annunci, compresi i tassi di falsi positivi o il numero di casi che hanno individuato autonomamente.

Meta riferisce di aver preso provvedimenti su 33,2 milioni di contenuti in sei mesi

Da gennaio a giugno 2026, Meta afferma di aver preso provvedimenti su 33,2 milioni di contenuti relativi allo sfruttamento sessuale dei minori su Facebook e Instagram nel mondo, di cui oltre il 97% individuato e affrontato in modo proattivo, prima di una segnalazione da parte di un utente. In India, l’azienda afferma di aver preso provvedimenti su 5,3 milioni di contenuti nello stesso periodo, per oltre il 98% in modo proattivo. Meta usa il termine «actioned» per queste cifre; il post non lo definisce come un conteggio delle sole rimozioni.

Le cifre riguardano tutti i contenuti relativi allo sfruttamento sessuale dei minori sui quali sono stati presi provvedimenti su queste piattaforme, non i risultati delle misure di verifica degli annunci appena annunciate. L’annuncio di Meta non distingue il contributo della revisione umana, degli strumenti di confronto già in uso, dei classificatori automatizzati o del nuovo rilevamento tramite LLM. L’entità dell’effetto dei nuovi strumenti resta quindi non quantificata.

Si amplia il canale di segnalazione in India

Meta afferma di segnalare il materiale pedopornografico al National Center for Missing & Exploited Children, in conformità alla legge applicabile, e di collaborare con le forze dell’ordine. L’azienda afferma inoltre di aver iniziato a settembre a segnalare i casi riguardanti la sicurezza dei minori direttamente al National Cyber Crime Reporting Portal indiano, gestito dall’Indian Cybercrime Coordination Centre. L’annuncio di ottobre presenta questo canale come un’aggiunta alle segnalazioni già effettuate tramite il portale con l’assistenza dell’NCMEC.

Il comunicato di Meta illustra nuove misure di rilevamento e dati complessivi sui provvedimenti adottati, ma non offre alcuna valutazione indipendente della loro efficacia. I dati pubblicati più chiari dall’azienda restano quelli relativi ai sei mesi e all’insieme delle piattaforme: provvedimenti su 33,2 milioni di contenuti a livello globale e su 5,3 milioni in India.