The Pulse
La Francia convoca le piattaforme mentre durante le proteste si diffondono immagini false generate dall’IA
Le autorità francesi hanno incontrato i rappresentanti dei social media dopo le proteste e i disordini. In un incontro separato, i marketplace si sono impegnati a contribuire a frenare la rivendita di beni sospettati di essere stati rubati.
AI.info Team · Scritto con l’IA · verificato ·
«La questione sociale dell’impatto dei social network sulle violenze urbane deve essere affrontata e probabilmente se ne dovranno trarre le conseguenze.»
Roland Lescure, ministro dell’Economia francese, citato da Le Monde
La Francia ha convocato le società di social media martedì 20 ottobre, dopo che alle proteste del 17 ottobre erano seguiti scontri e saccheggi in diverse città. Filmati autentici dei disordini sono circolati insieme a immagini falsificate e generate dall’IA, tra cui quelle di un manifestante in costume da Pantera Rosa. Le autorità hanno convocato i rappresentanti dei social media per discutere della moderazione dei contenuti, mentre un incontro governativo separato ha riguardato gli annunci di beni sospettati di essere stati rubati.
Le autorità chiedono alle piattaforme di intervenire sulle dirette streaming e sui contenuti violenti
Anne Le Hénanff, ministra francese responsabile dell’intelligenza artificiale e del digitale, ha riunito martedì i rappresentanti dei social media. Secondo WIRED, le autorità volevano che le piattaforme moderassero le dirette streaming e i contenuti che potrebbero incoraggiare la violenza o la violazione del coprifuoco. L’incontro è seguito alle critiche rivolte ai social network per il loro ruolo nei disordini, anche se è difficile stabilire quanto abbiano inciso sulle violenze.
Le Monde ha riferito che gli appelli alla mobilitazione sono circolati ampiamente su Instagram, X e TikTok, osservando però che era difficile stimare il ruolo delle piattaforme nelle violenze. Il giornale ha inoltre riferito che il ministro dell’Interno Laurent Nuñez ha detto ai parlamentari, il 7 ottobre, che alcuni appelli a radunarsi durante precedenti mobilitazioni studentesche erano falsi. Questo resoconto non dimostra che appelli falsi abbiano provocato violenze durante le proteste del 17 ottobre.
Le immagini della Pantera Rosa hanno confuso il confine tra filmati e finzione
WIRED ha affermato che, esaminando i risultati della ricerca «blocus» su TikTok, ha trovato video che apparivano potenzialmente alterati o generati dall’IA, tra cui immagini del manifestante in costume. Ha riferito che TikTok mostrava un avviso secondo cui le informazioni associate al termine di ricerca potevano essere non verificate, incomplete o inesatte. Separatamente, Le Monde ha riferito che immagini generate dall’IA di un manifestante in costume da Pantera Rosa colpito dai getti degli idranti della polizia sono diventate virali per breve tempo.
Le immagini falsificate sono circolate in mezzo a un’ampia quantità di filmati autentici. Le Monde ha riferito che scontri e saccheggi sono stati ripresi e condivisi diffusamente, anche in diretta streaming, soprattutto su TikTok. Secondo il giornale, i filmati che mostravano auto della polizia bersagliate da lanci di pietre hanno ottenuto più di 45 milioni di visualizzazioni su X in meno di 24 ore. Filmati autentici e immagini generate dall’IA sono comparsi nello stesso flusso più ampio di contenuti online legati alle proteste.
Un accordo separato punta a contrastare la rivendita dei beni saccheggiati
Lunedì 19 ottobre la Francia ha tenuto anche un incontro separato con i marketplace online sugli annunci di beni sospettati di essere stati rubati durante i saccheggi. In un comunicato pubblicato il giorno successivo, il ministero dell’Economia ha dichiarato che le piattaforme partecipanti si sono impegnate a rafforzare la collaborazione con le autorità, intensificare il monitoraggio e la moderazione degli annunci, informare i consumatori dei rischi e delle sanzioni legati alla ricettazione e riferire regolarmente sulle proprie attività. Il ministero ha dichiarato che un primo rapporto era atteso entro 48 ore.
Il comunicato del ministero non nominava le piattaforme. WIRED, citando Le Monde, ha riferito che Vinted, eBay, Amazon, Leboncoin, Meta e TikTok hanno partecipato all’incontro. Il ministero ha inoltre dichiarato che Serge Papin e Anne Le Hénanff hanno attivato un’unità VigE-commerce per coordinare i servizi governativi e monitorare le vendite sulle piattaforme.
I due incontri hanno affrontato questioni distinte: uno riguardava la gestione, da parte dei social network, dei contenuti legati alle proteste, mentre l’altro si concentrava sulla rivendita di beni sospettati di essere stati rubati. L’annuncio del ministero non indicava alcun accordo specifico sulle immagini generate dall’IA.