Media Intelligence Platform: rilevamento multimodale di contenuti sintetici e manipolati

Abstract degli autori

I rapidi progressi dell’intelligenza artificiale generativa hanno portato a un aumento significativo dei contenuti multimediali manipolati, tra cui volti sintetici, video falsificati, immagini generate dall’IA, audio falsi e immagini modificate localmente. Gli approcci di rilevamento esistenti sono in genere progettati per un solo tipo di manipolazione, il che ne limita l’applicabilità negli scenari reali che coinvolgono fonti multimediali eterogenee. In questo lavoro presentiamo Media Intelligence Platform (MIP), un framework unificato basato sul web per l’analisi forense multimodale dei media, che integra moduli specializzati per rilevare video falsi, morphing facciale, immagini generate dall’IA, deepfake audio e manipolazioni localizzate nelle immagini, oltre che per l’analisi del testo. La sua architettura modulare consente di integrare con flessibilità modelli eterogenei e supporta future estensioni per le nuove tecniche di manipolazione. I risultati sperimentali su dataset benchmark rappresentativi dimostrano prestazioni affidabili nel rilevamento su diverse modalità multimediali, mentre la piattaforma offre un’interfaccia pratica e facile da usare per le indagini forensi. La piattaforma mette in evidenza il potenziale dei sistemi multimodali unificati per un rilevamento completo dei deepfake in contesti reali ed è accompagnata da un dimostratore pubblico rilasciato insieme a questo contributo presentato al workshop, per favorire la riproducibilità e la valutazione da parte della comunità.