Rilevamento robusto degli attacchi avversari direzionali nelle reti neurali profonde per la diagnostica per immagini

Abstract degli autori

Il deep learning ha ormai un ruolo centrale in radiologia e aiuta a rilevare alterazioni nelle radiografie, nelle TAC e nelle risonanze magnetiche. Tuttavia, questi sistemi sono molto vulnerabili agli attacchi avversari: piccole perturbazioni create ad arte che traggono in inganno i modelli, mentre le immagini appaiono inalterate agli esseri umani. Errori di questo tipo rischiano di far passare inosservati dei tumori o di produrre falsi positivi. Alcuni studi mostrano un tasso di successo degli attacchi superiore al 90% sulle immagini mediche. Nel 2023, quasi il 30% degli ospedali statunitensi utilizza l’IA nella diagnostica per immagini. È quindi fondamentale disporre di un metodo efficace per rilevare questi attacchi e la loro direzionalità, così da garantire la credibilità e l’affidabilità dei sistemi medici basati su reti neurali profonde. Proponiamo un nuovo metodo di rilevamento che sfrutta attacchi successivi basati su rumore casuale per individuare le perturbazioni avversarie. Il nostro approccio analizza le variazioni della funzione Sigmoid per distinguere le immagini mediche autentiche da quelle manipolate tramite attacchi avversari. In particolare, confrontiamo le differenze tra le predizioni relative alle immagini originali e a quelle attaccate, nonché tra diverse versioni alterate da attacchi avversari, per migliorare l’accuratezza del rilevamento. Abbiamo valutato il metodo su tre noti dataset medici, «Chest X-Ray Images for Classification», «Retinal Fundus Multi-disease Image Dataset» e «Brain Tumor Dataset», in diversi scenari di attacco, incluso l’impiego di rumore casuale. Il nostro metodo ha raggiunto un’ACC fino al 99,8% nell’individuazione degli attacchi avversari direzionali, superando nettamente i meccanismi di difesa esistenti. Ha individuato con costanza i campioni avversari a diversi livelli di intensità degli attacchi, mantenendo basso il numero di falsi positivi e mostrando una solida affidabilità e un potenziale impiego clinico. La nostra proposta mette inoltre in evidenza il proprio potenziale di impiego in contesti reali.