Agent Mosaic: riconoscere le fughe di informazioni riservate nei sistemi agentici basati su LLM

Abstract degli autori

I moderni agenti basati su LLM possono recuperare informazioni da documenti a cui hanno accesso e poi divulgare una conclusione sensibile ricavata combinandole. Questo effetto mosaico rappresenta un rischio critico per gli agenti che operano su dati riservati. Ne misuriamo la presenza con 30 esempi sintetici in ambito informatico, medico e militare, ottenendo 10.800 risposte finali da tre agenti basati su LLM in una simulazione controllata e 1.440 risposte da agenti operativi in due ambienti di test open source. Anche di fronte a richieste innocue concepite per poter ricevere risposta sulla base di un solo documento, GPT-5.6-Sol, il modello con le prestazioni migliori tra quelli testati, divulga conclusioni composite vietate nel 7,08% delle risposte (IC al 95%: 3,75-10,67%) nella simulazione, con tassi di divulgazione ancora più elevati negli ambienti di test con agenti operativi. L’aggiunta di intestazioni di classificazione visibili e di regole esplicite di aggregazione riduce sensibilmente i tassi complessivi di divulgazione; nonostante queste misure di sicurezza, tuttavia, si verificano divulgazioni non sicure nel 32,37% delle risposte simulate (IC al 95%: 28,33-36,19%) considerando tutti gli intenti. Inoltre, un aumento dei rifiuti non garantisce la riservatezza, poiché anche rifiuti sostanziali rivelano comunque la conclusione vietata. Questi risultati indicano una conclusione preoccupante: negli scenari valutati, le fughe di dati sensibili dovute a eventi di questo tipo sono una modalità di violazione della riservatezza osservata con frequenze non trascurabili. I risultati evidenziano la necessità di controlli più stringenti su ciò che gli agenti possono dedurre e divulgare negli ambienti che trattano dati sensibili e in cui gli utenti hanno diversi livelli di autorizzazione.