The Pulse
Un agente di IA ostinato può guidare una rete multi-agente
Uno studio sui sistemi multi-agente basati su modelli linguistici rileva che un agente molto ostinato e persuasivo può innescare una cascata di persuasione e rimodellare l’opinione collettiva di un gruppo.
AI.info Team ·
Un agente di IA molto ostinato e persuasivo può orientare le decisioni collettive di un gruppo più ampio, secondo uno studio che modella il modo in cui la disinformazione si diffonde attraverso reti di agenti che collaborano. I ricercatori hanno scoperto che un agente malevolo o compromesso può sfruttare i normali canali di comunicazione per diffondere disinformazione e manipolare gli esiti collettivi.
Lo studio, «Non fidarti dei vicini ostinati: un quadro di sicurezza per le reti di agenti», è firmato da Samira Abedini, Sina Mavali, Lea Schönherr, Martin Pawelczyk e Rebekka Burkholz. L’articolo è stato inviato ad arXiv il 16 marzo 2026.
Un aggressore, molti agenti persuadibili
I sistemi multi-agente si avvalgono di più agenti basati su modelli linguistici per svolgere attività come l’automazione web, la pianificazione di itinerari e la risoluzione collaborativa di problemi. Poiché gli agenti interagiscono e si scambiano valutazioni, un partecipante compromesso può sfruttare queste interazioni per influenzare il gruppo.
I ricercatori descrivono questo fenomeno come una cascata di persuasione. Un agente molto ostinato resta legato alla propria posizione iniziale, mentre gli altri agenti aggiornano ripetutamente le proprie opinioni in risposta alle informazioni che circolano nella rete. Il risultato può essere uno spostamento dell’opinione collettiva, che si allontana dalle convinzioni iniziali degli agenti benigni.
Il modello Friedkin-Johnsen descrive l’attacco
Per studiare come si formano e si diffondono le opinioni, i ricercatori hanno adattato il modello Friedkin-Johnsen, sviluppato nell’ambito delle scienze sociali. Il quadro descrive quanto un agente resti legato alla propria opinione iniziale, quanto sia disposto a modificarla in risposta agli altri agenti e quanta influenza i partecipanti esercitino gli uni sugli altri.
L’articolo riferisce che il modello rappresenta fedelmente il comportamento dei sistemi multi-agente basati su modelli linguistici. I ricercatori lo hanno testato con esperimenti che comprendevano diverse topologie di rete, strategie di attacco e difese. Questa combinazione di analisi teorica ed esperimenti ha permesso loro di esaminare sia le condizioni che favoriscono la diffusione della manipolazione sia le misure che possono limitarla.
L’analisi individua tre modi per aumentare la sicurezza del sistema: aumentare il numero di agenti benigni, accrescere la loro ostinazione innata o la loro resistenza all’influenza dei pari e ridurre la fiducia nei potenziali avversari. Ogni misura ha un costo. Aggiungere agenti aumenta le esigenze computazionali, mentre rendere gli agenti benigni meno disposti a cambiare opinione può rendere più difficile per la rete raggiungere il consenso.
La fiducia può essere adeguata nel tempo
I ricercatori propongono una difesa che adatta la fiducia, regolando dinamicamente quella riposta negli altri agenti. Il meccanismo mira a limitare l’influenza degli agenti avversari, preservando al contempo la capacità del sistema di collaborare.
Con questo approccio, l’influenza di un agente può variare in base alle sue prestazioni osservate. Gli agenti che forniscono ripetutamente risposte errate possono ricevere meno fiducia, riducendo l’effetto delle loro dichiarazioni future sulle valutazioni del gruppo. La difesa non si basa soltanto sull’identificazione di intenti malevoli: utilizza le informazioni sulle prestazioni per adeguare il livello di influenza assegnato a ciascun partecipante.
L’articolo riferisce che gli esperimenti hanno confermato la capacità della difesa di ridurre la manipolazione. Evidenzia anche un compromesso: un’elevata ostinazione degli agenti benigni può proteggere la rete dalla persuasione, ma può anche compromettere la capacità del gruppo di raggiungere un accordo.
Un problema di sicurezza nel normale processo di collaborazione
Lo studio presenta un quadro teorico ed esperimenti controllati, non un attacco documentato contro una rete commerciale di agenti già operativa. La conclusione è più circoscritta: quando gli agenti basati su modelli linguistici dipendono dalle valutazioni degli altri, un partecipante persistente può sfruttare tale dipendenza attraverso lo stesso processo di comunicazione usato per la normale collaborazione.
I risultati dell’articolo indicano che, nei sistemi multi-agente, i modelli di comunicazione e l’assegnazione della fiducia sono aspetti da considerare sul piano della sicurezza. Una rete che attribuisce un peso considerevole a ogni partecipante può essere più vulnerabile a un singolo agente che si rifiuta di cambiare posizione. Una rete che valuta continuamente le prestazioni e adegua la fiducia può limitare la portata di quell’agente, anche se può rendere più complesso il coordinamento.