The Pulse
Gli agenti di IA spesso non riescono a coordinarsi autonomamente, secondo un nuovo studio su arXiv
Un nuovo preprint su arXiv sostiene che, quando operano oltre i confini di fiducia, gli agenti di IA autonomi hanno bisogno di regole condivise per la comunicazione, l’identità, la convalida dei messaggi e l’attribuzione delle responsabilit
AI.info Team ·
Gli agenti di IA autonomi spesso non raggiungono risultati soddisfacenti anche quando sono onesti e competenti, secondo un nuovo preprint pubblicato su arXiv il 15 settembre 2026.
Il paper, intitolato Agentic Societies Need a Social Harness, è stato scritto da Tapan Chugh, Vidushi Singh, Krish Jain, Arvind Krishnamurthy e Ratul Mahajan. Esamina che cosa accade quando agenti di IA si coordinano per conto di persone o organizzazioni diverse, i cui obiettivi possono coincidere solo in parte.
Gli autori usano il termine «società di agenti» per indicare un insieme di agenti di IA che interagiscono autonomamente oltre i confini di fiducia. In questo contesto, un agente può dover scambiare informazioni, negoziare o prendere decisioni con un altro agente che rappresenta un mandante diverso. Il paper sostiene che gli strumenti attualmente usati per gestire il contesto privato di un agente e la comunicazione con il proprio mandante non regolano adeguatamente queste interazioni.
Un livello separato per il comportamento tra agenti
I ricercatori propongono una «struttura di supporto sociale» per la comunicazione tra agenti. La descrivono come un livello aggiuntivo che affianca la «struttura di supporto personale» di un agente, incaricata di gestirne il contesto privato e il rapporto con la persona o l’organizzazione per cui opera.
La struttura di supporto sociale proposta mira ad affrontare i problemi che sorgono quando gli agenti comunicano direttamente. Secondo l’abstract, l’architettura impedirebbe del tutto alcune categorie di problemi, aiuterebbe gli agenti a individuare i messaggi non validi mentre un compito è in corso e agevolerebbe le successive indagini e l’applicazione di conseguenze quando qualcosa va storto.
La distinzione è importante perché un agente può operare correttamente dal punto di vista del proprio mandante e, al tempo stesso, creare problemi agli altri partecipanti. Istruzioni private, informazioni incomplete e obiettivi allineati solo in parte possono influire sul modo in cui gli agenti interpretano i messaggi e cercano di raggiungere un risultato condiviso.
I problemi possono essere sfruttati
Il paper presenta prove sperimentali del fatto che agenti difettosi o malevoli possono sfruttare le debolezze della comunicazione, che gli autori descrivono come «discorso». Secondo l’abstract, questi agenti possono bloccare la collaborazione, influenzare i risultati e perseguire altri obiettivi dannosi.
Questa conclusione estende il problema del coordinamento oltre i normali errori. Un agente che fraintende una richiesta può produrre involontariamente un cattivo risultato. Un agente difettoso o malevolo, invece, può usare il processo di comunicazione stesso per ritardare la cooperazione, orientare le decisioni degli altri agenti o portare avanti un obiettivo distinto.
L’abstract non presenta un unico risultato di benchmark né un tasso di errore universale. Riassume invece una serie più ampia di esperimenti che mostrano come le strutture di supporto e i meccanismi di base per lo scambio di messaggi esistenti non siano sufficienti a garantire un coordinamento affidabile in ogni situazione.
Identità, convalida e attribuzione delle responsabilità
L’architettura proposta comprende diversi tipi di supporto per l’interazione tra agenti. È progettata per aiutare i partecipanti a stabilire quale agente abbia inviato un messaggio e quale mandante rappresenti. Affronta inoltre la gestione dei messaggi nelle interazioni di gruppo e il rilevamento dei messaggi che non dovrebbero essere considerati validi.
Un’altra parte della proposta riguarda ciò che accade dopo un incidente. Gli autori chiedono meccanismi che possano sostenere indagini a posteriori e l’applicazione di conseguenze, consentendo a persone o sistemi di esaminare come si è svolta un’interazione e di reagire quando un agente ha violato le regole della collaborazione.
Queste caratteristiche sposterebbero parte della responsabilità per un coordinamento sicuro dal singolo agente all’ambiente di comunicazione che circonda gli agenti. Il paper presenta la struttura di supporto sociale come un’architettura a livelli e individua le ulteriori ricerche necessarie per rendere pratiche queste capacità.
Un programma di ricerca per le società di agenti
Il preprint non sostiene che gli agenti autonomi non possano collaborare. La sua tesi è più circoscritta: il comportamento affidabile di ogni singolo agente non garantisce un risultato soddisfacente quando più agenti interagiscono oltre confini di fiducia differenti.
Gli autori chiedono ulteriori studi sulla progettazione e sull’implementazione delle strutture di supporto sociale. Questi studi dovrebbero affrontare il modo in cui gli agenti riconoscono le comunicazioni non valide, il modo in cui vengono regolate le interazioni condivise e il funzionamento delle indagini o delle conseguenze dopo che si sono verificati problemi.
Man mano che i sistemi di IA assumono più compiti che comportano la comunicazione con altri sistemi, sostiene il paper, le misure di sicurezza private per i singoli agenti non saranno sufficienti da sole. Il coordinamento richiede regole e meccanismi tecnici che si applichino sia ai rapporti tra agenti sia al rapporto di ciascun agente con il proprio mandante.