Modelli mentali per sistemi multi-agente

Abstract degli autori

I grandi modelli fondazionali hanno accelerato i progressi verso agenti di uso generale che interagiscono con esseri umani e altri agenti attraverso il linguaggio e segnali multimodali. Tuttavia, per prendere decisioni affidabili in contesti multi-agente occorre ragionare su ciò che gli altri agenti sanno, intendono fare e probabilmente faranno quando le informazioni disponibili sono parziali. Gli attuali sistemi basati su agenti spesso si affidano alla progettazione dei prompt, alla memoria o alla modellazione end-to-end del comportamento, ma in genere non apprendono una rappresentazione esplicita dello stato dell’altro agente che possa essere riutilizzata come variabile decisionale in compiti diversi. Presentiamo gli \emph{agenti dotati di modelli mentali}, un approccio che fornisce a un agente un modello mentale latente della sua controparte, consentendogli di dedurre dall’interazione osservata credenze nascoste, intenzioni e probabili reazioni, e di usare queste deduzioni per scegliere come agire. Il nostro metodo apprende una rappresentazione ricorsiva e ammortizzata della teoria della mente, con una struttura degli stati mentali di primo e secondo ordine, insieme a un modello di ricompensa condizionato alle credenze che valuta le azioni possibili in relazione allo stato dedotto dell’altro agente. Viene poi appresa una politica sulla base di questo segnale che tiene conto delle credenze: l’agente risultante può agire autonomamente in fase di inferenza, conservando i vantaggi di una modellazione esplicita dell’altro agente. Valutiamo lo stesso approccio su benchmark sia esclusivamente linguistici sia multimodali. In entrambi i contesti, la modellazione esplicita degli stati mentali migliora costantemente la qualità dell’interazione e le prestazioni nei compiti di teoria della mente rispetto ai sistemi basati su agenti di partenza, mostrando che la modellazione strutturata dell’altro agente è un utile bias induttivo per i sistemi multi-agente generali. Il nostro codice è disponibile pubblicamente all’indirizzo https://github.com/hananshafi/Mental-Models