ToM2Vec: token continui per la teoria della mente nel coordinamento multiagente

Abstract degli autori

Formare una teoria della mente (ToM) accurata è fondamentale per collaborare con successo tra più agenti e richiede di ragionare in condizioni di incertezza, tenendo conto di diversi possibili stati del partner. È difficile farlo nello spazio delle rappresentazioni testuali proprio degli agenti basati su modelli linguistici di grandi dimensioni (LLM), ai quali risulta più facile descrivere un solo stato del partner. Per affrontare questa difficoltà, presentiamo ToM2Vec, che impara a formare teorie della mente astratte in un ricco spazio latente usando un numero fisso di token di ragionamento continui. Durante l’addestramento, la supervisione di questi token deriva dai pensieri effettivi del partner, che i token ToM vengono addestrati a rappresentare in forma astratta e a rispecchiare. Nella fase di test, ogni agente genera i propri token ToM, che ne condizionano pensieri e azioni. Valutiamo la capacità di ToM2Vec di sostenere interazioni e collaborazione tra agenti in diversi ambienti, che comprendono contesti collaborativi, competitivi e a motivazioni miste (Overcooked-AI, multiparty negotiation, Decrypto, Hanabi e Collab Escape/Capture). Riscontriamo miglioramenti costanti rispetto al modello di base e a diverse baseline competitive, sia addestrate sia basate su prompt. Mostriamo che il ragionamento nello spazio latente è cruciale: le prestazioni calano quando il ragionamento viene espresso in forma testuale. Mostriamo inoltre che l’addestramento di ToM2Vec si generalizza a famiglie di modelli dei partner non incontrate durante l’addestramento, tra cui un modello proprietario (GPT-5.4). Nella nostra analisi, forniamo prove che i token latenti codificano una teoria della mente, anziché informazioni specifiche del compito: i token di ToM2Vec migliorano la capacità dell’agente di rispondere direttamente a domande sulle convinzioni, sui desideri e sulle azioni successive del partner.