Teoria della mente strutturata per le macchine a partire dalle traiettorie degli agenti

Abstract degli autori

I modelli predittivi del comportamento umano addestrati su dati di traiettoria su larga scala ottimizzano l’accuratezza statistica senza rappresentare gli stati mentali che generano causalmente il comportamento. Questi modelli consentono di fare previsioni, ma non interventi fondati su principi: non possono rispondere alla domanda su come cambierebbe il comportamento di un agente se le sue credenze o preferenze fossero diverse. Presentiamo Structured Machine Theory of Mind (SMToM), un framework che attribuisce rappresentazioni esplicite di credenze e desideri, supervisionate in modo indipendente, a partire da traiettorie osservate, all’interno di una struttura causale credenza-desiderio-intenzione (BDI). L’elemento architettonico centrale è un head dell’obiettivo che riceve in ingresso soltanto i canali predetti degli stati mentali e un embedding della traiettoria corrente; intervenire in modo controfattuale su credenze e desideri è un’operazione diretta. Istanciamo SMToM in un dominio controllato di navigazione pedonale, in cui gli stati mentali di riferimento sono noti per costruzione, consentendo di valutare l’accuratezza dell’attribuzione, gli interventi locali sui canali e le diagnostiche controfattuali a livello di traiettoria. Il modello risultante, BDIBottleneck, supera le baseline neurali basate solo sulle traiettorie e quelle con contesto non supervisionato. È inoltre competitivo con una baseline di contesto corrispondente, con supervisione ausiliaria, pur fornendo un’interfaccia modificabile degli stati mentali che manca alla baseline priva di bottleneck. Gli esperimenti controfattuali sui desideri confermano che sostituire le preferenze inferite di un agente con un diverso tipo di attività sposta in modo coerente le destinazioni previste verso luoghi pertinenti. Gli esperimenti controfattuali sulle credenze confermano che indicare come non disponibile una località nello stato delle credenze dell’agente ne riduce la probabilità prevista come destinazione, sebbene in modo complesso. Questi risultati dimostrano, in un contesto controllato di navigazione, che la supervisione esplicita strutturata secondo il BDI costituisce una base praticabile per l’analisi interpretabile e controfattuale dei dati longitudinali di traiettoria.