The Pulse
I ricercatori di Meta addestrano agenti con utenti meno collaborativi
I ricercatori di Meta riferiscono che gli agenti addestrati con MIMESIS, un simulatore progettato per riprodurre comportamenti diversi degli utenti, hanno ottenuto punteggi più alti degli agenti addestrati con GPT-5.5 in otto ambienti e con
AI.info Team · Scritto con l’IA ·
Secondo i ricercatori di Meta, gli agenti di IA possono sembrare più efficaci durante l’addestramento di quanto poi siano con le persone, se gli utenti simulati sono troppo disponibili. La soluzione che propongono, MIMESIS, è un modello addestrato a imitare comportamenti diversi degli utenti e a fare da interlocutore con cui gli agenti possono esercitarsi. In uno studio presentato su arXiv il 7 ottobre, il gruppo riferisce che gli agenti addestrati con MIMESIS hanno ottenuto punteggi più alti degli agenti addestrati con GPT-5.5 in otto ambienti e con nove simulatori di utenti mai incontrati prima. Il confronto resta però limitato agli utenti simulati: gli autori affermano di non aver verificato se i miglioramenti si trasferiscano alle interazioni con le persone.
Quando i simulatori collaborativi rendono i compiti più facili
La maggior parte degli utenti simulati usati per addestrare gli agenti proviene da modelli di assistenti generalisti. Gli autori di MIMESIS affermano che questi modelli tendono a essere collaborativi ed espliciti, a differenza degli utenti reali, che possono non dichiarare le proprie preferenze, dare risposte incomplete o cambiare le proprie richieste. Un simulatore che fornisce informazioni con troppa facilità può cambiare il compito stesso, rendendo più semplice per un agente riuscire rispetto a quanto accadrebbe in una conversazione con una persona.
Lo studio illustra questa discrepanza usando un agente GPT-5.5 mantenuto invariato nel benchmark tau-bench. L’agente è riuscito nel 63,6% delle interazioni con utenti umani, contro una percentuale compresa tra l’82,4% e l’84,4% quando a interpretare l’utente erano modelli di frontiera accessibili via API. Secondo i ricercatori, i simulatori sviluppati appositamente da loro rispecchiavano la difficoltà dei compiti per gli esseri umani più fedelmente delle alternative già disponibili.
MIMESIS aggiunge 13 schemi di comportamento degli utenti
Il gruppo descrive MIMESIS in versioni da 4 miliardi e 9 miliardi di parametri, basate su Qwen3.5. L’addestramento combina conversazioni umane, supervisione del ragionamento tramite ThoughtTrace e apprendimento per rinforzo su diversi compiti. Il simulatore è inoltre addestrato a mostrare 13 schemi di comportamento tratti dalle interazioni con gli utenti, tra cui non rivelare i criteri di valutazione, modificare le richieste nel tempo e rifiutarsi di collaborare quando gli vengono poste domande di chiarimento.
Nel SOUL-Index, che misura diversi aspetti della simulazione degli utenti, MIMESIS-9B ha ottenuto 65,7 punti. Claude-Opus-5, il più forte tra i modelli di frontiera di riferimento elencati, ne ha ottenuti 64,9. Lo studio riferisce inoltre che MIMESIS ha migliorato la fedeltà comportamentale rispetto a Claude-Opus-5 di 13,4 punti su RealUserSim e ha ridotto la propria distanza di Turing di 3,6 punti su SimulatorArena; le due misure valutano aspetti diversi del confronto tra conversazioni simulate e conversazioni umane.
I miglioramenti dell’addestramento si confermano con nove utenti simulati
Per l’esperimento sull’addestramento degli agenti, i ricercatori hanno mantenuto invariato MIMESIS e lo hanno usato per generare conversazioni a più turni per l’apprendimento per rinforzo. Hanno poi valutato gli agenti addestrati con nove simulatori di utenti non impiegati nell’addestramento. Lo studio riporta un punteggio medio di 29,54 per gli agenti addestrati con MIMESIS, contro 26,10 per quelli addestrati con GPT-5.5, in otto ambienti.
Il gruppo ha testato anche Coached On-Policy Self-Distillation, o CSD. Durante l’addestramento, il metodo usa le tracce private del ragionamento di un simulatore e il successivo intervento dell’utente per produrre indicazioni, aggiungendo una guida a livello dei token alle ricompense legate ai compiti. Con CSD, la media riportata è salita a 31,09 con gli stessi utenti usati per la valutazione. L’agente impiegato non riceve quelle tracce private né quelle indicazioni: agisce in base alla conversazione a sua disposizione.
La verifica con le persone resta da fare
I risultati dello studio mostrano un trasferimento tra simulatori basati su modelli linguistici, non dimostrano che gli agenti addestrati con MIMESIS funzionino meglio con le persone. Gli autori avvertono inoltre che simulatori diversi potrebbero condividere distorsioni comportamentali e che i pensieri generati da un modello sono interpretazioni, non osservazioni degli stati mentali umani.
«È necessaria una valutazione con esseri umani per accertare se le strategie risultanti restino efficaci nelle interazioni reali.»
scrivono Hoang Phan e i coautori dello studio
Il lavoro presentato il 7 ottobre è uno studio di ricerca, non una prova che Meta abbia reso disponibili i pesi del modello per l’uso generale. La sua scheda su arXiv contiene un link a un repository GitHub del progetto. La conclusione immediata è più circoscritta: nei test degli autori, l’addestramento con MIMESIS ha migliorato i punteggi quando gli agenti hanno poi interagito con altri utenti simulati; non è ancora stato misurato se il miglioramento si confermi nelle conversazioni con le persone.