OmniSimulator: allineare i piccoli modelli linguistici per modellare in modo autentico comportamenti eterogenei

Abstract degli autori

I grandi modelli linguistici (LLM) hanno mostrato un notevole potenziale come simulatori di utenti per sistemi interattivi di uso generale. Studi precedenti hanno dimostrato che l’addestramento su dati di alta qualità può migliorare sensibilmente il ragionamento dei modelli e le prestazioni nei compiti a valle. Tuttavia, il limite superiore della simulazione degli utenti resta vincolato al paradigma di ragionamento del modello: il chain-of-thought nativo spesso si riduce a un riconoscimento superficiale di schemi e non riesce a modellare adeguatamente i fattori comportamentali alla base delle decisioni degli utenti reali. In questo articolo proponiamo OmniSimulator, un nuovo metodo di addestramento progettato per migliorare la capacità predittiva dei piccoli LLM nella simulazione realistica degli utenti negli ambienti delle piattaforme di video brevi. In particolare, OmniSimulator organizza il ragionamento orientato al comportamento mediante uno schema strutturato in cinque dimensioni, seleziona con cura dati provenienti da scenari reali di comportamento degli utenti e introduce un modello insegnante per generare, secondo lo schema proposto, tracce di ragionamento di alta qualità. Questo aiuta i piccoli modelli ad apprendere schemi di ragionamento pertinenti al comportamento, anziché affidarsi a correlazioni comportamentali superficiali. Attraverso questo processo, ricaviamo 9.881 esempi di addestramento di alta qualità da tre mesi di traiettorie storiche di interazione di 200 utenti reali, con una media di circa 50 esempi distillati per utente. I risultati sperimentali mostrano che OmniSimulator migliora il punteggio medio di Qwen3-8B del 34,33%, raggiunge prestazioni competitive con Claude-Sonnet-4.5 e consente un’implementazione su scala più ridotta con hosting autonomo. Questi risultati suggeriscono che l’apprendimento di schemi strutturati di ragionamento orientati al comportamento sia una direzione promettente per una simulazione degli utenti basata su LLM scalabile e ad alta fedeltà.