Intern-Decision: decisioni multimodali efficienti con la modellazione autoregressiva del linguaggio mascherato

Abstract degli autori

Gli agenti interattivi scelgono ripetutamente tra un insieme finito di azioni, etichette o esiti ordinali. Generare una risposta in forma libera per ogni scelta aumenta la latenza e complica l’interfaccia tra il modello e il suo ambiente. Presentiamo Intern-Decision, una famiglia di modelli decisionali multimodali da 0,8B, 2B e 4B che, a partire da testo e immagini facoltative, restituiscono scelte strutturate e probabilità per le opzioni candidate. Il nostro obiettivo di modellazione autoregressiva del linguaggio mascherato inserisce un segnaposto decisionale per ogni campo in uno scheletro JSON completo della risposta dell’assistente. I simboli di riferimento compaiono solo nei dati usati per l’addestramento, mentre tutti i campi vengono valutati in un unico passaggio in avanti causale, usando la testa nativa per la modellazione linguistica del modello di base. Il modello 4B raggiunge un’accuratezza media non ponderata del 90,02% su sette batterie di valutazione, contro l’88,74% di Jev v1.13.0. Per una richiesta fissa di 289 token con tre campi su una RTX 4090, la latenza media è di 44,16 ms per il modello 4B e di circa 33-34 ms per i modelli più piccoli. In uno studio pilota separato su 96 casi con distribuzione nota, la regolazione della temperatura riduce il punteggio Brier multiclass atteso da 0,628 a 0,550 e l’errore di calibrazione atteso da 0,213 a 0,089. Uno studio sul passaggio di consegne basato sul grado di confidenza, condotto su 111 quesiti pubblici di Jevbench-Hard, migliora l’accuratezza da 82/111 (73,87%) a 97/111 (87,39%) instradando 42 quesiti verso Atria-Dawn-Preview. Descriviamo inoltre dimostrazioni qualitative relative a giochi, interfacce visive e browser. Questi risultati indicano che i modelli decisionali compatti possono essere una componente pratica di sistemi di agenti più ampi.