Verso modelli decisionali fondamentali: Drex

Abstract degli autori

Gli approcci autoregressivi basati su grandi modelli linguistici, come il ragionamento con lunghe catene di pensiero, sono diventati la scelta predefinita per le nuove applicazioni di IA perché raggiungono una maggiore accuratezza in un’ampia gamma di compiti. In produzione, tuttavia, forniscono risposte incoerenti, richiedono l’analisi degli output e comportano costi e latenza aggiuntivi. I modelli decisionali affrontano questi problemi: data una domanda e un insieme di opzioni forniti dall’utente, restituiscono una distribuzione di probabilità sulle opzioni senza decodifica autoregressiva. Presentiamo Drex, una famiglia di quattro modelli decisionali open source con 8B (DLM), 9B (v1.5), 35B con 3B attivi (v2.0) e 27B (Max) parametri. Ogni richiesta consiste in uno stato (un documento, un record o il contesto di un agente, eventualmente con immagini) e in domande al riguardo, ciascuna delle quali chiede di scegliere tra alcune opzioni, formulare un giudizio sì/no o assegnare un punteggio su una scala ordinata. L’addestramento combina fine-tuning supervisionato e reinforcement learning da feedback adattato (RLAF), oltre al fine-tuning visivo per Max. Gli studi di ablazione mostrano che RLAF migliora l’accuratezza e che le funzioni di perdita di coerenza migliorano la robustezza rispetto all’ordine delle opzioni. Su Decision Index 0.4.1, Max stabilisce un nuovo stato dell’arte tra i modelli decisionali messi a confronto (67,52 sul benchmark pubblico contro 60,70 per Jev 1.14.0). Su Decision Bench v4, è alla pari dal punto di vista statistico con d3-turbo e GPT-6 Sol e ottiene un punteggio inferiore di 1,6 punti rispetto a Claude Opus 5.5; inoltre, su DecideBench ha l’accuratezza più alta tra i modelli decisionali. Max risponde a una richiesta tipica in 183 ms, contro circa 2,0 s per GPT-6 Sol e 3,5 s per Claude Opus 5.5, e i suoi output restano stabili quando le opzioni vengono riordinate. Tutti e quattro i modelli sono open source: https://github.com/nace-ai/drex-decision-models