StartLux-Decision: modelli decisionali AutoThink con apprendimento per rinforzo per decisioni deliberative calibrate

Abstract degli autori

Presentiamo StartLux-Decision, modelli decisionali da 0,8 a 27 miliardi di parametri che combinano predizioni efficienti in un solo passaggio con un ragionamento adattivo guidato dal grado di confidenza. I modelli Instant impiegano l’attenzione bidirezionale nei livelli ad attenzione completa per migliorare l’accuratezza delle decisioni, mantenendo l’inferenza in un solo passaggio. I modelli AutoThink ricorrono a un ragionamento esplicito per le decisioni incerte e rispondono direttamente nei casi in cui sono sicuri. Un processo di addestramento in tre fasi sviluppa capacità decisionali comuni, specializza le due varianti e dota AutoThink della capacità di ragionare attraverso la supervisione del ragionamento e l’apprendimento per rinforzo. Presentiamo Reinforcement Learning for Calibrated Deliberative Decisions (RLCD$^2$), che usa un modello con parametri fissi e regole di punteggio proprie per premiare i miglioramenti nella qualità delle probabilità assegnate alle decisioni e applica una penalità lieve alle tracce di ragionamento troppo lunghe. RLCD$^2$ aumenta fino a 48 punti percentuali la quota di tracce di ragionamento che si concludono entro il limite di generazione e riduce fino al 65% la lunghezza media del ragionamento, preservando in larga misura l’accuratezza delle decisioni. Nel sottoinsieme pubblico di Decision Index 0.3, i modelli Instant superano di 7,4-16,9 punti i migliori modelli decisionali a pesi aperti di dimensioni comparabili tra quelli valutati, mentre il modello AutoThink da 27 miliardi di parametri raggiunge 73,4. Presentiamo inoltre DecisionPivot, un benchmark di decisioni computazionali verificabili programmaticamente, costruito a partire da coppie contrastive che differiscono per un solo dettaglio capace di cambiare la risposta. Su DecisionPivot, AutoThink supera le corrispondenti varianti Instant di 11,5-18,4 punti nell’accuratezza sulle coppie e si colloca al primo posto tra i sistemi valutati. I modelli funzionano su vLLM, llama.cpp e MLX e sono disponibili in varianti quantizzate che richiedono meno memoria.