LLM2Jev: gli LLM sono già modelli decisionali in stile Jev — quando e come sottoporli a fine-tuning

Abstract degli autori

I modelli decisionali in stile Jev restituiscono distribuzioni di probabilità categoriali su opzioni predefinite senza generare testo in forma libera, consentendo ai sistemi software di agire direttamente in base ai loro risultati. In questo lavoro esaminiamo in che misura gli LLM generalisti possiedano già questa capacità senza alcuna modifica e quando il fine-tuning sia effettivamente necessario. Presentiamo LLM2Jev, un framework che preserva l’architettura ed estrae decisioni calibrate direttamente dalle probabilità del token successivo associate a identificatori numerici racchiusi tra parentesi quadre. LLM2Jev offre sia una procedura di inferenza che non richiede addestramento, sia un obiettivo di fine-tuning che ottimizza la selezione dei candidati tramite una funzione di perdita listwise fattorizzata ad albero, vincolando al contempo le predizioni ausiliarie al modello di base mediante penalizzazioni basate sulla divergenza KL. Nelle valutazioni su Qwen3.5-4B e Qwen3-0.6B, riscontriamo che gli LLM moderni sono intrinsecamente modelli decisionali efficaci: senza addestramento, il modello 4B eguaglia i modelli in stile Jev sviluppati dalla comunità a partire dallo stesso backbone, supera i metodi che leggono i logit delle lettere, supporta un numero arbitrario di opzioni e gestisce nativamente decisioni multimodali basate su immagini. Il fine-tuning apporta benefici mirati, non universali: migliora notevolmente i modelli più deboli e le prestazioni in compiti specifici, come l’instradamento degli intenti tra molte opzioni, ma offre rendimenti decrescenti con i backbone più capaci. Un aspetto cruciale è che i nostri vincoli basati sulla divergenza KL evitano il deterioramento del comportamento nella generazione di testo conversazionale, mentre LoRA offre le prestazioni migliori sui modelli più capaci.