MMVistaReason: verso dati aperti e strategie di post-addestramento per il ragionamento multimodale

Abstract degli autori

I modelli aperti di ragionamento multimodale hanno beneficiato della supervisione del ragionamento su larga scala, ma ottenere un post-addestramento affidabile resta difficile a causa della qualità disomogenea dei dati, della costruzione inefficiente della supervisione, di una distribuzione sbilanciata delle difficoltà e delle interferenze tra domini. Presentiamo MMVistaReason (MVR), una strategia di post-addestramento basata su dati aperti e articolata in tre componenti: (1) una copertura più ampia delle capacità nei gruppi complementari di ragionamento Analytical e Real-World, che pongono l’accento rispettivamente sul ragionamento strutturato e sulla percezione visiva e l’ancoraggio spaziale; (2) una costruzione efficiente dei dati per SFT e RL, che uniforma dati aperti eterogenei mediante fasi successive di pulizia e annotazione, combina la distillazione a cascata da modelli insegnanti attenta alla difficoltà con una selezione delle traiettorie basata sulla probabilità della risposta per costruire MVR-SFT-528K e applica a MVR-RL-63K un filtraggio della frontiera specifico per scala; e (3) un addestramento che prima specializza e poi integra, addestrando esperti RL complementari e consolidandone le capacità mediante distillazione on-policy da più modelli insegnanti (MOPD). Le nostre analisi rivelano un’interazione dipendente dalla capacità del modello tra difficoltà della supervisione, qualità delle traiettorie e capacità del modello: i modelli studenti più piccoli traggono maggior beneficio da una supervisione selezionata, mentre quelli più grandi risentono meno delle variazioni delle traiettorie e delle interferenze dovute alla combinazione di domini. L’RL su domini misti introduce un trasferimento negativo a livello di benchmark, mentre la MOPD consente un’integrazione delle capacità costante, con una direzione KL preferibile che varia in base alla scala del modello. Su 15 benchmark multimodali, MVR-4B ottiene un punteggio medio di 72,8, superando Qwen3.5-9B (Instruct) e MMFineReason-8B pur utilizzando circa il 70% di campioni in meno rispetto a MMFineReason. Passando a 9B, la media sale a 74,4, superando Qwen3.5-35B-A3B (Instruct). Nel complesso, MMVistaReason dimostra che la costruzione sistematica di dati aperti e un post-addestramento attento alla capacità del modello offrono un percorso pratico e scalabile verso un ragionamento multimodale affidabile.