MJev-Spatial: intelligenza spaziale del Sistema 1 mediante abbinamento nativo dell’attenzione

Abstract degli autori

L’intelligenza spaziale permette a un agente di percepire il mondo fisico e agire al suo interno, e molte delle valutazioni che richiede devono avvenire alla velocità dell’interazione: quale relazione spaziale sussista, quanto sia distante un oggetto o dove collocarlo. I modelli visione-linguaggio (VLM) producono queste risposte generando testo in forma libera, sostenendo il costo della decodifica autoregressiva e dell’analisi della risposta anche se le risposte possibili sono limitate: una tra poche opzioni, un valore scalare o un punto 2D. Per questo presentiamo MJev-Spatial, un modello decisionale multimodale di Sistema 1 che affronta tutti e tre i tipi di compiti di comprensione spaziale in un quadro di classificazione unificato. In particolare, MJev-Spatial tratta ogni candidato come una classe e gli assegna un punteggio usando le proiezioni di query e key preaddestrate del backbone, senza aggiungere parametri. I candidati sono le opzioni fornite nei compiti a scelta oppure, rispettivamente per la previsione di valori numerici e di punti, intervalli di valori e regioni dell’immagine affinati mediante una classificazione dal generale al particolare. Durante l’inferenza, ogni decisione di classificazione richiede un solo passaggio in avanti e non genera token di risposta. Per addestrare il modello in modo efficiente su dati spaziali eterogenei, supervisioniamo congiuntamente tutte le fasi della classificazione dal generale al particolare mediante teacher forcing in un unico passaggio in avanti, e combiniamo questo metodo con la formazione di batch globali che tiene conto della lunghezza e con il bilanciamento del carico tra GPU, aumentando del 30,8% la capacità di elaborazione durante l’addestramento rispetto alla strategia originale di formazione dei batch. Basato su Qwen3.5-4B e addestrato su 12,3 milioni di coppie domanda-risposta ricavate da dataset spaziali esistenti, MJev-Spatial ottiene il punteggio complessivo più alto (65,64%) tra gli otto modelli testati, si classifica primo in sette dei dodici benchmark e supera il modello di base autoregressivo non modificato in tutti e dodici. È inoltre 2,5 volte più veloce del più rapido tra i modelli autoregressivi di riferimento e 5,6 volte più veloce del modello di base.