L’autocondizionamento permette un ragionamento sequenziale profondo nel flow matching

Abstract degli autori

Studi recenti hanno esplorato il ragionamento visivo attraverso la generazione di immagini: i modelli risolvono problemi di ragionamento visivo generando direttamente immagini che ne rappresentano la soluzione. Intuitivamente, i metodi di campionamento iterativi come il flow matching sembrano adatti a questo compito, perché ogni passaggio di campionamento potrebbe corrispondere a un passaggio del ragionamento. In questo lavoro, però, mostriamo dal punto di vista della complessità dei circuiti che tale intuizione è fuorviante. Dimostriamo che, purché gli output del modello soddisfino alcune condizioni di regolarità poco restrittive, la traiettoria del campionatore di flow matching senza autocondizionamento può essere simulata con un numero costante di round sequenziali di valutazioni parallele del modello. Di conseguenza, nel modello standard dei transformer adottato dalla teoria della complessità, aumentare i passaggi di campionamento non può accrescere la capacità espressiva di un modello backbone a profondità costante. Mostriamo poi che l’autocondizionamento, che condiziona il modello sulla stima dell’immagine finale prodotta nel passaggio precedente, svolge un ruolo finora non riconosciuto nell’eliminare questo limite. Esperimenti controllati su diversi compiti di ragionamento visivo mostrano che il flow matching con autocondizionamento raggiunge una maggiore accuratezza e una maggiore profondità di ragionamento rispetto al flow matching senza autocondizionamento, e che le sue prestazioni migliorano all’aumentare dei passaggi di campionamento. Sul piano teorico, dimostriamo che, con l’autocondizionamento, un modello backbone a profondità costante può raggiungere una capacità espressiva equivalente a quella delle macchine di Turing con spazio limitato. Il nostro studio suggerisce un principio di progettazione per le future ricerche sul ragionamento visivo: trasmettere più informazioni tra i passaggi di campionamento, affinché ulteriori passaggi si traducano in un ragionamento più profondo.