VA-TDM: una visione unificata per migliorare i modelli di diffusione a pochi passaggi tramite distillazione avversaria della velocità

Abstract degli autori

La distillazione a pochi passaggi consente una generazione efficiente con modelli di diffusione e di flusso, ma preservare la qualità usando solo pochi passaggi di campionamento rimane difficile. I metodi di matching delle distribuzioni basati sulla distillazione dello score offrono una solida base, ma dipendono dal tracciamento accurato della distribuzione variabile del modello studente. Nei passaggi intermedi della generazione con campionamento a pochi passaggi, stimare lo score dello studente può essere difficile e gli stimatori comunemente usati possono descrivere una distribuzione diversa da quella utilizzata per aggiornare lo studente. Il flow matching consente un approccio più flessibile alla supervisione tramite campi di velocità costruiti a partire dal processo di campionamento dello studente. Sulla base di questa prospettiva, introduciamo la distillazione avversaria della velocità (VAD), che usa un critico appreso per confrontare i campi dello studente e dell’insegnante e trasformare il loro disaccordo in un feedback utile all’apprendimento. VAD unifica la distillazione dello score, il matching basato su Fisher e il matching dei momenti, spiegando inoltre gli aggiornamenti euristici MMD esistenti e introducendo nuovi obiettivi di addestramento. Sviluppiamo inoltre VA-TDM, che segue il matching della distribuzione delle traiettorie: fornisce supervisione per il denoising parziale lungo la traiettoria dello studente. Inoltre, VA-TDM combina l’apprendimento online della velocità che tiene conto delle transizioni con una supervisione VAD a doppia formulazione attraverso le transizioni intermedie dello studente. Risultati estesi mostrano che VA-TDM è efficace nell’apprendimento di generatori a pochi passaggi, raggiunge prestazioni allo stato dell’arte con quattro passaggi sia nella generazione di immagini sia in quella di video a partire da testo, con diverse architetture di base, e scala efficacemente fino a MiniMax-H3 da 33B. In particolare, VA-TDM-H3 supera nettamente Fast-H3 a pochi passaggi ed è più vicino all’H3 originale a molti passaggi secondo le preferenze umane.