Apprendere distribuzioni condizionali elevate alla potenza $ω$ con il flow matching ponderato per importanza

Abstract degli autori

La Classifier-Free Guidance (CFG), con scala di guidance $γ$, viene comunemente motivata facendo riferimento alla distribuzione condizionale elevata alla potenza $ω$ che si ottiene ponendo $ω=γ$. In generale, però, CFG non genera campioni esattamente da questa distribuzione. Studiamo se sia invece possibile apprendere esplicitamente la distribuzione bersaglio elevata a potenza. Introduciamo l’Importance-Weighted Conditional Flow Matching (IW-CFM), che ripesa gli esempi di flow matching condizionale usando rapporti tra densità ottenuti da modelli di flusso condizionali e incondizionati con parametri congelati. Con pesi normalizzati esatti, la funzione obiettivo risultante ha lo stesso gradiente del flow matching applicato alla distribuzione bersaglio elevata a potenza; in pratica, usiamo una stima autonormalizzata e un’approssimazione empirica regolarizzata per i dati ad alta dimensionalità. Su distribuzioni sintetiche, IW-CFM ricostruisce distribuzioni bersaglio analitiche elevate a potenza per le quali CFG, anche ponendo $γ=ω$, presenta una discrepanza visibile. Su ImageNet, un correttore leggero ammortizzato ottiene, rispetto a CFG con guidance fisso e a CFG con guidance corrispondente, un migliore allineamento con le corrispondenti distribuzioni di riferimento ponderate e filtrate. Presentiamo inoltre un’analisi esplorativa con CLIP degli ordinamenti basati sulle densità elevate a potenza nei dati reali di ImageNet. Variazioni aggregate in una selezione di confronti specifici per prompt coesistono con risposte eterogenee tra le classi, comprese traiettorie non monotone. Questi risultati offrono una via pratica per studiare e approssimare distribuzioni condizionali elevate a potenza definite dal modello.