I flussi di gradiente di Wasserstein e la diffusione solo in avanti non bastano per il campionamento multimodale

Abstract degli autori

Si sono moltiplicati gli algoritmi di campionamento basati sui flussi di gradiente di Wasserstein (WGF) e sui processi di diffusione solo in avanti (FODP), spesso accompagnati da garanzie teoriche di convergenza esponenzialmente rapida alla distribuzione bersaglio. Queste garanzie vengono spesso interpretate come prova che tali metodi possano campionare in modo efficiente distribuzioni multimodali complesse, un’interpretazione spesso sostenuta da risultati empirici. In questo lavoro sosteniamo che tale interpretazione sia fondamentalmente fuorviante. Ricorrendo allo schema di Jordan-Kinderlehrer-Otto (JKO) e al calcolo di Otto, stabiliamo che le dinamiche canoniche di campionamento WGF e la diffusione in avanti sovrasmorzata condividono la stessa evoluzione della densità e presentano quindi gli stessi fenomeni di metastabilità e mescolamento lento, da tempo noti nella fisica statistica fuori dall’equilibrio. Analizziamo questa famiglia di metodi di campionamento con due strumenti complementari -- l’analisi spettrale e l’analisi del tempo medio di primo passaggio (MFPT) -- e mostriamo che una multimodalità con mode ben separate può produrre tempi di mescolamento esponenzialmente lunghi, associati a piccoli gap spettrali e a rare transizioni tra le mode. Per il programma di ricottura log-lineare comunemente adottato che studiamo qui, riscontriamo che l’introduzione di distribuzioni intermedie non elimina l’andamento esponenziale del tempo totale di trasporto. Il limite è strutturale, non legato a una specifica implementazione: i meccanismi di trasporto puramente locali, guidati dal gradiente, possono richiedere tempi esponenzialmente lunghi per trasferire massa di probabilità tra mode ben separate. Sosteniamo che questo costituisca un limite fondamentale del campionamento basato su WGF e FODP nelle loro forme standard e motivi lo sviluppo futuro di meccanismi fondamentalmente non locali per un campionamento multimodale efficiente.