Flow matching primale-duale per la generazione vincolata a livello di singolo campione

Abstract degli autori

Consideriamo il problema di imparare a generare dati rispettando un vincolo \emph{a livello di singolo campione}, con una probabilità di soddisfacimento del vincolo specificata dall’utente. Partendo dalla minimizzazione della log-verosimiglianza negativa con vincoli a livello di popolazione e adottando una parametrizzazione basata sul flow matching (FM), sotto opportune ipotesi di regolarità e di sufficiente espressività della famiglia di campi di velocità, ricaviamo garanzie sulla probabilità di soddisfacimento del vincolo per il corrispondente algoritmo di ottimizzazione primale-duale. Presentiamo un’implementazione pratica di questo approccio, chiamata Primal-Dual Flow Matching (PDFM), che consente di controllare direttamente il tasso di soddisfacimento dei vincoli e richiede soltanto il feedback binario di un oracolo di appartenenza per verificare il soddisfacimento dei vincoli, evitando la necessità di distanze differenziabili, proiezioni o strutture particolari dell’insieme dei vincoli, come la convessità. Mostriamo che PDFM migliora il soddisfacimento dei vincoli rispetto all’FM standard e raggiunge prestazioni competitive rispetto ai metodi di riferimento consapevoli dei vincoli, mantenendo al contempo la fedeltà alla distribuzione. Il nostro codice è disponibile su https://github.com/ZhengyanHuan/PDFM.