Trasporto della proposta calibrato sul rischio per la guida della diffusione con un numero finito di particelle

Abstract degli autori

La guida durante l’inferenza combina esperti di diffusione preaddestrati o ricompense senza riaddestramento, modificando la dinamica che trasporta il rumore ai dati. La correzione di Feynman-Kac compensa il disallineamento della proposta mediante il metodo Monte Carlo sequenziale (SMC) con pesi di importanza, il cui comportamento con un numero finito di particelle dipende dalla proposta. La guida che controlla la varianza (VCG) migliora la proposta adattando una correzione lineare della deriva per minimizzare la varianza empirica del tasso di variazione dei log-pesi. Sebbene la sua soluzione ottimale nella popolazione non possa aumentare la varianza residua, con un numero finito di particelle VCG può quasi azzerare il residuo sui dati usati per l’adattamento e, al tempo stesso, aumentare di ordini di grandezza il rischio residuo su nuovi stati. L’aggiornamento risultante può peggiorare la generazione senza pesi o accelerare il collasso delle particelle. Mostriamo che il tasso centrato di Feynman-Kac è il residuo normalizzato del trasporto e che il beneficio atteso fuori dai dati usati per l’adattamento è esattamente pari al margine di miglioramento nella popolazione meno la penalità dovuta alla stima dei coefficienti. Sotto ipotesi di regolarità, un’analisi di Wasserstein limita l’errore terminale della proposta senza pesi in funzione di questo residuo. Questi risultati motivano Risk-Calibrated Proposal Transport (RCPT), che usa residui leave-one-out ottenuti per esclusione per calibrare la frazione conservata dell’aggiornamento VCG, senza ulteriori chiamate al modello e con solo un piccolo sovraccarico di algebra lineare. Esperimenti su distribuzioni a scacchiera 2D, decorazione di scaffold, ottimizzazione delle proprietà molecolari e generazione condizionata alla classe su CIFAR-10 mostrano il recupero dagli effetti dannosi degli aggiornamenti adattati. Negli ambiti molecolare e delle immagini, RCPT attenua gli effetti dannosi degli aggiornamenti adattati e migliora un’ampia gamma di metriche terminali rispetto a VCG non calibrato.