Autoencoder variazionale empirico

Abstract degli autori

Presentiamo Empirical Variational Autoencoder (EVA), un framework generativo generale per sequenze a valori continui (ossia non quantizzate vettorialmente). EVA si basa sul limite inferiore dell’evidenza del Variational Autoencoder (VAE), ma apprende empiricamente dai dati di addestramento distribuzioni a priori latenti autoregressive: per farlo basta aggiungere un solo strato lineare ai VAE. Sostituendo il tradizionale vincolo di una distribuzione gaussiana standard con distribuzioni a priori autopredette, EVA riduce notevolmente il divario tra le distribuzioni latenti a priori e a posteriori tipicamente osservato nei VAE convenzionali e permette un campionamento ancestrale ad alta fedeltà per la generazione di dati sequenziali. Ampi esperimenti sulla sintesi di immagini e suoni mostrano che EVA raggiunge una qualità di generazione competitiva rispetto alle baseline di diffusione autoregressiva, pur avendo tempi di inferenza molto più rapidi.