Sull’identificabilità dei modelli generativi profondi ibridi: il meta-learning come soluzione

Abstract degli autori

L’interesse per l’impiego di bias induttivi basati sulla fisica nel deep learning ha portato di recente allo sviluppo di modelli generativi profondi ibridi (hybrid-DGMs), che integrano espressioni matematiche note basate sulla fisica in modelli generativi neurali. Per identificare questi hybrid-DGMs occorre inferire i parametri della componente basata sulla fisica insieme alla loro componente neurale. L’identificabilità degli hybrid-DGMs, tuttavia, non è ancora stata studiata né stabilita sul piano teorico. In che modo la teoria esistente sulla non identificabilità dei DGM generali si applica agli hybrid-DGMs? Quale potrebbe essere un approccio efficace per costruire un hybrid-DGM la cui identificabilità sia dimostrata teoricamente? Questo articolo presenta la prima indagine teorica sull’identificabilità degli hybrid-DGMs e propone il meta-learning come nuova soluzione per costruire hybrid-DGMs identificabili. Su benchmark basati su dati sintetici e reali, forniamo solide evidenze empiriche della non identificabilità degli hybrid-DGMs esistenti che utilizzano distribuzioni a priori non condizionate, nonché solidi risultati di identificabilità per le meta-formulazioni degli hybrid-DGMs qui presentate. Il codice è disponibile all’indirizzo https://github.com/GoForIt-YYB/Meta-Hybrid-VAE.