Reti di generatori macrocanonici: surrogati neurali efficienti in termini di dati per la simulazione fisica ammortizzata

Abstract degli autori

Molte simulazioni scientifiche hanno costi computazionali elevati, il che ne limita l’impiego nell’inferenza basata su simulazioni, nella quantificazione dell’incertezza e nel processo decisionale. Presentiamo le reti di generatori macrocanonici, un framework per apprendere surrogati neurali rapidi ed efficienti in termini di dati, destinati alla simulazione ammortizzata di processi fisici stazionari mediante l’allineamento alle statistiche multiscala di un processo bersaglio. Ispirato alla sintesi microcanonica a massima entropia, che allinea le statistiche delle caratteristiche per ogni campione tramite un’ottimizzazione interna, il nostro approccio addestra invece un generatore neurale a soddisfare gli stessi vincoli in media, preservando fluttuazioni realistiche da un campione all’altro. Dimostriamo che l’addestramento con discesa del gradiente induce nello spazio dei campioni dinamiche di discesa del gradiente precondizionate, che ereditano le proprietà di conservazione della simmetria della discesa del gradiente microcanonica di Bruna e Mallat, ammortizzando la sua ottimizzazione interna per ogni campione in un’unica sessione di addestramento, dopo la quale ogni campione viene generato con un solo passaggio in avanti. Mostriamo inoltre che le parametrizzazioni residue dei generatori inizializzate vicino all’identità, se addestrate con un tasso di apprendimento basso, preservano localmente l’entropia durante le prime fasi dell’ottimizzazione e attenuano il collasso delle modalità. Gli esperimenti su simulazioni di cosmologia e fluidi mostrano che i generatori macrocanonici recuperano campioni realistici da insiemi di addestramento estremamente ridotti, in alcuni casi costituiti da un solo esempio, generando al contempo nuove realizzazioni per campione a una velocità oltre $10^6$ volte superiore a quella del simulatore di riferimento e oltre $10^3$ volte superiore a quella della discesa del gradiente microcanonica. I generatori addestrati possono essere riutilizzati per l’addestramento preliminare a valle, anche nell’inferenza basata su simulazioni, offrendo un percorso efficiente in termini di dati verso flussi di lavoro di machine learning scientifico a fedeltà multipla.