PDE-JEPA: apprendimento predittivo di rappresentazioni per la modellazione delle dinamiche latenti delle PDE parametriche

Abstract degli autori

Le traiettorie fisiche contengono più di semplici istantanee di un sistema: mostrano anche come i suoi stati evolvono in base alle condizioni che li governano. Tuttavia, l’apprendimento di rappresentazioni per le equazioni differenziali alle derivate parziali (PDE) parametriche si è basato in larga misura su obiettivi fondati sulla ricostruzione, che privilegiano il recupero dei campi fisici osservati. In questo articolo esaminiamo il preaddestramento di rappresentazioni predittive come alternativa all’apprendimento basato sulla ricostruzione. Riscontriamo che le rappresentazioni predittive conservano una grande quantità di informazioni fisiche, ma questo vantaggio, da solo, non garantisce un’evoluzione accurata dei campi. Sulla base di queste osservazioni, presentiamo PDE-JEPA per la dinamica delle PDE parametriche. In particolare, addestriamo dapprima un encoder mediante la predizione di rappresentazioni latenti mascherate, per cogliere le regolarità sottostanti alla dinamica delle PDE. Per adattare esplicitamente la rappresentazione preaddestrata a uno spazio degli stati più allineato alla dinamica, introduciamo poi un proiettore geometrico che allinea la geometria delle traiettorie latenti a quella dell’evoluzione dei campi fisici. Infine, a partire da questo spazio latente geometricamente allineato, sviluppiamo un predittore latente strutturato secondo la fisica che scompone la dinamica in componenti di evoluzione indipendenti dai parametri e componenti di risposta dipendenti dai parametri. Ampi esperimenti su nove benchmark per le PDE ampiamente utilizzati dimostrano che il nostro approccio supera i metodi esistenti allo stato dell’arte in media del 33,4\% all’interno della distribuzione, ottenendo al contempo un miglioramento medio del 51,4\% nell’estrapolazione a parametri governanti mai osservati. La pagina del progetto è disponibile \href{https://tanpig-x.github.io/PDE-JEPA/}{here}.