Oltre gli autovalori di modulo unitario: basi invarianti per dinamiche stabili nello spazio degli stati

Abstract degli autori

I modelli diagonali nello spazio degli stati elaborano sequenze lunghe con un costo lineare, ma durante ogni rollout applicano a ogni passo la stessa transizione: una ricorrenza non vincolata, quindi, non mantiene fissa alcuna quantità e lo stato decade o cresce senza limiti. I modelli attuali vincolano una quantità, ma preservarne una non garantisce di preservare le altre: un modello può mantenere la propria norma con precisione di macchina mentre la quantità di moto varia di centinaia di punti percentuali. Sosteniamo che le quantità conservate da una ricorrenza diagonale siano organizzate su più livelli, che ciascun livello richieda una condizione strettamente più forte sull’operatore e che uno spettro di modulo unitario permetta di raggiungere solo il livello più esterno. Sulla base di questa tesi, imponiamo per costruzione le condizioni richieste da ogni livello. Il generatore della transizione Kronecker-Cayley (KC) è un laplaciano di grafo sui sottospazi degli oggetti, $\mathbf{H}=\mathbf{L}\otimes I_m$, fatto evolvere tramite una trasformazione di Cayley; il passo resta diagonale, con un costo di $O(N^3+N^2m)$. L’insieme delle quantità conservate è esattamente una famiglia di forme quadratiche di dimensione $2m^2$, mantenute a ogni valore dei parametri: le quantità e le dinamiche raggiungibili con questa costruzione sono quindi determinate prima dell’addestramento. In quattro benchmark sulla conservazione, KC mantiene la massa totale al livello di riferimento o vicino a esso, mentre tutti i modelli diagonali di riferimento la perdono di diversi ordini di grandezza. Confrontiamo inoltre KC con la correzione della massa e riscontriamo che due correttori non funzionano quando la previsione sottostante diverge: per garantire la conservazione durante tutto il rollout, è necessario intervenire sull’assemblaggio anziché correggere il risultato. Una base modale libera, addestrata con una penalità di conservazione, conserva la quantità solo congelando il proprio spettro; l’operatore assemblato, invece, la conserva lasciando libero di ruotare ogni modo tranne uno. Oltre che in questi benchmark, KC conserva la quantità di moto lineare in tre sistemi a $N$ corpi e, a livello di operatore, la quantità conservata nella dinamica molecolare, nella cinetica chimica, nella farmacocinetica e nella dinamica delle oscillazioni delle reti elettriche.