Accesso certificato: calcolo in fase di test su una memoria di IA strutturata secondo la fisica conservativa

Abstract degli autori

I meccanismi di calcolo in fase di test, come i nuovi tentativi, l’escalation basata sulla fiducia e l’instradamento non locale, vengono convenzionalmente implementati come aggiunte black-box ai modelli addestrati. In genere aggiungono passaggi forward o head di arresto, ma non spiegano in modo strutturale quali vantaggi offra il calcolo aggiuntivo né quali costi comporti rispetto alle garanzie di stabilità del modello. Proponiamo quindi un quadro teorico ed empirico per il calcolo in fase di test applicato a un Latent Dynamics Model usato come memoria. Quando lo stato latente $(q,p)$ di un encoder viene fatto avanzare con un passo simplettico smorzato (velocity-Verlet) di una Hamiltoniana appresa, ogni meccanismo che amplia l’accesso ha un Jacobiano esatto del volume di fase, una variazione di energia limitata e una legge esatta di trasporto del latch. Suddividiamo i problemi di raggiungibilità in problemi di fuga e problemi di raggiungimento. Una compressione di Lorentz risolve i problemi di fuga iniettando energia limitata e riassorbibile. Una traslazione canonica con gating (un canale a un passo attraverso $C_T$) risolve i problemi di raggiungimento con $\detJ=1$ esattamente. Verifichiamo questa serie di certificati su un banco di prova analitico progettato appositamente. Per raggiungere un punto appena oltre $C_T$ con la compressione serve energia che cresce quadraticamente rispetto alla distanza in eccesso. Il costo energetico del canale con gating è pari alla differenza di potenziale tra i suoi estremi, che nel canale abbinato misurato qui è pari a zero e quindi, in questo banco di prova, non cresce con la distanza. Una mappa non addestrata che sostituisce lo stato annienta il volume di fase e cancella la carica immagazzinata, mentre il canale con gating la trasporta. Su una memoria appresa e strutturata secondo la fisica, mostriamo un razionamento calibrato del calcolo e valutiamo i limiti di scaling dell’instradamento non locale rispetto a una baseline che non incorpora la fisica. Il contributo principale è la formalizzazione e la verifica della serie di certificati, non le prestazioni nei benchmark.