Uno strumento di ispezione e intervento basato su grafi per valutare l’apprendimento meccanicistico nelle PINNs

Abstract degli autori

Ci chiediamo se le corrispondenze fisicamente significative individuate all’interno di un modello scientifico addestrato restino tali al di fuori delle condizioni in cui sono state scoperte. Presentiamo GIIT (Graph-based Inspection and Intervention Tool), che rappresenta le leggi fisiche che governano il sistema come un grafo delle dipendenze computazionali, associa i nodi del grafo ai componenti interni della rete mediante un’individuazione basata sulla sensibilità e sull’andamento, e verifica l’associazione ottenuta attraverso interventi mirati. Valutando regimi di estrapolazione temporale fuori distribuzione (OOD) di gravità crescente, rileviamo che l’estrapolazione temporale è associata a uno spostamento delle corrispondenze tra gli strati e a una riduzione della corrispondenza funzionale. Nello specifico, sebbene il modello ottenga un basso residuo fisico all’interno della distribuzione (1,915 x 10-4 sull’intero dominio ID e 1,01 x 10-4 su una sottofinestra ID con t in [0,5; 0,8]), l’associazione funzionale cambia già prima di uscire dal dominio di addestramento, e il cambiamento prosegue quando la finestra di valutazione si estende oltre tale dominio: l’errore residuo aumenta da 2,81 x 10-2 nella finestra che attraversa il confine del dominio (t in [0,5; 1,5]) a 3,30 x 10-1 in condizioni OOD gravi (t in [1; 2]). A questo si accompagna uno spostamento sistematico verso sinistra delle associazioni con gli strati interni: l’indice medio dello strato più rappresentativo scende da 5,71 (ID) a 3,00 (sottofinestra ID), fino a 2,29 (OOD grave). Soltanto 2 dei 7 nodi fisici mantengono un’assegnazione stabile agli strati nella finestra che attraversa il confine del dominio, e soltanto 1 dei 7 in condizioni di estrapolazione grave. Ciò rivela possibili cambiamenti nella corrispondenza funzionale interna prima di un grave peggioramento delle metriche convenzionali dell’output. Ulteriori risultati relativi a sistemi oscillatori lineari sono descritti più in dettaglio nell’appendice.