Apprendere varietà pseudo-riemanniane per grafi eterofili tramite la segnatura del grafo

Abstract degli autori

Diverse famiglie di reti neurali per grafi ampiamente utilizzate incorporano un prior geometrico definito positivo. Se interpretata come diffusione del calore, la convoluzione su grafi richiede un operatore semidefinito positivo; i modelli iperbolici collocano le caratteristiche su varietà riemanniane definite positive; i prodotti scalari e i punteggi di attenzione in stile GAT utilizzano prodotti interni definiti positivi. Nei grafi eterofili, in cui gli archi spesso indicano dissimilarità o repulsione strutturale, questo prior non è adeguato: nessuna forma definita positiva può assegnare una distanza quadratica negativa a una direzione lungo la quale le etichette si separano. Per misurare questa discrepanza, introduciamo il Graph Signature Index ($s_{\mathcal{G}}$), l’inerzia di una matrice di compatibilità tra classi costruita basandosi soltanto sulla topologia delle etichette, e dimostriamo che nessun valore dell’indice di omofilia degli archi o dei nodi compreso tra $(0,1)$ esclude un autovalore negativo. Proponiamo quindi la Pseudo-Riemannian Attention Network (PRAT), il cui logit di attenzione è una pseudo-distanza quadratica con segno, definita da una metrica diagonale apprendibile inizializzata a partire da $s_{\mathcal{G}}$. Il progetto segue un approccio di diagnosi e poi apprendimento: la segnatura fornisce una struttura dei segni che l’addestramento non vincolato mantiene lontana dalle direzioni quasi nulle, mentre la proiezione apprende il resto della metrica attorno a essa. Nei quindici benchmark di classificazione dei nodi, PRAT supera o eguaglia i modelli più efficaci adattati all’eterofilia. Uno studio di ablazione controllato collega queste prestazioni alla struttura dei segni: mantenendo fissi architettura e protocollo, impedire alla metrica di essere indefinita riduce l’accuratezza sui grafi che $s_{\mathcal{G}}$ indica come indefiniti e lascia invariati gli altri.