GNN-VIEW: ispezione visiva e spiegazione dei modelli del sistema Terra basati su grafi

Abstract degli autori

I modelli di machine learning del sistema Terra stanno assumendo un’importanza crescente, così come il loro sviluppo. I modelli basati su grafi, uno degli approcci più diffusi, consentono agli sviluppatori di porre vincoli al processo di apprendimento prima dell’addestramento attraverso la connettività del grafo. Svilupparli resta però difficile: il grafo viene costruito algoritmicamente e, al di là delle visualizzazioni statiche, si ha poca intuizione del risultato finale. Tali visualizzazioni richiedono lavoro aggiuntivo e spesso non sono abbastanza dettagliate. Anche dopo un addestramento riuscito, resta poco chiaro come il modello arrivi alle previsioni. Presentiamo GNN-VIEW, uno strumento interattivo accessibile da browser che supporta lo sviluppo di questi sistemi. GNN-VIEW rende visibili i percorsi dell’informazione nel grafo, consentendo agli sviluppatori di individuare errori nella struttura del grafo prima dell’addestramento. Dopo l’addestramento, GNN-VIEW usa tecniche di spiegabilità basate sull’attribuzione per mostrare quali caratteristiche di input il modello addestrato utilizza per una determinata previsione. Questo aiuta gli sviluppatori a capire perché un modello fallisce. Mostriamo l’utilità di GNN-VIEW nella fase di costruzione di un grafo per un modello di previsione oceanica e per spiegare le previsioni imprecise delle precipitazioni prodotte da un modello addestrato di previsione meteorologica durante l’uragano Laura.