La guida tramite concetti semantici interrompe il circolo vizioso della deriva delle spiegazioni nell’apprendimento continuo

Abstract degli autori

L’oblio catastrofico nell’apprendimento continuo (CL) si manifesta non solo con un calo dell’accuratezza, ma anche con la \emph{deriva delle spiegazioni}: i modelli mantengono l’accuratezza predittiva, mentre spostano silenziosamente l’attenzione dalle caratteristiche diagnostiche alle correlazioni spurie. Questo lavoro individua e risolve un difetto strutturale finora trascurato nell’apprendimento continuo che tiene conto delle spiegazioni: la regolarizzazione della salienza a livello di pixel ricava gli obiettivi di supervisione dalle mappe di salienza congelate del modello stesso, creando un \emph{circolo vizioso autoreferenziale della deriva} che rafforza attivamente l’attenzione verso elementi spuri da un compito all’altro. Presentiamo \textbf{C$^3$L} (Concept-Consistent Continual Learning), che interrompe questo circolo ancorando la regolarizzazione a concetti semantici coerenti con la classe (per esempio, «becco ricurvo», «motivo a strisce») individuati offline, indipendentemente dallo stato del modello. Questo garantisce (i) l’indipendenza degli obiettivi dalla deriva del modello e (ii) la coerenza semantica tra tutte le istanze di una classe. Rileviamo che il nostro obiettivo basato sui concetti, combinato con la conservazione approssimata della rilevanza LRP, produce un \emph{effetto di esclusione}: poiché le regioni dei concetti e quelle dello sfondo si contendono la rilevanza attribuita alla stessa predizione, imporre un’elevata rilevanza nelle regioni dei concetti sopprime implicitamente le correlazioni spurie dello sfondo, senza penalizzarle esplicitamente. \method non richiede insiemi di concetti annotati da persone, poiché impiega procedure completamente automatizzate per individuare i concetti e localizzarli nello spazio. Un’ampia valutazione su cinque benchmark e rispetto a oltre 20 metodi di riferimento dimostra prestazioni all’avanguardia in termini di accuratezza, oblio, qualità delle spiegazioni, mitigazione delle correlazioni spurie e robustezza fuori distribuzione.