Rilevamento dei dati fuori distribuzione nell’apprendimento continuo

Abstract degli autori

Il rilevamento dei dati fuori distribuzione nell’apprendimento continuo (OOD-CL) è particolarmente difficile: richiede (i) di apprendere una sequenza di compiti senza dimenticanza catastrofica e (ii) di riconoscere campioni sconosciuti (OOD) senza avere accesso ai dati noti, appartenenti alla distribuzione (ID), dei compiti precedenti. In queste condizioni, i punteggi OOD standard basati sulla confidenza tendono a peggiorare. I metodi esistenti si affidano in larga misura a un buffer di dati passati per il ripasso oppure presuppongono contesti a mondo chiuso, il che ne limita la scalabilità e l’affidabilità negli scenari reali. In questo articolo proponiamo un nuovo framework per il rilevamento OOD nell’apprendimento continuo senza ripasso, ispirato alle Kolmogorov-Arnold Networks (KAN), che mitigano la dimenticanza catastrofica grazie alla loro neuroplasticità locale intrinseca. Per sfruttare meglio le KAN nell’OOD-CL, introduciamo TA-KAN, un’architettura di classificazione adattiva rispetto al compito che attenua il bias di recenza e migliora la separabilità tra ID e OOD attraverso un controllo della località delle attivazioni specifico per ciascun compito. Proponiamo inoltre un punteggio OOD guidato dalla geometria che integra la confidenza del classificatore TA-KAN senza fare affidamento sui dati ID dei compiti precedenti. Il nostro metodo migliora significativamente il rilevamento OOD mantenendo elevate prestazioni nella classificazione ID e ottiene risultati allo stato dell’arte nell’OOD-CL.