Decostruire l’apprendimento attivo multi-task: il paradosso del conflitto tra gradienti e la decomposizione ortogonale

Abstract degli autori

I metodi esistenti di apprendimento attivo multi-task (MTL-AL) si basano prevalentemente sulla scalarizzazione lineare di obiettivi eterogenei, come l’incertezza, la diversità e il conflitto tra gradienti. Sosteniamo che questa formulazione, che intreccia i diversi obiettivi, sia fondamentalmente limitata: la combinazione lineare non riesce a rappresentare i compromessi Pareto-ottimali tra obiettivi in conflitto. Proponiamo di passare dalla combinazione alla decostruzione e presentiamo un quadro metodologico che ripensa l’MTL-AL lungo tre dimensioni ortogonali. In primo luogo, individuiamo il paradosso del conflitto: benché nella letteratura sull’ottimizzazione il conflitto tra gradienti sia considerato un’interferenza da ridurre, penalizzarlo nell’assegnazione dei punteggi ai candidati produce risultati misurabilmente peggiori rispetto a non attribuirgli alcun punteggio. Separiamo quindi le due questioni: la funzione di acquisizione non assegna un punteggio al conflitto e l’interferenza che ne deriva viene risolta durante l’addestramento mediante chirurgia dei gradienti. In secondo luogo, introduciamo la decomposizione ortogonale, che separa l’acquisizione in informatività ed esplorazione. Questo processo in due fasi, in cui il filtraggio per informatività è seguito dalla massimizzazione della copertura, evita la «diluizione della diversità» escludendo i valori anomali non informativi prima di imporre la diversità. In terzo luogo, proponiamo la Cross-Task Mutual Information (CTMI), una statistica della dipendenza tra task basata sulla covarianza e calcolata a partire dalle entropie dei task ottenute con MC-dropout. Ampi esperimenti su COCO, Cityscapes e NYUv2, che includono confronti con recenti metodi di riferimento per l’MTL-AL e la selezione dei dati, mostrano miglioramenti costanti rispetto ai metodi allo stato dell’arte, evidenziando che ripensare la struttura dell’acquisizione porta benefici maggiori rispetto all’elaborazione di nuove euristiche incrementali. Il codice è disponibile all’indirizzo https://github.com/Juho-Jung/multitask_active_learning_official.