TriScore: rilevamento post hoc dei dati fuori distribuzione con energia, sonde del confine decisionale e coerenza rispetto alle trasformazioni

Abstract degli autori

Il rilevamento post hoc dei dati fuori distribuzione si basa di solito su un unico segnale estratto da un classificatore congelato, come la confidenza, l’energia, le feature o i gradienti. Questa dipendenza diventa fragile in presenza di uno shift avversario a livello del classificatore, che può preservare l’indizio scelto dal rilevatore pur cambiando il comportamento decisionale del modello. Esaminiamo se sia possibile attenuare questo problema combinando criteri di rilevamento complementari anziché scegliere un solo punteggio. Presentiamo TriScore, un rilevatore OOD post hoc che combina tre segnali calibrati su dati ID e ricavati dallo stesso backbone congelato: un prior basato sull’energia, un punteggio di fragilità del confine decisionale e un punteggio di coerenza rispetto alle trasformazioni. Questi segnali vengono standardizzati sui dati di validazione ID e combinati mediante un meccanismo di gating basato sul residuo ID e dipendente dall’input, senza richiedere etichette OOD, modelli ausiliari, addestramento né una raccolta di feature memorizzate. Su quattro backbone su scala ImageNet, TriScore ottiene la migliore AUROC media tra 15 metodi di riferimento post hoc nell’ambito di un protocollo di shift avversario non adattivo, rimanendo competitivo sui benchmark OOD standard. Gli studi di ablazione mostrano che i miglioramenti derivano dalla combinazione di indizi complementari, non dall’ottimizzazione di un singolo segnale di rilevamento. Questi risultati indicano che il rilevamento post hoc basato su più criteri è una via praticabile verso un rilevamento OOD più robusto in presenza di shift a livello del classificatore. Il codice sorgente è disponibile pubblicamente su github.com/gursoyege/TriScore.