Migliorare la robustezza delle reti convoluzionali agli spostamenti di contesto tramite l’entropia incrociata regolarizzata dal contesto

Abstract degli autori

Al momento del test, i modelli di classificazione delle immagini incontrano spesso oggetti in contesti diversi e imprevedibili, che possono differire notevolmente da quelli osservati durante l’addestramento. Questo fenomeno, detto spostamento del contesto, mette in luce una fragilità fondamentale delle reti neurali: quando i modelli si basano su indizi contestuali non causali per formulare previsioni, i cambiamenti di contesto possono causare un notevole calo delle prestazioni. In questo articolo proponiamo un nuovo framework di addestramento per migliorare la robustezza delle reti neurali convoluzionali agli spostamenti di contesto. Il nostro approccio sfrutta l’attribuzione spaziale delle caratteristiche per indirizzare i modelli verso previsioni che si basino meno sulle regioni contestuali e maggiormente sulle caratteristiche rilevanti dell’oggetto. Come primo passo, riconoscendo un limite teorico dei metodi esistenti di attribuzione delle caratteristiche, introduciamo una nuova variante, ContrastiveCAMs, che produce mappe di attribuzione più fedeli delle previsioni del modello. Sulla base di ContrastiveCAMs, proponiamo inoltre Context-Regularized Cross-Entropy (CR-CE), una modifica della normale funzione di perdita di entropia incrociata che regolarizza l’attenzione del modello sopprimendo l’influenza delle regioni contestuali e migliorando così la robustezza agli spostamenti di contesto. Valutiamo l’efficacia del nostro approccio su diversi dataset di dimensioni medio-grandi (Waterbirds, Spawrious, ImageNet/ImageNet-BG, Hard-ImageNet) e riportiamo miglioramenti costanti nella robustezza agli spostamenti di contesto.