[Re] Il rumore puro in soccorso dei dati insufficienti

Abstract degli autori

Esaminiamo le principali affermazioni di Zada, Benou e Irani (2021), secondo cui, in un’attività di classificazione delle immagini con dati di addestramento sbilanciati, (i) usare rumore puro per aumentare le immagini della classe minoritaria favorisce la generalizzazione migliorando l’accuratezza su tale classe. Questo metodo è abbinato a (ii) un nuovo livello di batch normalization, che normalizza le immagini di rumore usando parametri affini appresi dalle immagini naturali e migliora le prestazioni del modello. Inoltre, (iii) questo miglioramento è robusto a diversi livelli di data augmentation. Infine, gli autori propongono che (iv) aggiungere immagini di puro rumore possa migliorare la classificazione anche con dati di addestramento bilanciati. Abbiamo implementato la pipeline di addestramento sulla base della descrizione contenuta nell’articolo, usando PyTorch e integrando gli snippet di codice degli autori per campionare immagini di puro rumore e applicare separatamente la batch normalization alle immagini di rumore e a quelle naturali. Abbiamo riprodotto le principali affermazioni: (i) il sovracampionamento con rumore puro migliora la generalizzazione aumentando l’accuratezza sulla classe minoritaria; (ii) il metodo di batch normalization (BN) proposto supera i metodi di riferimento; (iii) questo miglioramento è robusto con diverse tecniche di data augmentation. I nostri risultati avvalorano anche l’affermazione secondo cui (iv) aggiungere immagini di puro rumore può migliorare la classificazione con dati di addestramento bilanciati. Tuttavia, ulteriori esperimenti suggeriscono che il miglioramento delle prestazioni ottenuto con OPeN potrebbe essere più ortogonale a quello dovuto a una rete più grande o a una data augmentation più complessa.