Fine-tuning sparso per un addestramento avversario efficiente in termini di parametri

Abstract degli autori

Le reti neurali profonde ottengono prestazioni elevate in molti compiti, ma restano vulnerabili alle perturbazioni avversarie. L’addestramento avversario (AT) è una delle difese più efficaci, ma comporta costi di memoria elevati nei modelli di grandi dimensioni e il persistente compromesso tra accuratezza su dati puliti e robustezza. Studi recenti introducono nell’AT tecniche di fine-tuning efficienti in termini di parametri, come LoRA, ma questo vincolo comporta un notevole divario di robustezza rispetto all’AT con tutti i parametri. In questo lavoro, riesaminiamo il fine-tuning avversario efficiente in termini di parametri da una prospettiva basata sullo spazio dei parametri. Dall’analisi dei gradienti emerge che l’ottimizzazione avversaria si concentra fortemente su un piccolo sottoinsieme di parametri, che chiamiamo parametri critici per la robustezza (RCP), suggerendo che la robustezza sia codificata in un sottospazio sparso. Sulla base di questa osservazione, proponiamo Sparse Adversarial Fine-Tuning (SAFT), che individua gli RCP attraverso la salienza dei gradienti avversari ed esegue l’AT aggiornando solo questi parametri e congelando gli altri. Su diverse architetture e dataset, SAFT supera i metodi basati su LoRA sia in accuratezza su dati puliti sia in robustezza, pur utilizzando un numero inferiore di parametri addestrabili; inoltre, si avvicina o supera in robustezza l’AT con tutti i parametri, aggiornando solo circa il 5\% dei parametri.