Disapprendimento dei dati tramite distillazione inversa

Abstract degli autori

I modelli di matching a più passaggi, tra cui quelli di flow matching e di diffusione, producono risultati di alta qualità, ma comportano costi di inferenza considerevoli e possono riprodurre componenti indesiderate dei dati usati per addestrarli. Presentiamo Inverse Distillation Unlearning (IDU), un metodo unificato che distilla simultaneamente un modello insegnante di matching a più passaggi in un efficiente generatore studente a un solo passaggio e sopprime gli output corrispondenti a un sottoinsieme designato dei dati di addestramento. Per prima cosa formuliamo la distillazione come un obiettivo min-max su una distribuzione di dati; rappresentiamo poi questa distribuzione come una miscela delle distribuzioni dei dati da dimenticare e dei dati generati. Possiamo così confrontare la miscela con la distribuzione dei dati di addestramento del modello insegnante e recuperare, all’ottimo, soltanto i dati conservati. Il nostro metodo richiede soltanto un modello insegnante preaddestrato sull’intero insieme di dati e i dati dell’insieme da dimenticare, senza accesso agli esempi di addestramento conservati né a estrattori di caratteristiche o classificatori aggiuntivi. Ampi esperimenti sui dataset MNIST e CIFAR-10, in contesti di flow matching e di diffusione basata sullo score, dimostrano che IDU riduce sensibilmente la frequenza di generazione delle classi dimenticate, preservando al tempo stesso la qualità degli output per le classi conservate. Per quanto ne sappiamo, IDU è il primo metodo unificato per il disapprendimento e la distillazione simultanei nei modelli non condizionati di flow matching e nei modelli basati sullo score.