FairSplit: scomporre lo spazio degli embedding per una classificazione equa

Abstract degli autori

La classificazione equa deve affrontare una duplice sfida: mantenere un’elevata accuratezza di classificazione limitando al contempo il ricorso a informazioni sensibili. Il nostro metodo, FairSplit, raggiunge questo obiettivo imparando a scomporre lo spazio degli embedding in uno spazio equo, usato per fare previsioni, e uno spazio sensibile, che isola le informazioni sensibili. Durante l’addestramento, il modello deve imparare simultaneamente il compito di classificazione e a separare le informazioni eque da quelle sensibili. Lo spazio sensibile offre agli attributi sensibili una destinazione, così che lo spazio equo possa essere usato per fare previsioni senza ricorrere a essi. Questa scomposizione è guidata da una maschera apprendibile e dall’HSIC (Hilbert-Schmidt Independence Criterion), usato come misura della dipendenza statistica. Forniamo garanzie teoriche che mostrano come il divario di parità demografica sia limitato superiormente sia da (i) la dimensionalità appresa dello spazio equo sia da (ii) l’HSIC tra lo spazio equo e gli attributi sensibili. FairSplit gestisce efficacemente compiti multiclass e attributi sensibili non binari, superando limiti importanti dei metodi esistenti di classificazione equa. Gli esperimenti condotti su benchmark consolidati di equità mostrano che FairSplit raggiunge compromessi competitivi tra accuratezza ed equità. Il codice è disponibile all’indirizzo https://github.com/shkabrii/fairsplit.