ContextBias: valutazione controllata della persistenza dei bias al variare del contesto nei modelli di generazione di immagini da testo

Abstract degli autori

I modelli di generazione di immagini da testo apprendono associazioni tra concetti — in questo studio, le professioni delle persone, che chiamiamo ruoli — e attributi visivi. Queste associazioni possono essere alla base di molte forme osservate di bias stereotipati. Una questione ancora aperta è se tali associazioni rimangano stabili o cambino quando le rappresentazioni visive di persone in ruoli professionali vengono inserite, tramite prompt, in contesti diversi. Presentiamo ContextBias, un sistema di valutazione controllata, e ContextBench, un benchmark che comprende 92 ruoli e 1.656 prompt controllati sul piano semantico, progettato per isolare l’effetto delle variazioni di contesto sulle rappresentazioni visive associate ai ruoli. Valutando quattro modelli all’avanguardia su 66.240 immagini generate, riscontriamo che collocare un ruolo in un contesto semanticamente non correlato non riduce gli attributi associati a quel ruolo; al contrario, la concentrazione degli attributi tra ruoli aumenta (BI aggregato $+0.047$). Gli indizi demografici, gli indumenti caratteristici e gli strumenti specifici dei ruoli rimangono molto frequenti sia in assenza di contesto sia nei contesti correlati e non correlati, e resistono alla riformulazione semantica dei prompt. La composizione della scena e l’inquadratura sono gli aspetti più sensibili al contesto. Questi risultati rivelano una forma di persistenza degli stereotipi che resta in gran parte invisibile nelle valutazioni prive di contesto e sottolineano la necessità di introdurre variazioni controllate del contesto nei benchmark sui bias. Codice e dataset: https://huggingface.co/datasets/shaghayegh/ContextBias , https://github.com/Sina-Emami/ContextBias