GeoBiaset: un benchmark controfattuale per il bias demografico nella geolocalizzazione su scala mondiale

Abstract degli autori

La geolocalizzazione di immagini su scala mondiale è un compito sempre più importante, eppure i bias dei modelli attuali sono ancora poco compresi. Studi precedenti hanno individuato squilibri generali nei dataset, osservando, per esempio, che alcune città non compaiono nei set di addestramento e che i modelli tendono a ottenere prestazioni migliori nelle regioni più ricche. Tuttavia, finora nessuno ha esaminato quali indizi visivi siano all’origine di queste disparità. A questo scopo, presentiamo GeoBiaset, il primo benchmark progettato per misurare in che modo i modelli di geolocalizzazione siano influenzati dalla razza apparente di una persona inserita in primo piano nell’immagine. Il dataset è composto da 9.541 immagini, che abbinano immagini di sfondo geolocalizzate già esistenti a modifiche controfattuali che comprendono sette razze, mantenendo fisse le coordinate di riferimento. Esperimenti controllati con mascheramento mostrano che l’occlusione e lo slittamento dello sfondo non spiegano interamente il peggioramento della geolocalizzazione. Insieme al benchmark, presentiamo i Person-Origin Perturbation Indicators (POPI), nuove metriche che quantificano la resilienza dei modelli a queste perturbazioni demografiche, misurando se le previsioni vengono attirate verso la regione associata al gruppo inserito. La nostra valutazione dei modelli di geolocalizzazione allo stato dell’arte e dei grandi modelli linguistici multimodali rivela un calo del 16–47% nelle prestazioni a livello continentale quando viene inserito un soggetto appartenente a un gruppo demograficamente non corrispondente. Un’analisi che confronta la presenza e l’assenza di punti di riferimento e le mappe di calore ponderate per gradiente mostrano che, quando sono presenti, i modelli prestano preferibilmente attenzione ai punti di riferimento geografici, mentre in loro assenza spostano l’attenzione sui tratti del viso.