Le rappresentazioni dello stigma legato alla salute mentale nell’IA: quantificare il divario tra le stime dell’IA e le percezioni umane nei diversi gruppi di genere usando LLM basati su GPT

Abstract degli autori

Il crescente impiego dell’intelligenza artificiale (IA) nelle applicazioni per la salute mentale solleva interrogativi sulla possibilità che assimili e perpetui i pregiudizi presenti nella società. Questa ricerca valuta sia le disparità sia la mancata corrispondenza nel modo in cui i modelli linguistici di grandi dimensioni (LLM) GPT-4 e GPT-5 rappresentano le percezioni della salute mentale nei diversi gruppi di genere. La ricerca comprende due studi. Lo Studio 1 ha utilizzato misure ampiamente adottate della distanza sociale, degli stereotipi e degli atteggiamenti verso la ricerca di aiuto per valutare se i modelli di IA rappresentino differenze sistematiche tra i gruppi di genere. Lo Studio 2 ha confrontato le stime dell’IA relative allo stigma personale, all’autostigma e allo stigma percepito con dati reali su larga scala raccolti presso persone nell’ambito dello Healthy Minds Study (N = 76.406), per valutare la corrispondenza tra le stime dell’IA e le percezioni umane. I risultati dello Studio 1 hanno mostrato che i modelli di IA rappresentavano sistematicamente gli uomini, rispetto alle donne e alle persone non binarie, come il gruppo con il maggior desiderio di mantenere una distanza sociale da una persona con problemi di salute mentale, con punteggi relativamente più alti nella misura degli stereotipi e con gli atteggiamenti meno favorevoli verso la ricerca di aiuto. Lo Studio 2 ha confermato che questo ordine relativo corrispondeva in parte ai dati riferiti dalle persone per lo stigma personale e l’autostigma. Tuttavia, per tutti i gruppi di genere, i modelli di IA sottostimavano sistematicamente lo stigma personale e quello percepito, mentre sovrastimavano notevolmente l’autostigma. Questi risultati mostrano che, sebbene i modelli di IA abbiano appreso in una certa misura le differenze relative tra gruppi di genere che riflettono le esperienze umane, forniscono rappresentazioni distorte. Ciò evidenzia la necessità di una rigorosa validazione, specifica per il contesto, rispetto ai dati reali, per garantire un impiego sicuro ed equo dell’IA.