Fattori linguistici che innescano bias di genere e razziali nei modelli LLM open-weight applicati alla selezione del personale

Abstract degli autori

I modelli linguistici di grandi dimensioni a pesi aperti stanno entrando rapidamente nei processi di selezione del personale, ma le loro modalità di fallimento discriminatorie — e l’esposizione normativa che ne deriva nell’ambito della classificazione ad alto rischio prevista dall’AI Act dell’UE (allegato III) e dell’analisi dell’impatto sfavorevole condotta dalla EEOC statunitense — restano poco comprese. Presentiamo il primo audit sistematico e multi-modello degli LLM a pesi aperti che considera il linguaggio degli annunci di lavoro la principale variabile sperimentale, valutando sei modelli (Llama 3.2, Mistral, Gemma 3, Qwen 3, Phi 3, DeepSeek-R1) attraverso quattro esperimenti controllati che esaminano congiuntamente attività di simulazione del recruiter e del candidato in cerca di lavoro. Riscontriamo che (1) il linguaggio agentivo degli annunci riduce i punteggi di raccomandazione dei recruiter per le candidate (r_rb = 0,309, p_Bonf = 7x10^-5; r_rb = 0,448 con effetti fissi del modello), mentre il linguaggio comunitario compensa parzialmente la penalizzazione; e (2) il linguaggio con esclusioni codificate riduce i punteggi dei recruiter per le persone non bianche, con dimensioni dell’effetto elevate (r_rb = 0,646-0,758) e, dal lato dei candidati, dissuade selettivamente le personas non bianche dall’esprimere interesse, rendendo operativo su vasta scala un meccanismo di effetto dissuasivo. Un esperimento di ablazione dell’etichetta individua nell’etichetta esplicita della persona relativa alla categoria demografica il principale fattore causale; i Word Embedding Association Tests corroborano questi risultati a livello rappresentazionale (d = 1,01-1,45 usando le liste multi-parola di attributi di genere di Caliskan et al.). Traduciamo questi risultati in un protocollo concreto di audit prima della messa in produzione — valutazione del vocabolario degli annunci, analisi degli LLM condizionata dalle personas e segnalazione dell’impatto sfavorevole rispetto alla soglia dei quattro quinti — che rende operativi gli obblighi di documentazione e gestione dei rischi che l’allegato III impone ai sistemi di IA ad alto rischio nella selezione del personale.