The Pulse
ChatGPT e Claude non mostrano distorsioni sistematiche nelle valutazioni degli abstract
Uno studio su ChatGPT e Claude non ha rilevato distorsioni sistematiche legate al genere o alla provenienza geografica quando i modelli hanno attribuito punteggi a 50 abstract di ricerca medica presentati sotto identità fittizie degli autor
AI.info Team · Scritto con l’IA ·
Uno studio pubblicato il 2 ottobre offre un contrappunto, con alcune riserve, ai timori che i sistemi di IA impiegati nella revisione possano introdurre distorsioni legate al genere o alla provenienza geografica nell’editoria scientifica: ChatGPT e Claude non hanno mostrato differenze sistematiche nei punteggi quando gli stessi abstract medici erano attribuiti ad autori diversi. L’esperimento, però, ha esaminato un compito di attribuzione dei punteggi strettamente controllato, non manoscritti completi, decisioni editoriali reali o la fondatezza dei giudizi dei modelli.
Quattro identità fittizie, 50 abstract medici
Paul Sebo e Ting Wang hanno selezionato 50 abstract di ricerca da 10 riviste di medicina interna generale, poi hanno presentato ciascun abstract come opera di quattro autori fittizi: una donna e un uomo degli Stati Uniti, e una donna e un uomo della Côte d’Ivoire. I ricercatori hanno mantenuto invariati l’abstract e il prompt, cambiando soltanto l’identità dell’autore.
ChatGPT, indicato nello studio come GPT-5.3, e Claude, indicato come Claude Sonnet 4.6, hanno ciascuno valutato due volte gli abstract sotto ogni identità. Hanno assegnato punteggi alla qualità scientifica, alla novità e alla probabilità di accettazione su una scala da 0 a 10, per un totale di 800 valutazioni. Lo studio è apparso sul Journal of General Internal Medicine.
«In questo contesto controllato non abbiamo rilevato prove sistematiche di distorsioni legate al genere o alla provenienza geografica e la riproducibilità è stata elevata, sebbene l’intervallo ristretto dei punteggi possa aver contribuito alla concordanza osservata», scrivono gli autori.
Punteggi simili, con alcune eccezioni
I punteggi mediani erano simili per le quattro identità. ChatGPT ha assegnato punteggi mediani identici per qualità e novità; le mediane relative alla probabilità di accettazione variavano leggermente, da 6 a 7. I punteggi mediani di Claude per tutte e tre le misure erano identici per tutte le identità.
Le analisi statistiche non hanno rilevato un’associazione complessiva tra l’identità e alcuno dei punteggi di ChatGPT, né tra l’identità e i punteggi di qualità o novità di Claude. Claude ha mostrato un’associazione complessiva con i punteggi relativi alla probabilità di accettazione, ma nessuno dei confronti tra singole identità era statisticamente significativo. In alcuni confronti individuali, ChatGPT ha inoltre assegnato punteggi più bassi per novità e probabilità di accettazione quando un abstract era attribuito all’identità maschile statunitense; gli autori avvertono che queste differenze isolate sono emerse in assenza di un’associazione complessiva significativa.
I punteggi assegnati nelle valutazioni ripetute erano molto coerenti: la concordanza superava il 98% per entrambi i modelli in tutte e tre le misure. La kappa di Fleiss, una statistica che tiene conto della concordanza attesa per caso, variava da 0,88 a 0,89 per ChatGPT e da 0,74 a 0,80 per Claude.
La coerenza non dimostra l’accuratezza
I risultati non mostrano che uno dei due modelli sappia giudicare correttamente la qualità della ricerca. I ricercatori non disponevano di una valutazione umana indipendente né di un altro standard di riferimento con cui confrontare i punteggi, e il fatto che un abstract fosse stato pubblicato non stabiliva quale punteggio dovesse ricevere. Come sottolinea lo studio, la concordanza tra valutazioni ripetute misura la coerenza, non l’accuratezza di una valutazione né la sua utilità per i responsabili editoriali.
Anche l’ambito dello studio era ristretto: 50 abstract di un solo settore medico, quattro identità fittizie basate su appena due paesi e due generi, e prompt che richiedevano punteggi numerici senza commenti scritti. I ricercatori osservano che questo formato standardizzato potrebbe aver limitato le occasioni in cui si sarebbero potute manifestare distorsioni più sottili o presenti nei commenti discorsivi. I modelli sono stati usati con le impostazioni predefinite e lo studio non era stato preregistrato.
Il prossimo banco di prova è la revisione tra pari reale
I risultati non consentono di stabilire che i sistemi di IA impiegati nella revisione siano meno soggetti a distorsioni dei revisori umani, né che siano pronti a valutare autonomamente i manoscritti proposti per la pubblicazione. Una revisione tra pari completa richiede un esame approfondito del disegno dello studio, dei metodi statistici, dei risultati e della loro interpretazione: aspetti che un esercizio di attribuzione di punteggi basato soltanto sugli abstract non ha messo alla prova.
Sebo e Wang indicano nei confronti basati su manoscritti per i quali esistono già rapporti di revisione umani e decisioni editoriali un modo per esaminare fianco a fianco i giudizi dell’IA e quelli umani. Il loro studio individua un risultato circoscritto: con un prompt fisso, su abstract medici pubblicati, i due modelli hanno generalmente assegnato punteggi simili nonostante i cambiamenti nelle identità fittizie degli autori.