The Pulse
I riassunti fuorvianti generati dall’IA riducono al 44,8% l’accuratezza dei ricordi, secondo uno studio
Uno studio di Mattea Sim, Yael Eiger e Tadayoshi Kohno ha rilevato che i riassunti fuorvianti generati dall’IA riducevano la percentuale di risposte corrette a una domanda su un segnale stradale visto in precedenza. I ricercatori hanno inol
AI.info Team ·
Solo il 44,8% dei partecipanti che aveva letto un riassunto fuorviante generato dall’IA ricordava correttamente un segnale stradale mostrato in un video, contro l’83,6% di chi aveva ricevuto un riassunto accurato. I risultati provengono da uno studio pubblicato su arXiv il 23 settembre da Mattea Sim, Yael Eiger e Tadayoshi Kohno, che ha verificato se gli errori nei riassunti scritti dall’IA possano modificare i ricordi delle persone.
L’esperimento riguardava un breve video animato di un incidente tra un’auto e un pedone. Secondo i ricercatori, i risultati destano preoccupazione nei contesti in cui i riassunti generati dall’IA possono influenzare valutazioni successive: una volta letto un resoconto fuorviante, una verifica umana potrebbe non riuscire a correggerlo in modo affidabile.
Un segnale stradale come prova della memoria
I ricercatori hanno reclutato online adulti statunitensi e hanno mostrato loro uno di due video di 25 secondi. Entrambi mostravano un’auto rossa che si avvicinava a un incrocio, dove si trovava un segnale di stop oppure un segnale di dare precedenza, prima di investire un pedone. Dopo un intervallo di 24-48 ore, i partecipanti hanno letto un riassunto e risposto a domande sul video originale.
Lo studio ha analizzato i dati di 328 partecipanti che avevano completato entrambe le fasi e superato i controlli di attenzione richiesti. I ricercatori hanno variato sia l’accuratezza con cui il riassunto descriveva il segnale, sia l’indicazione fornita ai partecipanti sulla sua origine: un’IA o una persona che aveva trascritto il video. In realtà, in entrambe le condizioni relative all’attribuzione della fonte, il riassunto era stato generato da ChatGPT; i ricercatori avevano modificato il dettaglio del segnale per creare le versioni accurata e fuorviante.
«Le persone che hanno letto un riassunto fuorviante generato dall’IA avevano una probabilità significativamente inferiore di ricordare con precisione l’evento originale rispetto a chi aveva letto un riassunto accurato generato dall’IA.»
Mattea Sim, Yael Eiger e Tadayoshi Kohno, autori di «AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory»
Tutti i riassunti esaminati contenevano errori
In un’analisi separata, i ricercatori hanno chiesto a ChatGPT-5.5 e Gemini 2.5 Flash-Lite di riassumere gli stessi due video. Hanno generato in totale 20 riassunti. Ciascuno conteneva almeno un errore, con un numero di errori compreso tra sette e 21 per riassunto.
Le omissioni erano presenti in tutti i 20 riassunti. Considerando i diversi prompt e modelli, i riassunti omettevano il 51,6% dei dettagli che i ricercatori avevano individuato come centrali per gli eventi. In 19 riassunti su 20 mancava l’investimento del pedone da parte dell’auto: l’evento centrale. I ricercatori hanno registrato anche descrizioni inesatte e dettagli aggiunti che non comparivano nei video.
Indicare l’origine del riassunto non ha impedito l’effetto
Indicare che il riassunto era stato scritto dall’IA anziché da una persona non ha modificato in modo significativo la percentuale di risposte corrette dei partecipanti. I ricercatori non hanno inoltre trovato una relazione significativa tra l’accuratezza dei ricordi e la fiducia nell’IA dichiarata dai partecipanti o la frequenza con cui la usavano. L’indicazione della fonte non ha protetto i partecipanti dal dettaglio fuorviante.
Gli autori collegano il risultato al noto effetto della disinformazione: le persone possono incorporare nei loro ricordi successivi informazioni incontrate dopo un evento. Il loro esperimento ha esaminato una versione specifica di questo problema, usando un segnale stradale in un video animato e un riassunto il cui testo era stato modificato deliberatamente per lo studio.
Il test era circoscritto, ma il contesto conta
I ricercatori avvertono che la loro analisi degli errori nei riassunti era limitata a due brevi video, un prompt standardizzato e 20 risultati. Il filmato mostrava la scena animata di un incidente, non riprese reali della polizia o di una telecamera indossabile. Secondo gli autori, questi limiti impediscono di stabilire quanto spesso effetti simili sulla memoria si verifichino in altri contesti o con altri sistemi.
Ciò nonostante, l’esperimento suggerisce che un riassunto inesatto possa fare più che introdurre un dettaglio sbagliato: può influenzare la risposta successiva di una persona su ciò che ha visto. Questo studio non ha verificato se l’effetto si manifesti anche con filmati più lunghi e realistici, né come chi usa resoconti generati dall’IA possa controllare le prove originali senza affidarsi a ricordi alterati.