Ragionamento visibile: trasparenza delle decisioni per gli utenti dei sistemi di IA generativa

Abstract degli autori

Nel corso di diverse ondate dell’informatica, la fiducia del pubblico nelle nuove tecnologie è cresciuta con l’emergere di meccanismi di governance che hanno reso i rischi principali comprensibili e gestibili. L’IA generativa modifica questo schema: questi sistemi sintetizzano informazioni provenienti da fonti eterogenee e gli utenti li percepiscono sempre più come sistemi capaci di ragionare. La domanda centrale non è più «ha funzionato correttamente?», ma «possiamo fidarci del modo in cui è giunto alla sua conclusione?». Questo articolo presenta i Filtered Decision Logs (FDLs), un meccanismo di trasparenza rivolto agli utenti che rende visibile il processo di formazione delle decisioni senza esporre la catena di pensiero grezza. Gli FDLs accompagnano ogni risposta con (i) una spiegazione concisa della decisione, (ii) elementi di supporto ricavati dagli output degli strumenti e ordinati in base alla loro influenza e (iii) indicatori di pertinenza che mostrano quali fonti hanno inciso maggiormente sulla conclusione. Per rendere operativa la selezione delle evidenze, proponiamo un metodo basato sulle tracce che ricostruisce la telemetria di osservabilità sotto forma di albero della provenienza e ordina le evidenze usando quattro segnali semantici e strutturali deterministici — Final Answer Similarity, Average Relevancy, Persistence e Structural Proximity — combinati mediante un punteggio ponderato adattivo. Mostriamo gli FDLs in tre ambiti: orientamento professionale (5 strumenti), analisi degli investimenti (4 strumenti) e pianificazione dei viaggi (4 strumenti). In una valutazione preliminare con 50 partecipanti (25 studenti e 25 professionisti che lavorano nello sviluppo dell’IA), il 92% ha giudicato utile, per comprendere la raccomandazione del sistema e fidarsi di essa, l’ordinamento delle evidenze in base alla loro influenza. Esperimenti controfattuali di rimozione degli strumenti confermano che eliminare la fonte al primo posto modifica la risposta più che eliminare una fonte nelle ultime posizioni, convalidando la capacità dell’ordinamento di rispecchiare la dipendenza della decisione dalle evidenze. Concludiamo che una trasparenza basata sull’ordinamento delle evidenze aiuta gli utenti a individuare segnali fuorvianti e informazioni contestuali mancanti, consentendo loro di accettare o correggere le decisioni del sistema, oppure di farle rielaborare, con maggiore sicurezza.