Verifica delle tracce degli strumenti negli LLM agentici: localizzazione delle fonti e test della dipendenza controfattuale

Abstract degli autori

Gli LLM agentici ricorrono sempre più spesso a evidenze esterne per formulare previsioni scientifiche. In biologia, l’integrazione di complesse evidenze sperimentali e computazionali promette previsioni accurate e interpretabili per problemi importanti. Tuttavia, i risultati serializzati degli strumenti possono contenere scorciatoie nascoste legate alle etichette, come identificatori dei dataset o artefatti dei template, che producono un successo apparente senza ragionamento biologico. Per affrontare questo rischio, introduciamo una verifica in due fasi. La prima, Per-Tool TF-IDF Decomposition (PT2D), individua i pattern predittivi delle etichette nei risultati dei singoli strumenti, evitando che il segnale si diluisca nella traccia concatenata degli strumenti. La seconda, Token-Class Redaction, verifica con un test controfattuale se l’LLM congelato dipende dalla scorciatoia individuata. Applichiamo questa verifica al legame TCR-pMHC, per il quale l’aggiunta di strumenti offre prestazioni nettamente superiori a quelle di una baseline priva di evidenze. A prima vista, ciò suggerisce che l’LLM abbia imparato a usare le evidenze scientifiche. La verifica ribalta questa interpretazione: PT2D individua il segnale più forte negli identificatori presenti nel risultato di un solo strumento e, oscurandoli, le prestazioni scendono al livello del caso. Questi risultati mostrano come scorciatoie nascoste legate alle etichette possano sembrare ragionamento o scoperta scientifica, e indicano la necessità di verifiche a livello delle fonti prima di ritenere affidabili i miglioramenti nei benchmark.