Aggiornamento delle credenze basato sulla provenienza nei cicli di feedback tra esseri umani e IA

Abstract degli autori

Nelle interazioni ripetute tra esseri umani e IA, una singola osservazione può essere citata, riassunta e riproposta a un modello sotto forma di più resoconti, facendo apparire la ripetizione come una conferma indipendente. Studiamo se i modelli linguistici possano utilizzare le informazioni fornite sulla derivazione dei resoconti per aggiornare le proprie credenze in base alla provenienza delle evidenze, anziché al numero dei resoconti. Introduciamo Latent Quotient Evidence Training (LQET), un obiettivo relazionale che combina una supervisione bayesiana sparsa con vincoli che favoriscono previsioni stabili quando i resoconti non aggiungono nuove evidenze e aggiornamenti coerenti di fronte alla stessa nuova evidenza in diverse sequenze di ritrasmissione. Su un benchmark binario controllato, rispetto all’addestramento basato solo sul compito, LQET riduce del 41-44% l’RMSE degli aggiornamenti in presenza di nuove evidenze e dell’89-91% la deriva dei log-odds dopo otto passaggi di ritrasmissione, sia per Qwen3-4B sia per Phi-4-mini, con tre seed di addestramento appaiati per ciascun backbone. I miglioramenti si estendono a una simulazione a circuito chiuso in cui il grado di fiducia del modello determina quanti resoconti ritrasmessi rientrano nel suo contesto nei cicli successivi. Ancorando gli aggiornamenti delle credenze alla provenienza delle evidenze fornita, LQET offre una strada verso sistemi dinamici tra esseri umani e IA in cui l’influenza dipende dalle nuove evidenze, non dal numero di volte in cui le stesse evidenze ritornano.