Memadapter: adattamento controfattuale contro la compiacenza indotta dalla memoria

Abstract degli autori

La memoria a lungo termine consente agli agenti basati su LLM di conservare e riutilizzare informazioni tra attività e sessioni diverse, favorendo la personalizzazione e le interazioni di lunga durata. Tuttavia, le memorie persistenti possono anche indurre compiacenza, portando gli agenti ad assecondare eccessivamente le convinzioni pregresse degli utenti anche quando sono inesatte, superate o in contrasto con le prove oggettive. I metodi di mitigazione esistenti presumono che la compiacenza indotta dalla memoria derivi da memorie distorte o errate e cercano di ridurre questo rischio filtrandole in diverse fasi della pipeline della memoria. Nel mondo reale, però, anche memorie oggettive e corrette possono indurre compiacenza, e la stessa memoria può giustificare un’influenza diversa a seconda del contesto. A questo scopo proponiamo MemAdapter, un nuovo framework che integra in modo adattivo le memorie recuperate per favorire un ragionamento obiettivo e affidabile. MemAdapter comprende tre componenti: (i) Counterfactual Induction, che usa il ragionamento controfattuale per individuare il rischio potenziale delle memorie recuperate; (ii) Context-Aware Reflection, che calibra attraverso l’autoriflessione l’influenza inferenziale di ciascuna memoria recuperata alla luce dell’attività corrente; e (iii) Evidence-Based Reasoning, che fonda la risposta finale su prove appropriate preservando l’influenza legittima della memoria. Ampi esperimenti condotti su tre benchmark dimostrano che MemAdapter migliora sistematicamente l’affidabilità della memoria in scenari diversi. Il nostro codice è disponibile all’indirizzo https://github.com/DEEP-JLU/MemAdapter.