Verso l’aggiunta di memoria nei parametri dei modelli linguistici di grandi dimensioni

Abstract degli autori

Negli ultimi tempi, i modelli linguistici di grandi dimensioni (LLM) e gli agenti basati su LLM hanno sempre più bisogno di incorporare conoscenze acquisite dopo il preaddestramento, come fatti relativi a un dominio, preferenze degli utenti, documenti ed esperienza maturata nelle interazioni. L’apprendimento in contesto (ICL) e le infrastrutture per agenti basate sull’ICL restano flessibili, ma occupano spazio nel contesto e comportano un costo ripetuto di codifica discretizzata che aumenta con la lunghezza del contesto. \textbf{In-parameter memory} offre un supporto complementare: le informazioni da riutilizzare sono rappresentate nei parametri del modello, in adapter o in altri oggetti assimilabili a parametri, che vengono integrati nel passaggio in avanti al momento dell’inferenza. Questa rassegna si concentra sui metodi che, nella fase di impiego, aggiungono agli LLM una memoria parametrica di questo tipo: un oggetto parametrico che contiene la memoria viene inserito nel passaggio in avanti durante l’inferenza, indipendentemente dal fatto che sia stato acquisito prima o durante tale fase. Organizziamo i metodi lungo due assi indipendenti: \textbf{Parameter Placement}, che comprende Embedding, Attention, livelli FFN o Hybrid quando vengono usati due o più livelli; e \textbf{Parameter Acquisition Time}, che distingue i metodi in cui l’oggetto di memoria viene acquisito durante la fase di impiego (online) da quelli in cui viene acquisito prima (offline). Chiariamo i confini di questo campo, confrontiamo i metodi e discutiamo le questioni ancora aperte relative a interferenza, sicurezza, progettazione congiunta con l’ICL e automiglioramento ricorsivo.