Vai al contenuto
AI.info

The Pulse

Anthropic sperimenta dreaming per correggere la memoria di Claude

Anthropic descrive un processo offline chiamato dreaming, che verifica le note di memoria di Claude confrontandole con le trascrizioni delle sessioni. Le sue valutazioni riguardano le prestazioni della memoria su domande relative a database

Anthropic sperimenta dreaming per correggere la memoria di Claude

AI.info Team · Scritto con l’IA · verificato ·

Anthropic afferma che Claude deve decidere cosa valga la pena ricordare prima di sapere cosa accadrà dopo. L’azienda descrive «dreaming» come un processo offline che può verificare le note di memoria confrontandole con le trascrizioni delle sessioni. Il problema individuato è che una nota può essere sbagliata fin dall’inizio o diventare imprecisa con il cambiare dell’ambiente, per poi essere ritenuta attendibile in una sessione successiva.

La memoria ha più livelli

Anthropic definisce la memoria degli agenti come la conoscenza che Claude acquisisce dall’esperienza e conserva tra una sessione e l’altra in un contesto che può leggere in seguito. La sua gerarchia va dalle trascrizioni consultabili alle note scritte da Claude, fino a rappresentazioni della memoria come wiki e contesto iniettato caricato in ogni sessione. L’azienda afferma che dreaming può usare questi dati per correggere errori, creare note, costruire rappresentazioni o definire ciò che viene caricato nelle sessioni future.

La memoria ha migliorato i punteggi nelle domande sui database

Anthropic ha testato la memoria su un compito relativo a database tratto da Continual Learning Bench, o CL-Bench 1.0, nel quale Claude rispondeva a domande, riceveva la soluzione corretta e poteva salvare informazioni per dopo. Ogni domanda iniziava in una nuova sessione, mentre una directory di memoria veniva mantenuta tra le sessioni. Nel compito, la ricompensa media di Opus 5.5 è stata di 0,655 senza memoria e di 0,838 con la memoria; Sonnet 5.5 ha ottenuto rispettivamente 0,644 e 0,833.

Anthropic ha anche verificato se le istruzioni potessero orientare ciò che i modelli salvavano. Sonnet 4.6 ha ottenuto un punteggio di base di 0,330, salito a 0,364 con la memoria e a 0,641 con la memoria e un’istruzione perfezionata che gli chiedeva di leggere i propri file e verificare le proprie teorie. In un altro test, l’istruzione di «registrare solo i fallimenti» ha fatto perdere a Opus 5 e Opus 4.7 gran parte del miglioramento delle prestazioni ottenuto grazie alla memoria.

Giocando a Pokémon Red, Claude ha scritto quantità diverse di informazioni in memoria

In un confronto su Pokémon Red a circa 10.000 passaggi, Sonnet 3.7 aveva scritto 413 file di memoria in 225 cartelle e conquistato una medaglia; Fable 5 aveva scritto nove file in due cartelle, più un file al livello superiore, e conquistato quattro medaglie. La registrazione dettagliata di Sonnet 3.7 includeva informazioni leggibili sullo schermo di gioco, mentre Fable 5 aveva concentrato la propria memoria su piani, strategie e regole che aveva elaborato. Dopo che sette Poké Ball non erano riuscite a catturare un Magikarp, Claude ha scritto: «Se 3 o più sfere falliscono di fila, VARIARE i tempi (inserire ulteriori pressioni di ‘attendi’ tra i passaggi del menu) - la cattura è riuscita subito dopo averlo fatto.»

Dreaming ha corretto una nota di memoria a Mt. Moon

Durante una partita a Pokémon, Claude ha registrato erroneamente che il PokéCenter si trovava sul lato est di Mt. Moon, poi ha scritto «Mt Moon COMPLETATO» e ha superato una sporgenza a senso unico. Anthropic ha eseguito dreaming sulla cartella di memoria e Claude ha verificato la nota confrontandola con la trascrizione della sessione e l’ha corretta. Con la nota corretta, Claude è tornato alla grotta e ha raggiunto Cerulean City all’azione 1935; nella partita con la nota non corretta è tornato tre volte sul percorso precedente e la partita si è conclusa senza che Claude raggiungesse la città.

Claude ha costruito wiki a partire da grandi raccolte di documenti

Anthropic ha testato una memoria in stile wiki su circa 350.000 documenti interni, pari a circa 420 milioni di token, di Stainless, un’azienda di software acquisita da Anthropic a maggio. Nel corso di 128 sessioni, gli agenti Opus 5 hanno costruito e revisionato pagine wiki collegate tra loro; la prestazione su 25 domande, alle quali hanno risposto usando soltanto la wiki, è salita dal 13% al 48% dei criteri valutati. Quando Claude ha usato sia la wiki sia uno strumento di ricerca, il suo punteggio complessivo è salito dal 54% al 61% man mano che la wiki cresceva, mentre la sola ricerca ha ottenuto il 53%.

Un test separato ha utilizzato documenti su una fusione e il benchmark Harvey LAB, che chiede a Claude di generare memorie legali a partire da documenti di partenza. Un test poneva 24 domande sulla fusione; più della metà richiedeva informazioni tratte da più documenti e molte richiedevano anche capacità di giudizio o calcoli. Su queste domande, Claude ha ottenuto l’87% con la wiki e il 73% con la sola ricerca.

Fonte

Notizie correlate

Esplora

Altri articoli