The Pulse
I ricercatori di Apple sviluppano agenti che scelgono quando comprimere il contesto
Ricercatori di Apple e Johns Hopkins hanno presentato SelfCompact, un metodo che consente agli agenti basati su modelli linguistici di scegliere quando riassumere lunghe cronologie di lavoro. I test su sette modelli a pesi aperti hanno rile
AI.info Team · Scritto con l’IA ·
Il sito di ricerca sul machine learning di Apple ha pubblicato a ottobre uno studio su un problema pratico per gli agenti di IA: le loro cronologie di lavoro possono diventare così lunghe che vecchi errori e risultati di ricerca irrilevanti finiscono per orientare le risposte successive. Il paper, pubblicato per la prima volta su arXiv il 22 giugno, descrive SelfCompact, un metodo che permette a un agente di decidere quando riassumere il proprio contesto invece di attendere il raggiungimento di un limite fisso di token. I ricercatori riportano risultati migliori rispetto a un riferimento senza compressione nelle attività di matematica e ricerca, con un minor uso di token nella ricerca.
SelfCompact aspetta una pausa nel ragionamento
Durante il lavoro, gli agenti accumulano catene di ragionamento, chiamate agli strumenti e osservazioni. Una cadenza fissa può portare a riassumere questa cronologia nel mezzo di un calcolo o di una ricerca, scartando informazioni di cui il modello ha ancora bisogno. Aspettare che la finestra di contesto si riempia può anche lasciare troppo a lungo nel prompt contenuti ormai superati o errati.
SelfCompact combina uno strumento di sintesi con una breve griglia di criteri che indica al modello quando usarlo. La griglia privilegia i momenti in cui un sottocompito è stato risolto o il ragionamento sta convergendo; indica invece al modello di aspettare se è nel mezzo di una deduzione o si trova in difficoltà. È lo stesso modello a valutare i criteri e a scrivere il riassunto, e il metodo non richiede fine-tuning né supervisione esterna.
«Insieme, consentono di ottenere una compressione adattiva efficace senza alcun fine-tuning né supervisione esterna.»
Gli autori di «Self-Compacting Language Model Agents»
In punti di verifica regolari, l’agente valuta il percorso compiuto. Se i criteri indicano che una parte del lavoro è pronta per essere conclusa, il modello riassume la cronologia e prosegue dalla versione più breve; altrimenti continua a lavorare con il contesto esistente. Secondo gli autori, i criteri sono importanti: mettere a disposizione dei modelli il solo strumento di sintesi ha prodotto comportamenti disomogenei, tra cui chiamate in momenti poco utili o nessuna chiamata.
Sette modelli, sei benchmark
Il gruppo ha valutato sette modelli a pesi aperti su sei benchmark relativi alla matematica da competizione e alla ricerca agentica. Nei test di matematica, a parità di budget di token, SelfCompact ha ottenuto il punteggio migliore rispetto alla sintesi a intervalli fissi in 11 delle 12 combinazioni di modello e benchmark. Rispetto a un riferimento senza compressione, il miglioramento riportato in matematica ha raggiunto 18,1 punti percentuali in una combinazione di benchmark e modello.
Nella ricerca agentica, il paper riporta miglioramenti da 5 a 9 punti percentuali rispetto al riferimento senza compressione, con un costo in token per domanda inferiore dal 30% al 70%. I test hanno riguardato BrowseComp, BrowseComp-Plus e DeepSearch QA. Queste percentuali descrivono gli esperimenti di ricerca riportati, non una riduzione universale per ogni modello o attività.
La sintesi a intervalli fissi è rimasta un termine di confronto significativo: nella valutazione complessiva dei ricercatori, SelfCompact l’ha eguagliata o superata, ma tra i singoli risultati di matematica c’è stata un’eccezione. Con Qwen3-30B-A3B sul benchmark HMMT di febbraio, la sintesi a intervalli fissi ha ottenuto un punteggio superiore di 1,1 punti. Il risultato del paper mostra quindi una tendenza nelle configurazioni testate, non che la scelta adattiva del momento migliore prevalga in ogni prova.
Le evidenze non si estendono ai modelli di frontiera
Lo studio esamina sistemi a pesi aperti, tra cui modelli Qwen per la matematica e MiniMax-M2.5, GLM-4.7-Flash e MiMo-V2-Flash per la ricerca. Gli autori affermano di non aver valutato modelli proprietari di frontiera, che potrebbero essere più capaci di riconoscere senza una griglia di criteri quando il proprio contesto è diventato poco utile. Descrivono il metodo come una struttura di supporto che non richiede addestramento per affrontare questa lacuna laddove esiste, non come prova che ogni agente abbia bisogno dello stesso intervento.
Il lavoro sposta la gestione del contesto da un timer a una valutazione che il modello compie sulla base di indicazioni. La distinzione conta soprattutto quando un agente impegnato in un’attività di lunga durata ha appena completato un sottocompito utile: nei test del paper, SelfCompact punta a conservare il risultato ottenuto eliminando la cronologia circostante che non è più d’aiuto.