Agenti linguistici a diffusione mascherata per il ragionamento chimico integrato con strumenti

Abstract degli autori

Progettare sistemi di agenti capaci di integrare strumenti nel ragionamento su compiti chimici complessi resta una sfida fondamentale. Sebbene i recenti agenti per la chimica abbiano mostrato risultati promettenti grazie all’integrazione di strumenti esterni, si basano ancora sul paradigma autoregressivo, intrinsecamente vincolato dall’attenzione causale e dalla generazione da sinistra a destra. Di conseguenza, spesso incontrano difficoltà nella comprensione bidirezionale delle molecole, nella pianificazione globale e coordinata dell’uso degli strumenti e nell’integrazione di evidenze provenienti da più fonti. Per affrontare questa sfida, presentiamo ChemDiffAgent, il primo agente linguistico a diffusione mascherata per il ragionamento chimico integrato con strumenti. Il sistema riformula il ragionamento chimico come un processo iterativo di rimozione del rumore da traiettorie in cui si alternano ragionamento e uso degli strumenti. Le decisioni sull’uso degli strumenti possono così essere determinate congiuntamente alla luce del contesto dell’intera traiettoria, allineando meglio il confine decisionale dell’agente con quello delle sue conoscenze. Analizziamo inoltre come questo paradigma favorisca il ragionamento degli agenti attraverso sottoproblemi di completamento più difficili durante l’addestramento e una decodifica flessibile in ordine arbitrario durante l’inferenza. Sviluppiamo poi un framework di post-addestramento in due fasi, composto da fine-tuning supervisionato per agenti e ottimizzazione delle preferenze con riduzione della varianza, per potenziare le capacità di usare strumenti e di ragionare. Costruiamo anche un benchmark completo che copre sei compiti di chimica, in scenari di uso degli strumenti sia a turno singolo sia a più turni. A parità di budget e condizioni di valutazione, ChemDiffAgent supera sistematicamente gli agenti autoregressivi, con un miglioramento complessivo di circa il 20%. In particolare, il nostro modello 8B raggiunge prestazioni paragonabili a quelle di modelli di frontiera significativamente più grandi, come GPT 5.5 e Claude Opus 4.7, superandoli in alcuni casi. Il codice è disponibile all’indirizzo https://github.com/bilemond/ChemDiffAgent.