DiffResearch: accelerare la ricerca approfondita con i modelli linguistici a diffusione

Abstract degli autori

I sistemi di ricerca approfondita pianificano, raccolgono prove, sintetizzano e rivedono i risultati in modo iterativo. Per l’uso interattivo, la latenza dall’inizio alla fine diventa quindi un collo di bottiglia fondamentale. Quasi tutti i sistemi in produzione si basano su modelli linguistici autoregressivi (AR) e ne ereditano la generazione da sinistra a destra nella pianificazione e nella stesura di testi lunghi. Presentiamo DiffResearch, un framework aperto e multiagente per la ricerca approfondita che impiega un modello linguistico a diffusione (dLLM) al centro di ogni fase, e misuriamo come un modello di base a diffusione cambi la latenza e la qualità dei rapporti. Mantenendo invariati la struttura multiagente, il codice per il reperimento delle informazioni, i prompt e la valutazione, sostituiamo il modello di base, passando da un modello a diffusione aperto a un modello AR comparabile. Su 100 attività di Deep Research Bench, il modello a diffusione è circa 6 volte più veloce dall’inizio alla fine, grazie a riduzioni di un ordine di grandezza dei tempi di pianificazione e stesura. Introduciamo inoltre dFast, una modalità di scomposizione che legge gli stati intermedi del denoising ed estrae sottoquery prima che la generazione sia terminata: considerata isolatamente, la scomposizione registra un’accelerazione mediana di 1,99 volte, senza perdita di qualità dei rapporti. Secondo la griglia di valutazione RACE del benchmark, dFast ottiene il miglior punteggio complessivo fra le tre configurazioni. Infine, in un’istantanea di una classifica pubblica a livello di sistema, un’istanza basata su un modello a diffusione più potente si colloca al di sopra di diversi sistemi commerciali. Rendiamo disponibile DiffResearch con licenza Apache-2.0.