Non tirare a indovinare, chiedi con criterio: valutazione comparativa e addestramento della richiesta proattiva di chiarimenti nelle conversazioni con LLM in dominio aperto

Abstract degli autori

Quando le query degli utenti sono incomplete, i modelli linguistici di grandi dimensioni dovrebbero porre domande mirate prima di formulare una risposta. Questa capacità, che chiamiamo richiesta proattiva di informazioni, è però poco diffusa: la valutazione di query reali tra utenti e assistenti, condotta su sette LLM (da 8B ai modelli di frontiera), mostra che meno dell’11% delle query insufficientemente specificate porta a una domanda di approfondimento. Per valutare e addestrare questa capacità, presentiamo VagueBench: ogni query iniziale viene annotata con un intento strutturato e unità di dettaglio, quindi trasformata, mediante la rimozione controllata di indizi linguistici, in varianti vaghe rispetto all’intento e completamente vaghe. Si ottengono così insiemi noti di informazioni nascoste, che permettono di valutare sia quando sia che cosa chiedere. Proponiamo DialogGRPO, un metodo offline di apprendimento per rinforzo che organizza la richiesta di informazioni su più turni sotto forma di grafo aciclico diretto degli stati del dialogo. In ogni nodo, le domande candidate ricevono ricompense dense a livello di turno, che combinano il guadagno informativo immediato con il valore prospettico tramite un confronto relativo all’interno di gruppi. In questo modo è possibile attribuire il merito in modo più preciso, senza simulazioni in fase di esecuzione. DialogGRPO recupera le informazioni mancanti in oltre l’88% delle query vaghe, con notevoli miglioramenti sia nell’efficienza di recupero sia nella copertura delle risposte, senza porre troppe domande quando le query sono complete. Supera i metodi di riferimento basati sul prompting e sullo scaling in fase di test e generalizza zero-shot a MultiWOZ 2.4 e AmbigQA.