Turnslide: sintesi scalabile di dati multi-turno percorrendo una macchina a stati finiti

Abstract degli autori

I modelli linguistici di piccole dimensioni hanno costi di utilizzo contenuti e possono funzionare su infrastrutture private, ma i modelli di base spesso non sono abbastanza efficaci nel chiamare strumenti su più turni, e il loro fine-tuning richiede dati specifici per ciascuna API che raramente sono disponibili. I metodi di sintesi esistenti sono troppo costosi per il fine-tuning su larga scala, perché spesso richiedono ambienti operativi simulati per diversi ambiti e più chiamate a modelli linguistici di grandi dimensioni (LLM) per ogni turno di conversazione generato. Presentiamo un framework di sintesi leggero e completamente automatizzato che modella ciascuna API come una macchina a stati finiti: rappresenta il sistema mediante stati astratti che determinano quando ciascuno strumento può essere chiamato e produce sequenze di strumenti valide rispetto agli stati. Le sequenze vengono trasformate in esempi completi con una sola chiamata a un LLM. Anziché ottimizzare la diversità, definiamo una distribuzione obiettivo per il numero di turni, la sequenza degli strumenti e la complessità del compito. Misuriamo la qualità dei dati sottoponendo a fine-tuning modelli linguistici di piccole dimensioni (SLM) su traiettorie generate: mostriamo che la nostra generazione basata su una macchina a stati finiti migliora significativamente l’accuratezza nei compiti successivi rispetto a una baseline non modificata e, nel confronto con i lavori esistenti, raggiunge un’accuratezza piena del 70,7% contro il 63,4% e il 53,7%, usando 3,6-6,6$\times$ meno token.