Gli LLM sono agenti asincroni generali

Abstract degli autori

I moderni LLM sono sempre più capaci di agire come agenti autonomi, ma seguono cicli di interazione sequenziali: leggono, pensano, rispondono o chiamano strumenti, poi ricominciano. Molti casi d’uso reali non sono sequenziali: gli assistenti vocali, gli agenti incarnati e i sistemi di monitoraggio ricevono nuovi input mentre pensano o svolgono un altro compito. I moderni LLM affrontano questa esigenza con architetture specializzate per l’interazione vocale e i flussi video, VLA per il controllo dei robot, chiamate asincrone agli strumenti per l’uso delle API e altre soluzioni. In questo lavoro, partiamo da diversi compiti asincroni per arrivare ad agenti asincroni generali, capaci di adattarsi a diversi tipi di operazioni simultanee. A questo scopo, sviluppiamo un framework asincrono per LLM che consente agli utenti (o agli agenti stessi) di definire coroutine di inferenza con stati di memoria sovrapposti. Mostriamo che i modelli Qwen 3.x sono capaci di operare in modo asincrono per la comprensione di video in streaming, i videogiochi e il monitoraggio, senza un addestramento specifico per ciascun compito.