Elaborare in batch il ciclo di ottimizzazione riflessiva: le proposte parallele rendono GEPA più veloce e più efficace

Abstract degli autori

L’ottimizzazione riflessiva del testo migliora i sistemi agentici, ma il ciclo di ottimizzazione richiede a sua volta molte risorse e la sua struttura sequenziale lascia inutilizzata la capacità di valutazione parallela. Abbiamo esteso l’ottimizzatore open source GEPA affinché, a ogni fase di ottimizzazione, proponga e valuti un batch di candidati invece di un candidato alla volta. Nella nostra esplorazione sistematica di due compiti, la maggior parte delle esecuzioni in batch si è conclusa nella metà del tempo effettivo o meno, e le più veloci in un tempo compreso tra circa un quarto e un terzo. Le configurazioni in batch hanno ottenuto anche punteggi più alti nei test tenuti da parte: dal 68,9% al 72,1% su LiveBench-Math (con $2\times2$) e dal 49,0% al 60,0% su HoVer (con $8\times1$). Un semplice modello dei tempi di esecuzione spiega le accelerazioni misurate con un numero limitato di worker; le configurazioni in batch usano inoltre in modo più efficiente i budget di chiamate alla metrica e di spesa in dollari. Delineiamo le dimensioni lungo le quali una fase di ottimizzazione riflessiva può scalare in parallelo, offrendo una prima analisi di come ripartire tra esse un budget di ottimizzazione fisso.