L’inizializzazione migliora la scoperta guidata dai modelli linguistici di grandi dimensioni

Abstract degli autori

I modelli linguistici di grandi dimensioni (LLM) sono stati impiegati per scoprire nuovi algoritmi, teoremi e farmaci e per altre attività, usando sistemi di orchestrazione che inducono un LLM a ottimizzare iterativamente un obiettivo. In questo lavoro studiamo il rapporto tra la popolazione delle soluzioni prodotte nelle iterazioni precedenti e il successo finale della scoperta. Partendo dai lavori precedenti sulla progettazione di questi sistemi, sviluppiamo una suite di 12 sistemi chiamata «Modular» e ne valutiamo le prestazioni in 5 diverse attività di scoperta. Riscontriamo che il successo della scoperta è fragile e sensibile alla progettazione del sistema di orchestrazione. Individuiamo nel collasso delle modalità, caratterizzato da un drastico calo della diversità delle soluzioni prodotte, una modalità di fallimento comune. Osserviamo che i sistemi di orchestrazione all’avanguardia più diffusi e gli interventi su tali sistemi volti a favorire la diversità, che mirano a prolungare questo collasso, producono miglioramenti incostanti. I nostri risultati mostrano invece che le prestazioni delle prime scoperte sono predittive del successo finale. Proponiamo quindi un intervento applicabile universalmente: una fase iniziale di esplorazione parallela per inizializzare la successiva ottimizzazione iterativa. Il nostro metodo offre miglioramenti costanti con molti sistemi di orchestrazione e in diverse applicazioni di destinazione, confermando l’importanza dell’inizializzazione nella scoperta guidata dagli LLM.