Distillazione da LLM a flow: insegnare ai generatori scientifici obiettivi in linguaggio naturale

Abstract degli autori

La scoperta generativa in ambito scientifico richiede di combinare il ragionamento scientifico ad alto livello con la capacità di generare campioni che rispettino la struttura di uno spazio di progettazione. Eppure, queste capacità restano in gran parte separate: gli LLM di base racchiudono ampie conoscenze chimiche e biologiche, mentre i generatori specifici di un dominio, basati su flow e diffusione, incorporano le conoscenze a priori necessarie per produrre sequenze e geometrie valide. Studiamo come allineare questi generatori scientifici a obiettivi di scoperta formulati in linguaggio naturale ad alto livello senza richiedere una ricompensa proxy esplicita, spesso non disponibile o rappresentata in modo inadeguato dai predittori appresi nelle scienze sperimentali. Introduciamo LLM-to-Flow Distillation (LFD), un metodo in cui un LLM congelato funge da insegnante adattivo per un generatore specifico di un dominio. Dato un obiettivo come «generare peptidi con una promettente attività antitumorale», l’insegnante costruisce un percorso di sotto-obiettivi intermedi che tiene conto delle capacità attuali del flow e li orienta progressivamente verso l’obiettivo di scoperta originario. A ogni iterazione, l’LLM valuta i candidati campionati in base all’obiettivo corrente. Queste valutazioni producono preferenze che vengono trasferite iterativamente al generatore tramite DPO. La procedura fornisce segnali di apprendimento ricchi anche quando il modello iniziale assegna una probabilità trascurabile a progetti che soddisfano l’obiettivo finale, consentendo l’adattamento verso regioni scarsamente coperte e fuori distribuzione. Gli esperimenti sui peptidi terapeutici e sulla progettazione della struttura di piccole molecole dimostrano che LFD rende possibile una nuova forma di controllo generativo: allineare generatori scientifici arbitrari e specifici di un dominio a compiti di scoperta scientifica espressi mediante obiettivi in linguaggio naturale ad alto livello.