Conoscenze a priori o feedback? Cosa usa un LLM quando adatta gli operatori neurali

Abstract degli autori

Gli agenti scientifici basati su LLM si affidano soltanto al contesto iniziale del compito oppure adattano le proprie decisioni in risposta ai risultati sperimentali? Esaminiamo la questione nell’adattamento degli operatori neurali, in cui un modello linguistico di grandi dimensioni (LLM) sceglie le configurazioni di fine-tuning potendo effettuare solo un numero limitato di prove. Nei trasferimenti all’interno delle famiglie di equazioni differenziali alle derivate parziali (PDE) e tra famiglie diverse, l’LLM ottiene un nRMSE inferiore nei test su dati tenuti da parte rispetto alla ricerca casuale e all’ottimizzazione bayesiana in quasi tutti i confronti a parità di condizioni. Le prestazioni finali, da sole, non permettono di capire che cosa accada: per questo verifichiamo ciascuna attribuzione con interventi controllati. Già prima di osservare un qualsiasi punteggio di validazione, la prima configurazione dell’LLM si colloca ai primi posti nel corrispondente insieme di configurazioni della ricerca casuale, segno di un utile orientamento iniziale. Un intervento complementare in condizioni di cold start mostra che il tasso di apprendimento di base selezionato cambia a seconda della descrizione della PDE. Quando i risultati diventano disponibili, riassegnare i punteggi di validazione tra le configurazioni valutate modifica la proposta successiva in ogni caso esaminato, mentre una riscrittura che conserva i valori non produce un effetto complessivo paragonabile. Questi interventi dimostrano che le decisioni dell’LLM rispondono al compito assegnato e ai risultati osservati: il modello combina quindi conoscenze a priori dipendenti dal compito con una sensibilità ai risultati sperimentali.