Meta-prompting e orientamento basati sulla diffusione per l’adattamento generalizzabile dei modelli fondazionali

Abstract degli autori

L’apprendimento dei prompt è un metodo diffuso per adattare i modelli fondazionali, ma i prompt appresi sono in genere specifici per un compito e non si generalizzano a nuove classi, nuovi domini o nuove combinazioni di compiti. In questo articolo presentiamo Diffusion Meta-Prompt (DMP), un modello che rappresenta la distribuzione dei prompt appresi mediante modelli di diffusione. A partire da un archivio di prompt appresi in precedenza, DMP viene addestrato e utilizzato per generare campioni senza accedere agli esempi o alle funzioni di perdita dei compiti originali, e produce nuovi prompt condizionati da descrizioni dei compiti in linguaggio naturale. Per rendere più stabile il campionamento, introduciamo una strategia di orientamento applicata al momento del test: durante il campionamento per diffusione usa come ancora latente il miglior prompt dell’archivio selezionato in fase di addestramento, senza riaddestrare DMP né accedere alle classi di test. DMP migliora la generalizzazione nei compiti di classificazione, recupero delle informazioni e generazione di immagini da testo, e supporta la combinazione di concetti e il prompting negativo senza un addestramento esplicito. Rispetto ai metodi basati sul recupero dei prompt, riduce di oltre il 90% i costi di archiviazione e inferenza. Nella classificazione composita, DMP ottiene un miglioramento medio fino al 2,0% rispetto ai precedenti metodi di meta-apprendimento su 55 coppie di dataset, con miglioramenti che raggiungono l’8,5% per coppie specifiche come Eurosat e Flowers. DMP migliora anche la generalizzazione tra compiti diversi, con un incremento di circa il 2-9% nel compito di classificazione gerarchica. Forniamo inoltre una garanzia teorica che stabilisce un limite superiore alla perdita attesa sul compito per i prompt campionati da un DMP. Il codice è disponibile all’indirizzo: https://github.com/DeepakSridhar/dmp