Adattamento continuo per fasi dei modelli fondazionali multimodali ai documenti finanziari giapponesi

Abstract degli autori

L’addestramento per fasi dei modelli fondazionali multimodali dopo il preaddestramento concatena l’allineamento tra visione e linguaggio, la distillazione del ragionamento e l’adattamento al dominio. Resta però poco chiaro come ciascuna fase favorisca alcune capacità a scapito di altre. Seguendo un modello da 8,4 miliardi di parametri, dalla versione iniziale non sottoposta a fine-tuning attraverso tre fasi di addestramento su documenti finanziari giapponesi, e valutandolo su cinque benchmark con input testuali, osserviamo che le fasi interagiscono in modo non additivo: la distillazione limitata alla matematica sovrascrive le conoscenze finanziarie acquisite in precedenza, mentre le capacità matematiche procedurali si conservano; la fase di adattamento al dominio ripristina più di quanto introduca. Un esperimento di ablazione che omette una fase dà i risultati migliori per la conoscenza del dominio, ma rinuncia ai miglioramenti nel ragionamento numerico. I contributi delle singole fasi non sono quindi scomponibili e il checkpoint migliore dipende dal compito: un risultato che ha implicazioni per la conservazione dei checkpoint e la pianificazione delle fasi, più che per l’aggiunta di nuove fasi.