Preaddestrare una volta, instradare ovunque: verso un modello fondazionale per il routing degli LLM

Abstract degli autori

Il routing dei modelli linguistici di grandi dimensioni (LLM) mira ad assegnare ogni richiesta al modello più adatto tra candidati eterogenei, migliorando il compromesso tra qualità ed efficienza nell’inferenza degli LLM. In genere, i router esistenti vengono appresi mediante adattamento locale: un router viene ottimizzato per un determinato insieme di richieste e di modelli candidati e spesso richiede supervisione aggiuntiva o un nuovo addestramento quando cambia l’ambiente di routing. Ci chiediamo se sia invece possibile affrontare il routing degli LLM nella prospettiva dei modelli fondazionali, apprendendo una capacità di routing riutilizzabile che si generalizzi a compiti, modelli candidati e condizioni di impiego diversi. A questo scopo, presentiamo RouteFM, che impara a caratterizzare modelli candidati anonimi a partire dal contesto comportamentale e a dedurne le capacità specifiche rispetto all’obiettivo, anziché legare le decisioni di routing a identità fisse dei modelli o a un unico ambiente. Grazie al preaddestramento episodico in ambienti di routing eterogenei, questa capacità può essere riutilizzata da un router i cui parametri restano invariati e adattata a nuovi ambienti attraverso il solo contesto. Gli esperimenti mostrano che si trasferisce anche quando cambiano domini, modalità, insiemi di modelli candidati e limiti di contesto, con i maggiori miglioramenti quando le evidenze sul comportamento sono limitate. Su MMR-Bench, escluso dal preaddestramento, RouteFM supera la migliore baseline di 2,23 punti di qualità con appena otto osservazioni per candidato. Questi risultati sostengono il passaggio dall’adattamento locale ripetuto a un paradigma in cui si preaddestra una volta e si effettua il routing ovunque. Il nostro codice è disponibile pubblicamente all’indirizzo https://github.com/LAMDA-Model-Reuse/RouteFM.