Route Anything: uno studio sull’instradamento di modelli e policy per sistemi di IA per uso generale

Abstract degli autori

L’intelligenza artificiale generale (AGI) richiede un metodo in grado di comprendere, generare, ragionare e agire in ambiti e modalità diversi. Invece di affidarsi a un unico modello perché padroneggi ogni capacità, oggi una strada promettente verso l’AGI consiste nell’orchestrare un ecosistema eterogeneo di modelli specializzati, strumenti e policy (candidati) all’interno di un sistema di IA unificato. Al centro di questa visione c’è una domanda fondamentale: come può un sistema di IA selezionare e coordinare dinamicamente il candidato più capace per ogni compito, bilanciando prestazioni e costo computazionale? In questo lavoro presentiamo Route Anything, un framework unificato per studiare l’instradamento di modelli e policy nei sistemi di IA per uso generale. Sviluppiamo una base teorica unificata che caratterizza l’instradamento ottimale in presenza di compromessi tra qualità e costo e stabilisce in che modo le informazioni a disposizione di un router determinino le prestazioni che può raggiungere. Per studiare sistematicamente l’instradamento tra capacità diverse, costruiamo innanzitutto una matrice di traiettorie omnimodali che copre 25 benchmark relativi alla comprensione del linguaggio, alla generazione di immagini, video e parlato, agli agenti per la programmazione e il lavoro d’ufficio e alla manipolazione robotica, per un totale di 374.401 esecuzioni valutate con 452 configurazioni candidate. Sulla base di questo framework, addestriamo e testiamo diversi router per studiare il potenziale dell’instradamento omnimodale dei modelli, le capacità dei router appresi e le condizioni in cui l’instradamento migliora l’efficienza. I nostri risultati rivelano notevoli opportunità per l’orchestrazione delle capacità: l’instradamento oracle per ciascun input supera di 5,4 punti il miglior candidato fisso, mentre i router appresi lo superano di 0,3 punti su 16 benchmark, di 2,1 punti nella generazione di video e di 1,1 punti nella manipolazione robotica, usando il 24% in meno di tempo per le policy. Ancora più importante, rispetto al modello di riferimento, l’instradamento aumenta in media l’efficienza di 8,82 volte.