PRISM: progettazione di topologie multiagente guidata da grafi gemelli con informazioni privilegiate

Abstract degli autori

I sistemi multiagente (MAS) basati su modelli linguistici di grandi dimensioni (LLM) sono diventati uno strumento potente per affrontare problemi complessi. La loro efficacia dipende in modo decisivo dalla topologia di collaborazione, che determina quali agenti partecipano e come comunicano. Studi recenti addestrano un generatore a produrre questa topologia a partire dalla richiesta relativa al compito, usando corpora di grafi la cui riuscita è stata verificata mediante esecuzione. Il metodo di addestramento successivo per questi generatori resta però un limite: un corpus elenca i grafi che hanno risolto una richiesta, ma non li classifica, perciò il successivo fine-tuning supervisionato (SFT) non ha preferenze specifiche per ciascuna richiesta da sfruttare. Senza tali preferenze, il generatore tende a privilegiare le topologie più frequenti nel corpus anziché quelle adatte a ciascuna richiesta: un miglioramento in un compito può quindi andare a scapito di un altro. Proponiamo PRISM, che ricava dallo stesso corpus un segnale specifico per ciascuna richiesta mediante un apprendimento con informazioni privilegiate: un modello insegnante legge, attraverso un ramo a basso rango inizializzato a zero, un grafo gemello che ha anch’esso risolto la richiesta ma non è disponibile al momento dell’impiego; il modello studente apprende a riprodurne gli obiettivi per ciascuna decisione su traiettorie che campiona esso stesso. Su sei benchmark diversi, PRISM supera tutti i metodi di riferimento valutati per la progettazione delle topologie, e i controlli con modelli insegnanti abbinati corroborano il contributo delle informazioni privilegiate specifiche della richiesta. Il codice è disponibile a questo link.