La soglia di riflessività: una transizione di fase nella predizione performativa multiagente

Abstract degli autori

Molti sistemi di apprendimento sono performativi: una volta messi in uso, le loro predizioni modificano la distribuzione dei dati su cui vengono addestrati i modelli successivi. Nei contesti multiagente, questa retroazione passa attraverso una rete di agenti che apprendono e interagiscono; la stabilità dipende quindi non solo dall’intensità della performatività, ma anche da chi influenza chi. Studiamo il riaddestramento ripetuto nella predizione performativa multiagente e individuiamo una soglia spettrale che separa l’apprendimento stabile dagli ostacoli all’apprendimento nel caso peggiore. I lavori precedenti spesso riducono la retroazione tra agenti a una costante scalare di contrazione, perdendo così di vista la struttura della rete. Introduciamo invece la matrice di riflessività $Γ$, che registra quanto la messa in uso del modello di un agente possa spostare la risposta ottimale di un altro agente; la matrice è definita in base alle sensibilità dei gradienti e ai parametri di curvatura di ciascun agente. La soglia si trova nel punto in cui il raggio spettrale della matrice supera uno. Sotto la soglia, il riaddestramento ripetuto converge geometricamente a un unico equilibrio stabile rispetto alla performatività, con una perdita in eccesso cumulativa limitata uniformemente rispetto all’orizzonte temporale. Sopra la soglia, costruiamo istanze supercritiche con rumore in cui ogni algoritmo di apprendimento che dispone di informazioni locali subisce una perdita in eccesso cumulativa attesa che cresce linearmente per orizzonti temporali fino all’ordine di $1/(ρ(Γ)-1)$. Nel loro insieme, questi risultati caratterizzano il comportamento alla soglia mediante limiti superiori e inferiori e ritrovano, come caso particolare, la soglia scalare per un singolo agente individuata nei lavori precedenti.