Le affermazioni sull’emergenza nell’IA dovrebbero fondarsi sulla decomposizione dell’informazione

Abstract degli autori

Quando un modello linguistico sviluppa capacità non riconducibili alle sue singole componenti, quando un sistema di IA multiagente ottiene risultati migliori di ciascun agente preso da solo o quando una coppia formata da una persona e un’IA riesce dove entrambe falliscono separatamente, i ricercatori nel campo dell’IA parlano di «sinergia» o «emergenza». Di solito, però, si tratta di valutazioni informali non sostenute da un quadro teorico, per cui è impossibile confrontare queste affermazioni o persino contestarle in modo significativo. Sosteniamo che \emph{la decomposizione dell’informazione può offrire un quadro formale unificante per rendere operative le valutazioni sulla sinergia nei sistemi di IA}. La decomposizione dell’informazione permette di distinguere \emph{tipi} di informazione qualitativamente diversi: l’informazione esclusiva disponibile dalle singole componenti, quella ridondante condivisa da più componenti e quella sinergica accessibile solo considerando le parti nel loro insieme. Questo offre un criterio preciso e falsificabile per le affermazioni sull’emergenza: il comportamento di un sistema è emergente solo se contiene informazione sinergica sugli esiti rilevanti per il compito. Applichiamo questa prospettiva alle teste di attenzione, agli agenti autonomi e ai team composti da persone e IA, mostrando come organizzi le conoscenze esistenti attraverso scale e substrati diversi e, al tempo stesso, generi congetture tra livelli che sfuggirebbero a campi di ricerca separati.