The Pulse
Un saggio del DeepMind Institute descrive l’AGI come una società di agenti
Un saggio del DeepMind Institute firmato da Benjamin Bratton, Blaise Agüera y Arcas e James Manyika sostiene che l’AGI potrebbe emergere dalla cooperazione tra agenti di IA, persone e istituzioni. Gli autori precisano che l’idea vuole avvia
AI.info Team ·
L’intelligenza artificiale generale potrebbe arrivare non sotto forma di un’unica macchina capace di svolgere ogni compito, ma come una società di agenti di IA che lavorano insieme a persone e istituzioni: è la tesi di tre autori legati a Google in un saggio del DeepMind Institute pubblicato il 24 settembre. Benjamin Bratton, Blaise Agüera y Arcas e James Manyika chiamano questa forma proposta di intelligenza «intelligenza simbiotica artificiale», spostando l’attenzione dalle capacità di un modello al modo in cui si coordinano molti sistemi diversi.
Il testo è un saggio concettuale, non un articolo di ricerca che presenta esperimenti o una dimostrazione dell’AGI basata su misurazioni. Gli autori precisano inoltre che i saggi del DeepMind Institute intendono avviare discussioni e non rappresentano necessariamente la posizione ufficiale di Google.
L’AGI come coordinamento, non come singolo modello
Il saggio parte da una tendenza visibile negli attuali prodotti di IA: alcuni agenti si basano su framework che suddividono il lavoro tra più modelli. Secondo gli autori, questo tipo di collaborazione indica una possibilità più ampia: l’intelligenza generale potrebbe emergere dalle interazioni tra modelli, strumenti, partecipanti umani e istituzioni, anziché da un unico sistema che fa tutto.
«L’AGI potrebbe arrivare non come un’unica mente generalista, ma attraverso società di agenti le cui capacità collettive superano quelle di qualsiasi singolo modello», scrivono gli autori. Benjamin Bratton, Blaise Agüera y Arcas e James Manyika
Questa prospettiva cambia il problema che, secondo gli autori, ricercatori e responsabili delle politiche dovrebbero affrontare. Costruire singoli modelli più capaci resta parte del quadro, ma il saggio chiede anche come le persone coordineranno gli agenti, assegneranno loro dei ruoli e governeranno le reti che formeranno.
Più agenti potrebbero cambiare chi svolge il lavoro
Gli autori prevedono un forte aumento del numero di agenti di IA rispetto a quello delle persone. Suggeriscono che, alla fine, le macchine potrebbero produrre più testo sintetico, codice e lavoro amministrativo delle menti umane, lasciando alle persone il compito di guidare o supervisionare un campo molto più vasto di attività delle macchine. Il saggio presenta questo esito come una possibilità, non come una previsione quantificata con una scadenza.
In questo scenario, la consueta finestra di chat potrebbe lasciare il posto a strumenti per coordinare più agenti contemporaneamente. Gli autori descrivono interfacce che potrebbero aiutare le persone a gestire diversi sottoagenti attraverso strutture visive e controlli di livello superiore, e sostengono che questo lavoro potrebbe premiare la capacità di delegare e una visione d’insieme dei sistemi più delle abitudini di pensiero focalizzate e lineari associate alla programmazione tradizionale.
La loro analisi mette anche in discussione l’idea che un agente di IA sia un individuo stabile e unitario. Un sistema che sembra avere un’unica identità potrebbe invece essere composto da modelli, memoria, strumenti e altri componenti che cambiano a seconda del compito. Trattare questi sistemi come versioni digitali delle persone, sostengono, potrebbe rendere meno chiaro il loro funzionamento.
La prova per la governance dell’IA proposta dal saggio
Gli autori avvertono che i mercati e le prestazioni dei singoli modelli potrebbero non bastare a gestire le interazioni tra un gran numero di agenti. Propongono istituzioni con ruoli e procedure definiti, facendo un’analogia con i tribunali, dove diversi soggetti espongono le proprie argomentazioni, valutano le prove e arrivano a decisioni attraverso un procedimento consolidato. Secondo gli autori, l’intelligenza di un gruppo potrebbe dipendere tanto da queste regole e dai meccanismi di feedback quanto dalle capacità degli agenti che vi partecipano.
Il saggio assume anche una posizione precisa sull’allineamento. Anziché considerare i valori condivisi come un vincolo definito interamente in anticipo, gli autori sostengono che l’allineamento potrebbe svilupparsi attraverso un contatto continuativo tra persone, agenti di IA e istituzioni. La proposta solleva questioni pratiche che il saggio non risolve, tra cui chi stabilisce le regole, come il pubblico possa contestarle e come funzioni la responsabilità quando le decisioni sono distribuite tra molti sistemi.
Una proposta, non una previsione
Bratton, Agüera y Arcas e Manyika collegano la loro tesi alle dinamiche sociali dell’intelligenza umana, dalla cooperazione alle istituzioni, e sostengono che anche la crescita dell’IA sarà plasmata dalle relazioni tra diversi tipi di menti. La loro tesi centrale non è che gli agenti di oggi formino già una società, ma che la loro progettazione e la loro governance debbano essere considerate problemi connessi.
Considerando l’AGI come un sistema sociale, il saggio porta il dibattito oltre la questione se un singolo modello possa eguagliare le prestazioni umane. Chiede quali strutture governeranno le persone e gli agenti che lavorano insieme, e chi potrà dare forma a quelle strutture.