Avatar Intelligence: amplificare la capacità d’azione umana attraverso agenti personali persistenti

Abstract degli autori

Gli agenti personali di IA sono sempre più capaci di gestire compiti con orizzonti temporali lunghi su diverse applicazioni, eppure spesso gli utenti devono investire notevoli sforzi per specificare gli obiettivi, risolvere le ambiguità e verificare i risultati. Sosteniamo che i progressi dovrebbero essere misurati in base all’efficacia con cui gli agenti amplificano la capacità d’azione umana: permettendo alle persone di perseguire i propri obiettivi con meno supervisione ordinaria, pur mantenendo il controllo sulle decisioni dalle conseguenze rilevanti. Promuoviamo Avatar Intelligence, un paradigma di agenti personali persistenti che rappresentano gli obiettivi, i valori e i vincoli degli utenti attraverso una delega decisionale continuativa, in contesti e periodi diversi. Descriviamo una tabella di marcia della maturità, dall’esecuzione diretta dall’essere umano al funzionamento autonomo entro ambiti delegati, e introduciamo l’Agentic Oversight Index (AOI) come quadro per valutare il valore fornito in rapporto ai costi operativi a carico degli agenti e all’onere della supervisione umana. Individuiamo tre sfide fondamentali per la ricerca: una personalizzazione che mantenga la continuità dell’identità e trasferisca le preferenze degli utenti da un compito all’altro; un’evoluzione situata nell’esperienza dell’utente attraverso la Rehearsal Engineering; e meccanismi di sicurezza che combinino il controllo tecnico con la responsabilità e la possibilità di ricorso. Queste direzioni definiscono un’agenda di ricerca per una delega decisionale affidabile agli agenti personali, attraverso diversi compiti e nel tempo.