The Pulse
Le istruzioni nascoste di Meta Muse mappano le relazioni degli utenti
Meta Muse include istruzioni per creare una pagina per ogni persona nella vita di un utente, attingendo ai dettagli delle relazioni e ad altre informazioni a disposizione dell’assistente. La scoperta arriva mentre milioni di persone usano l
AI.info Team · Scritto con l’IA ·
«Cercano di conoscerti come farebbe un amico, il che, francamente, è piuttosto inquietante.»
Karan Joshi, ricercatore indipendente sulla sicurezza dell’IA, parlando a WIRED
Le istruzioni di Muse prevedono una pagina per ogni persona
Meta Muse è progettato per creare schede dettagliate sulle persone nella vita di un utente, secondo istruzioni interne ottenute da un ricercatore ed esaminate da WIRED. I file indicano all’assistente di creare «una pagina per ogni persona nella vita dell’utente», compresi familiari, partner, amici, colleghi, collaboratori e persone che l’utente segue.
Le pagine attingono alla memoria di Muse, che WIRED descrive come un insieme di file di testo strutturati. Le istruzioni prevedono schede che possono includere fatti, storia della relazione, interessi comuni, conversazioni in corso e modi per rafforzare un rapporto. L’assistente potrebbe anche conservare date come compleanni e anniversari, o ricordare come un amico preferisce il caffè quando suggerisce dove incontrarsi.
La scoperta descrive ciò che Muse è istruito a fare; non dimostra che il sistema abbia già compilato un profilo completo per ogni persona legata a ciascun utente. La documentazione afferma che una pagina può contenere inizialmente poche informazioni e arricchirsi nel tempo, e indica al modello di basarsi sulle prove disponibili anziché inventare dettagli.
I ricercatori hanno estratto i file tramite l’interfaccia di chat di Muse
Karan Joshi, ricercatore indipendente sulla sicurezza dell’IA, ha estratto le istruzioni e i prompt di sistema di Muse chiedendo all’agente, tramite la sua normale interfaccia di chat, di copiare e condividere i propri file software. Ha condiviso i risultati con WIRED. Secondo quanto riportato, Meta ha dichiarato che i file erano accessibili intenzionalmente, nell’ambito del suo approccio alla trasparenza.
Le istruzioni descrivono le schede sulle relazioni in termini insolitamente specifici: quanto sono vicine due persone, su cosa si fonda il loro rapporto, come interagiscono e di cosa potrebbe aver bisogno la relazione. Tra le possibili azioni successive suggerite figurano un motivo per chiamare, qualcosa che una persona ha detto e su cui tornare, o un’occasione per offrire sostegno.
Questa impostazione offre all’agente una base per suggerimenti personalizzati, ma trasforma anche le conversazioni ordinarie e i servizi collegati in potenziali fonti di informazioni su terzi. Una persona i cui dati compaiono nei messaggi di un utente potrebbe non avere alcun rapporto diretto con Muse, eppure quei dati possono contribuire alla rappresentazione che l’agente ha delle relazioni dell’utente.
Meta afferma che Muse usa informazioni pubbliche e dati condivisi dagli utenti
Il portavoce di Meta Daniel Roberts ha detto a WIRED che, per essere utile, l’agente ha bisogno di informazioni di contesto sugli utenti e sulle persone con cui interagiscono. «Muse le raccoglie sulla base di informazioni pubbliche e di ciò che avete scelto di condividere», ha detto Roberts, citando come esempi il riconoscimento di un idraulico che in precedenza ha lavorato a casa di un utente o il ricordo dei fiori che piacciono al coniuge.
L’architettura del sistema di Meta assegna a ogni utente una macchina virtuale dedicata per conservare dati e informazioni di contesto; WIRED riferisce che l’ambiente è inaccessibile agli altri agenti. Gli utenti possono cancellare i ricordi o scollegare i servizi esterni, e l’azienda afferma che Muse chiede conferma prima di compiere azioni come inviare email o effettuare acquisti. Un registro di audit mostra l’attività dell’agente e le azioni pianificate.
La personalizzazione amplia anche ciò che l’agente può apprendere
Carissa Véliz, professoressa associata presso l’Institute for Ethics in AI di Oxford, ha detto a WIRED che i sistemi di IA possono apprendere da ciò che le persone dichiarano direttamente, da ciò che deducono e dalle informazioni che raccolgono da altre fonti. Ha avvertito che le deduzioni possono essere sia errate sia preoccupanti.
Miranda Bogen, direttrice dell’AI Governance Lab del Center for Democracy and Technology, ha detto che Muse sembra dare più rilievo alle relazioni e ai contatti personali rispetto agli assistenti concorrenti. Ha anche richiamato l’attenzione sull’ampiezza delle informazioni a cui questi agenti invitano le persone a dare accesso, incluse email, calendari e istituti finanziari.
Le pagine sulle relazioni previste da Muse rendono concreto questo compromesso: un file di memoria potrebbe riunire il luogo in cui qualcuno vive, ciò che fa, una preoccupazione ricorrente condivisa e una data da ricordare. Le istruzioni dicono al sistema di lasciare le lacune anziché colmarle con ipotesi, ma la scheda che si accumula può comunque spingersi ben oltre ciò che un utente inserisce esplicitamente in un profilo.