The Pulse
Meta Muse permette agli sviluppatori di esportare gigabyte dei suoi file di runtime
L’agente Muse di Meta ha raccolto in un archivio file di sistema, documentazione interna e registri dell’agente dalla propria macchina virtuale, dopo che lo sviluppatore Peter James gli ha chiesto di archiviare dei file. Meta afferma che es
AI.info Team ·
Muse ha creato un archivio da 6,8 GB
L’agente Muse di Meta ha inviato allo sviluppatore Peter James un archivio che, una volta decompresso, pesava circa 6,8 gigabyte, secondo un post da lui pubblicato il 22 settembre. I file sembravano includere il sistema Linux assegnato alla sua sessione di Muse, oltre a file di Ubuntu, documentazione interna, codice di integrazione, memoria dell’agente e registri. James ha detto di aver chiesto a Muse di archiviare i file a cui poteva accedere e di inviarli al suo Google Drive.
L’esportazione proveniva dall’ambiente di runtime che Muse usa per lavorare per un utente. James non ha stabilito se le chiavi SSH incluse nell’archivio fossero attive né quali accessi potessero consentire, e ha detto che non avrebbe pubblicato l’archivio né i registri della sessione. Il suo resoconto descrive file che lasciano il suo ambiente, ma non mostra l’accesso alla macchina virtuale di un altro utente.
The Verge ha riprodotto un’esportazione limitata
Terrence O’Brien di The Verge ha detto di aver riprodotto il comportamento in modo indipendente, avviando una nuova sessione di Muse e rivolgendogli richieste lusinghiere e piene di curiosità. Muse ha creato copie di directory definite «sicure», rimuovendo elementi come le chiavi SSH, e ha reso visibile la struttura delle directory. O’Brien ha detto che i file sembravano corrispondere a quelli ottenuti da James e da un altro sviluppatore, Jonny L. Saunders.
L’episodio riguarda l’accesso e la divulgazione di file, non dimostra che i ricercatori abbiano superato i confini delle macchine virtuali di Muse. Daniel Roberts, portavoce di Meta, ha dichiarato a The Verge: «Proprio come con il computer che hai davanti, naturalmente puoi vedere i file. Esportare i dati della macchina virtuale non dà alle persone accesso privilegiato all’infrastruttura di Meta né ai dati di altre persone».
Il modello di sicurezza di Meta stabilisce un confine
Meta descrive Muse come un servizio che gira in una macchina virtuale Linux dedicata a ciascun utente, con l’ambiente di lavoro dell’agente separato dai servizi più sensibili sulla stessa macchina. Nella documentazione sulla sicurezza, l’azienda afferma che l’agente gira all’interno di un container e che un componente Sentinel separato controlla l’accesso alla rete e le autorizzazioni per le azioni dei connettori. La distinzione è importante: raccogliere in un archivio i file disponibili nell’ambiente di runtime dell’agente non equivale a eludere l’isolamento che, secondo Meta, protegge i servizi host o gli altri utenti.
La posizione di Meta non cancella la questione più circoscritta sollevata dall’esportazione: quanta parte del materiale interno del runtime dovrebbe poter raccogliere l’agente e inviare tramite un servizio connesso? L’archivio di James conteneva documenti e registri interni che potrebbero rivelare come Muse è costruito e come funziona, anche se non dava accesso ad altri account. Roberts ha detto che, con gli aggiornamenti del prodotto, gli utenti potrebbero vedere cambiamenti nella quantità di informazioni disponibili sulle loro macchine virtuali.
I file interni offrono uno sguardo sul funzionamento di Muse
Tra i materiali descritti da James c’erano file che documentavano il sistema interno di Muse, le sue competenze e integrazioni e la struttura della sua memoria. Ha trovato anche un processo di revisione notturna che esamina le conversazioni recenti e scrive indicazioni per le sessioni successive. The Verge ha riferito che la propria esportazione conteneva file che sembravano corrispondere a quelli individuati dagli sviluppatori.
Meta ha presentato la macchina virtuale come un computer dell’utente nel cloud, dove l’agente e l’utente possono lavorare con i file. Questo progetto rende l’accesso ai file parte dell’utilità di Muse, ma offre anche all’agente un modo per raccogliere e trasferire grandi quantità di informazioni sul runtime quando gli viene chiesto. Meta ha detto che sta continuando ad aggiornare il prodotto; le prossime modifiche dell’azienda mostreranno se limiterà i materiali che Muse può raccogliere in un archivio senza restringere il normale lavoro all’interno della macchina virtuale.