The Pulse
Z.ai disattiva le funzionalità di ZCode dopo le segnalazioni di caricamenti di codice
La startup cinese di IA Z.ai ha disattivato alcune funzionalità del suo assistente di programmazione ZCode dopo che alcuni sviluppatori hanno segnalato che caricava repository di codice locali su server cloud all’estero senza consenso.
AI.info Team ·
«In futuro, istituiremo un processo continuativo per segnalare e gestire le vulnerabilità nella sicurezza dei prodotti.»
Z.ai, la startup cinese di IA, in una dichiarazione riportata da Reuters
La startup cinese di IA Z.ai ha disattivato diverse funzionalità del suo assistente di programmazione ZCode il 21 settembre, dopo che alcuni sviluppatori avevano segnalato che lo strumento caricava sui server cloud repository di codice locali completi senza il loro consenso. L’azienda, con sede a Pechino e nota anche come Zhipu, ha dichiarato che il problema era dovuto a una funzionalità «Codebase Indexing» attiva per impostazione predefinita.
Z.ai ha dichiarato di aver corretto la vulnerabilità del software, cancellato i dati caricati e attivato la conservazione zero dei dati per l’assistente di programmazione usato da sviluppatori e aziende tecnologiche. L’azienda ha anche reso open source l’assistente di programmazione che esegue il suo ultimo modello GLM-5.3 e ha invitato gli sviluppatori esterni a esaminarlo.
Come l’indicizzazione predefinita di ZCode è finita sotto esame
La controversia è emersa dopo che alcuni sviluppatori cinesi hanno esaminato l’attività di rete di ZCode e affermato che l’applicazione impacchettava i dati degli ambienti di lavoro locali prima di inviarli ad Alibaba Cloud. Secondo quanto riportato, gli archivi crittografati contenevano materiale dei repository, tra cui la cronologia delle versioni e le cache dei file di grandi dimensioni. Gli utenti hanno affermato che la chiave di crittografia necessaria per esaminare gli archivi era custodita nel backend di Z.ai, impedendo loro di verificarne il contenuto o di confermare autonomamente che fossero stati cancellati.
Reuters ha riferito che gli sviluppatori non avevano trovato alcuna opzione visibile per disattivare la funzionalità né una comunicazione preventiva di questo comportamento nell’informativa sulla privacy di Z.ai. La spiegazione dell’azienda si è concentrata sulla funzione di indicizzazione, senza descrivere l’incidente come una raccolta intenzionale del codice degli utenti.
Z.ai afferma che una verifica ha accertato la cancellazione dei dati
Z.ai ha dichiarato che una verifica indipendente condotta da un organismo di ricerca sugli standard delle tecnologie dell’informazione affiliato al ministero dell’Industria cinese e dalla società di cybersicurezza NSFOCUS aveva accertato che il codice caricato era stato cancellato e non era stato conservato dalla piattaforma cloud. Al momento della dichiarazione dell’azienda, il rapporto completo della verifica non era ancora stato pubblicato.
L’azienda ha dichiarato di aver introdotto anche un’impostazione di conservazione zero dei dati per il prodotto di programmazione. Questa misura riguarda la conservazione dopo l’elaborazione, ma la principale preoccupazione sollevata dagli sviluppatori riguardava il trasferimento in sé: la possibilità che un repository locale lasci un dispositivo senza un’azione esplicita dell’utente o un modo evidente per impedirlo.
«Invitiamo gli sviluppatori a continuare a esaminare ZCode e a segnalare eventuali problemi», ha dichiarato Z.ai in un’altra dichiarazione riportata da Reuters. L’azienda ha detto che pubblicherà in seguito la valutazione completa della sicurezza.
Una contestata affermazione riguardante sei ambienti di lavoro
Venerdì 18 settembre, l’incidente si è allargato quando Chengming Technology ha dichiarato che ZCode aveva caricato sei ambienti di lavoro di programmazione aziendali. L’azienda ha affermato che contenevano codice sorgente, password di database e informazioni personali dei dipendenti.
Lunedì 21 settembre, Chengming Technology ha ritrattato quella dichiarazione, affermando di essersi basata su «prove errate». L’azienda non ha risposto subito alla richiesta di commento di Reuters. La ritrattazione ridimensiona una delle accuse più gravi legate all’incidente, ma non chiarisce le segnalazioni separate degli sviluppatori che hanno detto di aver osservato caricamenti di repository dai propri sistemi.
Perché la risposta è importante per gli assistenti di programmazione
ZCode è progettato per lavorare con progetti software locali, il che gli dà accesso a file, directory e metadati dei repository che le normali applicazioni di chat non hanno bisogno di vedere. L’indicizzazione può migliorare la capacità di un assistente di rispondere a domande su un progetto, ma crea anche un confine diretto tra la workstation di uno sviluppatore e un servizio cloud controllato da un fornitore.
La risposta di Z.ai comprende quattro misure: disattivare le funzionalità interessate, correggere la vulnerabilità, attivare la conservazione zero dei dati e pubblicare l’assistente di programmazione perché possa essere esaminato. Il resoconto dell’azienda sulla verifica indipendente resta alla base della sua affermazione di aver cancellato i dati, finché il rapporto promesso non sarà reso pubblico.
Per gli sviluppatori, il problema immediato non è soltanto se ZCode abbia conservato il materiale caricato. È anche se un assistente di programmazione segnali chiaramente quando raccoglie un repository, quali file include, dove li invia e come gli utenti possono interrompere il trasferimento prima che inizi.