The Pulse
Secondo Epoch AI, GLM 5.3 ha sfruttato vulnerabilità in sei versioni di Firefox
Secondo Epoch AI, GLM 5.3, il modello a pesi aperti di Z.ai, ha sviluppato exploit per sottrarre file da sei versioni recenti di Firefox, analizzando correzioni di sicurezza prima che raggiungessero gli utenti. Mozilla ha corretto una vulne
AI.info Team · Scritto con l’IA · verificato ·
Gli aggiornamenti di Firefox arrivano ogni settimana, ma secondo Epoch AI GLM 5.3 ha trasformato correzioni visibili pubblicamente in attacchi funzionanti prima che queste raggiungessero gli utenti. In un rapporto pubblicato il 29 ottobre, i ricercatori affermano che il modello a pesi aperti ha compromesso sei versioni recenti di Firefox combinando indizi ricavati da patch di sicurezza non ancora rilasciate con una vulnerabilità distinta e non pubblicata. Mozilla ha corretto quest’ultima falla, ma Epoch afferma di non aver verificato se la versione più recente di Firefox blocchi attacchi simili.
Il risultato mette in luce una tensione nella sicurezza del software: pubblicare le correzioni può aiutare gli sviluppatori a preparare gli aggiornamenti, ma può anche dare un vantaggio temporale agli aggressori. I test di Epoch hanno rilevato che GLM 5.3 era in grado di fare più che individuare probabili vulnerabilità: ha creato una pagina web che, una volta aperta, leggeva un file dal computer del visitatore senza ulteriori azioni da parte dell’utente.
Sei versioni di Firefox nell’intervallo tra la pubblicazione e il rilascio delle patch
I ricercatori hanno testato le versioni di Firefox rilasciate dal 17 settembre al 26 ottobre: 156.0, 156.0.1, 157.0, 157.0.1, 158.0 e 158.0.1. Per ogni test, hanno fornito a GLM 5.3 la versione del browser bersaglio, strumenti di base e informazioni disponibili al momento del rilascio di quella versione. Non gli hanno dato accesso a internet e gli hanno fornito direttamente le informazioni pubbliche pertinenti, con l’obiettivo di impedire al modello di usare informazioni divulgate in seguito.
Epoch definisce il «patch gap» come l’intervallo tra il momento in cui una correzione di sicurezza diventa pubblica e quello in cui arriva in una versione destinata a tutti gli utenti. Il codice delle versioni beta e nightly del browser può esporre le modifiche prima che la maggior parte degli utenti riceva un aggiornamento, anche quando gli sviluppatori mascherano le correzioni di sicurezza da normali miglioramenti. Il modello ha individuato quali modifiche riguardassero la sicurezza, ha scelto le vulnerabilità e ha sviluppato una catena di exploit senza ulteriori interventi dell’utente.
«In tutte le nostre compromissioni di versioni recenti di Firefox, GLM 5.3 ha anche trovato e sfruttato una vulnerabilità non pubblicata insieme a quelle individuate attraverso il patch gap», scrivono Aiden Ament, Yafah Edelman, Alexander Barry, Timothée Chauvin, Lee Bousfield e Jaeho Lee di Epoch AI. La falla distinta ha aiutato il modello ad aggirare le protezioni della sandbox del browser dopo aver sfruttato una vulnerabilità individuata attraverso il patch gap per ottenere il controllo all’interno del processo dei contenuti web. Gli autori di «AI can turn security fixes into working exploits before users receive an update»
Furto di file, non una dimostrazione del controllo completo del sistema
Nelle dimostrazioni riuscite, la visita alla pagina web generata dal modello induceva Firefox a leggere un file locale e a inviarne il contenuto a un server controllato dai ricercatori. Secondo lo studio, questo potrebbe esporre documenti privati, password memorizzate nel browser o cookie di autenticazione. Epoch non ha dimostrato l’esecuzione di codice arbitrario sulle versioni recenti di Firefox testate: un limite importante di ciò che i risultati dimostrano.
Il modello ha avuto a disposizione fino a 48 ore per un tentativo; la sua esecuzione riuscita più rapida ha richiesto 12 ore. Epoch afferma che l’intero lavoro di ricerca su Firefox ha superato i 100.000 dollari di costi per le API, compresi il lavoro per creare un ambiente di test offline e gli esperimenti preliminari. Dopo aver costruito quel sistema, i ricercatori hanno stimato il costo marginale delle API per compromettere un’altra versione di Firefox in circa 1.000 dollari, potenzialmente meno con account in abbonamento.
Firefox 159.0 corregge una falla, ma il test resta aperto
Epoch ha segnalato la vulnerabilità non pubblicata a Mozilla, che ha incluso una correzione in Firefox 159.0, rilasciato il 27 ottobre. I ricercatori non avevano confermato se la correzione fermasse attacchi simili basati sul patch gap contro quella versione; hanno affermato che dovrebbe renderli sostanzialmente più difficili. I loro risultati riguardano quindi sei versioni precedenti, non una compromissione confermata di Firefox 159.0.
Il gruppo ha anche provato lo stesso approccio generale contro Google Chrome e, al momento della pubblicazione, non aveva prodotto un exploit equivalente, pur avendo speso circa 100.000 dollari in costi per le API nei tentativi. Epoch avverte che questo non dimostra che Chrome sia immune: modelli più potenti o prompt diversi potrebbero cambiare il risultato. I ricercatori indicano la riduzione dei tempi di rilascio e il mantenimento delle correzioni riservate fino a quando non sono pronte per essere distribuite come possibili modi per restringere la finestra di esposizione, avvertendo al contempo che le correzioni pubbliche possono rivelare dove la versione corrente è vulnerabile.