Vai al contenuto
AI.info

The Pulse

DeepMind usa l’IA per verificare proprietà fondamentali del codice del protocollo Signal

I ricercatori di Google DeepMind hanno usato agenti di IA e specifiche sottoposte a revisione umana per verificare le proprietà di sicurezza del codice compilato del protocollo Signal. Le dimostrazioni riguardano le sessioni individuali, ma presentano limiti, anche per quanto riguarda le affermazioni sugli attaccanti quantistici.

DeepMind usa l’IA per verificare proprietà fondamentali del codice del protocollo Signal

Agenti di IA che lavorano con ricercatori umani hanno verificato formalmente proprietà fondamentali di sicurezza del codice compilato che implementa il protocollo di messaggistica Signal. In un paper pubblicato il 10 novembre, ricercatori di Google DeepMind e Google affermano che le dimostrazioni sono le prime a collegare le garanzie di sicurezza a livello di protocollo al codice non modificato di un’implementazione ampiamente utilizzata di un protocollo crittografico.

I ricercatori hanno usato un framework chiamato AlphaProof Code per verificare libsignal, l’implementazione di riferimento del protocollo, generando circa 6,5 milioni di righe di codice di dimostrazione in linguaggio Lean, verificate automaticamente. Il team afferma che le dimostrazioni riguardano proprietà tra cui la forward secrecy, l’autenticazione, la sicurezza dopo una compromissione e la segretezza dell’handshake.

Che cosa coprono le dimostrazioni

Il programma verificato era un eseguibile AArch64 compilato a partire dal codice non modificato di libsignal v0.105.4 e SPQR. Il lavoro riguarda le sessioni individuali; la messaggistica di gruppo è lasciata a lavori futuri.

Varianti del protocollo Signal sono usate nell’app Signal, in WhatsApp, in Messenger di Meta e in Google Messages. Le dimostrazioni coprono l’handshake PQXDH e Triple Ratchet del protocollo, componenti progettati per proteggere i messaggi anche quando alcune chiavi sono compromesse.

I ricercatori hanno esaminato il codice macchina compilato, anziché limitare l’analisi a una progettazione astratta del protocollo. Affermano che le dimostrazioni stabiliscono proprietà di sicurezza direttamente per il binario compilato contro attaccanti classici e la segretezza dell’handshake contro un futuro attaccante quantistico in un modello simbolico.

Gli esseri umani definiscono le specifiche

AlphaProof Code combina un agente guidato da esseri umani che scrive le specifiche con agenti autonomi che producono dimostrazioni. Una specifica definisce le proprietà da dimostrare e le ipotesi sulle modalità di esecuzione del codice; i ricercatori la esaminano e la approvano prima che inizi il lavoro di dimostrazione.

Un sistema di controllo accetta una dimostrazione solo se il sistema di verifica di Lean la convalida e un confronto separato conferma che dimostra la specifica approvata. Per questo progetto, i ricercatori umani hanno scelto l’ambito e i modelli di riferimento, guidato la strategia di dimostrazione ed esaminato i problemi emersi durante il lavoro.

I ricercatori affermano di non aver scritto personalmente le dimostrazioni. Google DeepMind afferma che gli agenti che le hanno generate erano basati su Gemini Carbon. Il paper riferisce che un team di cinque persone ha svolto il lavoro di dimostrazione in quattro settimane, eseguendo gli agenti sulle proprie workstation.

Mettere alla prova i limiti

Per verificare se le specifiche fossero in grado di individuare errori reali, i ricercatori affermano di aver reintrodotto due bug di libsignal corretti in precedenza. Secondo il paper, i binari risultanti violavano i teoremi di sicurezza simbolica.

In uno dei bug, un messaggio prekey che veniva decifrato solo nell’ambito di una sessione archiviata induceva libsignal a memorizzare lo stato della nuova sessione, compresa una copia di un segreto. Gli autori riferiscono che il bug reintrodotto ha fatto sì che il binario risultante violasse il loro teorema di sicurezza simbolica.

I ricercatori hanno usato modelli di sicurezza sia simbolici sia computazionali. Il modello simbolico tratta le primitive crittografiche come componenti astratti con proprietà di sicurezza standard; il modello computazionale, invece, pone un limite alla probabilità di successo di un attaccante in relazione alla difficoltà di violare tali primitive.

I limiti del risultato

Le dimostrazioni si basano su alcune ipotesi, tra cui l’affidabilità del sistema di verifica di Lean, la sicurezza delle primitive crittografiche e i contratti relativi ad alcune routine richiamate dall’eseguibile. Anche la specifica stessa richiede una revisione: il paper osserva che un suo difetto potrebbe indebolire la garanzia fornita da un teorema.

La dimostrazione computazionale non offre alcuna garanzia contro un attaccante quantistico, sebbene la dimostrazione simbolica copra parte di questa lacuna. Nessuna delle due dimostrazioni stabilisce il ripristino post-quantistico che SPQR è progettato per fornire, affermano gli autori. Il modello computazionale esclude inoltre lo stato su più dispositivi e usa lunghezze fisse per i messaggi.

I ricercatori osservano che le specifiche per sistemi ampiamente diffusi dovranno essere sottoposte a revisione aperta e perfezionate dalle comunità che li mantengono e vi fanno affidamento. Per questo processo, stanno rendendo open source le specifiche e le dimostrazioni in Lean.

Fonti

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli