The Pulse
Google DeepMind e Singapore sviluppano un modello per rilevare le truffe direttamente sui dispositivi
Google DeepMind e la Government Technology Agency di Singapore hanno sottoposto a fine-tuning un modello Gemma progettato per rilevare le conversazioni legate alle truffe sui dispositivi. L’integrazione nelle applicazioni è prevista per fas
AI.info Team · Scritto con l’IA ·
Google DeepMind e la Government Technology Agency di Singapore, o GovTech, hanno sottoposto a fine-tuning un modello Gemma per rilevare le conversazioni legate alle truffe sui dispositivi degli utenti. Secondo i due partner, il sistema può segnalare i messaggi sospetti senza esporre le chat private ai server cloud. DeepMind ha annunciato la collaborazione il 14 ottobre 2026 e ha dichiarato che il progetto è stato presentato alla Singapore International Cyber Week 2026.
Gemma esamina le conversazioni sospette sul telefono
Il sistema prevede due fasi per limitare il carico di lavoro dello smartphone. Un classificatore leggero esamina prima i messaggi in arrivo alla ricerca di possibili minacce; solo quelli che segnala passano al modello Gemma sottoposto a fine-tuning, che analizza più ampiamente il contesto della conversazione. Secondo DeepMind, questo secondo controllo può confermare una truffa o escludere un falso allarme.
Se il modello rileva schemi di manipolazione, può mostrare sul dispositivo un avviso che invita l’utente a fermarsi prima di inviare denaro o condividere informazioni sensibili. DeepMind afferma che il modello è stato addestrato a riconoscere tattiche locali, tra cui chi si spaccia per istituzioni pubbliche, banche e personalità locali, oltre a schemi di truffa regionali. L’azienda descrive l’obiettivo come quello di distinguere le normali conversazioni dai tentativi di manipolare una vittima.
«Combattere le truffe non dovrebbe significare sacrificare la privacy personale. Collaborando con Google DeepMind, portiamo una protezione avanzata basata sull’IA direttamente sui dispositivi dei cittadini. Questo ci permette di individuare in tempo reale tentativi di truffa locali e altamente mirati, mantenendo private le comunicazioni personali.»
Mark Chen, direttore della fiducia e della sicurezza, GovTech Singapore
I messaggi privati restano sul dispositivo
Eseguire l’analisi in locale affronta un problema dei servizi che usano la crittografia end-to-end: i messaggi non sono disponibili per la scansione convenzionale sui server. DeepMind afferma che il modello elaborerà i dati delle conversazioni sul dispositivo e che né il governo di Singapore né Google potranno accedere alle conversazioni degli utenti tramite la sua implementazione. Il modello accederà alle conversazioni presenti sul dispositivo solo con il consenso dell’utente e secondo le condizioni dell’applicazione che lo integra.
Questa condizione sul consenso rende centrale il ruolo dell’applicazione. L’annuncio non indica un servizio di messaggistica o un’app che userà il modello, né fornisce una data di rilascio pubblico. DeepMind afferma invece che l’integrazione nelle applicazioni avverrà per fasi e sarà sviluppata con il governo di Singapore.
I dettagli sui dati di addestramento e sulle prestazioni restano limitati
DeepMind afferma che il fine-tuning è stato effettuato in un ambiente Google Cloud gestito da GovTech, che definisce «Sovereign Sandbox». L’azienda dichiara che l’addestramento ha escluso dati privati e dati dei cittadini che consentono l’identificazione personale, utilizzando dataset anonimizzati derivati da segnalazioni di truffe e flussi informativi di intelligence. Aggiunge che il modello è stato testato con conversazioni sintetiche e dataset locali relativi a diverse categorie di truffe.
L’annuncio non fornisce risultati sull’accuratezza del rilevamento, né il tasso di falsi positivi, le dimensioni del modello o misurazioni del consumo della batteria. Questi dettagli aiuterebbero gli utenti e i potenziali partner che sviluppano app a valutare come funziona il sistema nella pratica, soprattutto quando le tattiche dei truffatori cambiano o le conversazioni includono discussioni innocue su denaro e informazioni personali.
I dati sulle truffe a Singapore inquadrano il progetto
DeepMind afferma che le truffe rappresentano più della metà dei reati denunciati a Singapore e che dal 2019 hanno causato perdite per oltre 4 miliardi di dollari di Singapore. Afferma inoltre che le truffe basate sull’ingegneria sociale, nelle quali gli autori conquistano la fiducia delle vittime attraverso conversazioni convincenti prima di chiedere denaro, rappresentano fino all’80% delle perdite.
Il prossimo passo concreto della collaborazione è l’integrazione nelle applicazioni, ma l’annuncio non indica alcuna app partecipante né una tempistica. Per ora descrive un modello di rilevamento che elabora i dati in locale, un sistema di controllo in due fasi e una distribuzione graduale da sviluppare con il governo di Singapore.