Le truffe telefoniche e online rappresentano più della metà dei reati denunciati a Singapore, con perdite superiori a 4 miliardi di dollari singaporiani dal 2019. I criminali hanno evoluto le proprie tecniche, passando dal semplice phishing a sofisticate operazioni di ingegneria sociale, in cui conversazioni convincenti portano le vittime a cedere denaro o dati sensibili. Oggi tali frodi costituiscono circa l’80 % delle perdite totali.
Una partnership nazionale per la sicurezza digitale
Per contrastare questa tendenza, Google DeepMind e il Government Technology Agency di Singapore (GovTech) hanno avviato, nell’ambito del National AI Partnership, la creazione di un modello di intelligenza artificiale progettato per la rilevazione delle truffe senza compromettere la privacy. L’obiettivo è portare una protezione avanzata direttamente sui dispositivi degli utenti, eliminando la necessità di scansionare i messaggi su server remoti.
Fine‑tuning su dati locali
I modelli generici spesso faticano a riconoscere le tecniche di inganno tipiche di una specifica regione. Per superare questo limite, Google ha utilizzato la versione leggera del modello Gemma, addestrandola su conversazioni di truffa raccolte in Singapore. I dati di addestramento includono imitazioni di enti pubblici, banche, personaggi locali e schemi emergenti nella regione, consentendo al modello di distinguere tra chiacchiere innocue e manipolazioni fraudolente.
Elaborazione on‑device e tutela della privacy
A differenza dei tradizionali sistemi di rilevamento, che richiedono l’invio dei contenuti al cloud, il nuovo modello analizza i messaggi direttamente sullo smartphone. Quando un’applicazione integra il modello, le conversazioni vengono valutate in tempo reale e, se viene identificato un pattern manipolativo, l’utente riceve un avviso immediato.
Il modello accede ai dati solo con il consenso esplicito dell’utente e, essendo eseguito esclusivamente sul dispositivo, né Google né il governo di Singapore possono leggere o archiviare le conversazioni. Questa architettura garantisce il rispetto dei principi di crittografia end‑to‑end e della normativa locale sulla protezione dei dati.
Fasi di rollout e governance
Il rilascio del modello nelle applicazioni sarà effettuato in modo graduale, in stretta collaborazione con le autorità singaporiane. Ogni fase prevede test di sicurezza, valutazioni di impatto sulla batteria e monitoraggio delle performance, per assicurare che l’esperienza utente non sia compromessa.
Durante lo sviluppo, è stata mantenuta una rigorosa governance: i team di DeepMind e GovTech hanno operato sotto protocolli di revisione indipendente, con audit periodici per verificare la correttezza del modello e la sua conformità alle normative sulla privacy.
Efficienza energetica e architettura a due stadi
Eseguire un classificatore complesso su smartphone moderni è una sfida, soprattutto per quanto riguarda l’autonomia della batteria. Per affrontare il problema, il progetto ha adottato una pipeline a due stadi:
- Stadio preliminare: un filtro leggero analizza rapidamente i messaggi per identificare potenziali segnali di truffa.
- Stadio avanzato: soltanto i messaggi sospetti vengono inviati a un classificatore più sofisticato, ottimizzato per un consumo ridotto di energia.
Questa strategia consente di bilanciare precisione e efficienza, riducendo al minimo l’impatto sul dispositivo.
Presentazione a Singapore International Cyber Week 2026
Il progetto è stato presentato al Singapore International Cyber Week 2026, dove è stato evidenziato come un modello on‑device possa offrire una protezione efficace contro le truffe mantenendo le comunicazioni private. Gli esperti hanno sottolineato l’importanza di combinare sicurezza avanzata e rispetto della crittografia per costruire fiducia nei servizi digitali.
Prospettive future e diffusione internazionale
Il successo di questa iniziativa dimostra che l’intelligenza artificiale può contrastare la criminalità digitale senza sacrificare la privacy. Google DeepMind e GovTech hanno dichiarato l’intenzione di continuare a migliorare il modello, ampliando il set di dati di addestramento e ottimizzando ulteriormente le performance su dispositivi di diverse fasce di prezzo.
In futuro, le autorità di altri Paesi potrebbero adottare un approccio simile, collaborando con fornitori di IA per creare soluzioni su misura che rispettino le normative locali e le esigenze dei cittadini. Il progetto di Singapore rappresenta quindi un modello di riferimento per l’uso responsabile dell’IA al servizio della sicurezza pubblica.