Entro pochi giorni, Google e OpenAI hanno rispettivamente rivelato operazioni derivanti da fonti cinesi che utilizzano l’intelligenza artificiale generativa per frodi e manipolazione politica. Le minacce mirano specificamente alla infrastruttura e ai dibattiti politici statunitensi.
Il 12 giugno, Google ha presentato una causa al U.S. District Court for the Southern District of New York contro una presunta rete cinese di criminalità informatica, denominata "Outsider Enterprise", per l'uso della propria tecnologia KI Gemini in frodi finanziarie su massa.
Caso di Google e l'uso di Gemini
Secondo la querela, il gruppo sospetto ha prodotto 131 kit di software in grado di generare migliaia di sitoweb falsi che riproducono Google, YouTube, il Postal Service americano o il sistema di pedaggio newyorchese E-ZPass.
Secondo quanto riferito, nel mese di maggio il network avrebbe inviato 2,5 milioni di messaggi ad utenti Android. I messaggi contenevano link verso 9.000 siti falsi e più di un milione di indirizzi potenzialmente fraudolenti. La coordinazione delle attività avveniva tramite Telegram.
Collaborazione con FBI e operatori telefonici
E' la prima volta che Google collabora con il FBI e gli operatori telefonici come AT&T, T-Mobile e Verizon. Prado, General Counsel di Google, dichiara che il gruppo cerca un ordine restrittivo dal giudice che consenta a enti e forze investigative di inibire le operazioni del network con azioni congiunte come la sequestratione di dominio o la sospensione di account.
Impatto economico
Google non riuscite a quantificare precisamente il danno economico, ma stima che superi la soglia dei milioni di dollari. Sia Prado che il FBI osservano l'aumento esponenziale dell'uso dell’IA nelle frodi, con conseguente rischio di perdite di credibilità per il sistema informatico globale.
Bilancio delle frodi al FBI
Brett Leatherman, Assistant Director dell’abito cyber del FBI, ha dichiarato alla NY Times che i crinali sfruttano sempre più l'IA per creare attacchi convincenti e difficili da riconoscere. Per il 2025, le perdite causate dagli attacchi informatici sono attorno ai 21 miliardi di dollari, tra questi 893 milioni sono attribuibili alle frodi che coinvolgono l'IA.
OpenAI blocca due cluster legati alla Cina
Parallelamente, OpenAI ha rilasciato il Threat Report per giugno 2026, bloccando due cluster sospettati di origine cinese. Questi cluster mirano a manipolare la discussione politica americana riguardo alla tecnologia.
Cluster del primo cluster
Il primo cluster, denominato da OpenAI “Data Center Bandwagon”, genera commenti in inglese e crea fumetti o immagini modificate per sostenere l’idea che l’espansione dei centri di calcolo a base KI aumenti i costi dell’elettricità per le famiglie medie.
Secondo cluster e attività critiche
Il secondo cluster, intitolato “Tech and Tariffs”, ha prodotto cartoni animati mirati contro le politiche sulle tariffe di Trump e quelle del governo Usa sull’egemonia tecnologica. Le richieste esplicite ai modelli hanno escluso la rappresentazione di Xi Jinping o della Cina, mostrando esclusivamente Trump.
Risposta di OpenAI
Ben Nimmo, investigatore responsabile presso OpenAI, ha dichiarato ad Axios che tali operazioni di manipolazione di opinione hanno in realtà integrato un dibattito esistente per influenzarlo. Gli sforzi del PRC, stando alla scala di OpenAI, sono limitati a una diffusione modesta.
Strategia difensiva di OpenAI
La risposta di OpenAI includeva anche la denuncia di un presunto network associato a un ente cinese, che diffondeva messaggi falsi e minacce su chatbot, inclusa una richiesta di un sistema di vigilanza KI che monitora contenuti “dannosi” da parte di “persone-chiave”.
Sicurezza e responsabilità
Le azioni di Google e OpenAI sottolineano l'aumento dell'uso di mezzi informatici e artificiali in mancanza di risorse e di controllo da parte del governo e del mercato. Le aziende devono quindi adottare misure preventive e collaborazioni interne ed esterne per contenere il rischio di frodi informatiche.