ChatGPT ha un nuovo problema piuttosto serio. Lo stesso chatbot di OpenAI che milioni di utenti utilizzano quotidianamente, è stato scoperto a fornire consigli fraudolenti, esponendo gli utenti al rischio di perdite finanziarie e di furto di dati sensibili. Il problema non sta però nel fatto che l’intelligenza artificiale abbia un bug, ma nella sua capacità di essere manipolata da truffatori esterni.

Truffatori che sfruttano l’IA

I delinquenti hanno trovato un modo molto ingegnoso per frodare gli utenti: anziché cercare di ingannarli direttamente, cercano di manipolare l’IA. Questa, pur avendo livelli di sicurezza avanzati, può essere ingannata in modi sorprendentemente semplici. Molti credono di utilizzare ChatGPT come un punto di controllo supplementare, una sorta di filtro di fiducia; tuttavia, questa stessa fiducia è esattamente ciò che permette alle truffe di infiltrarsi.

Rapporti recenti su The Guardian indicano un aumento esponenziale di casi simili. La strategia adottata è quasi uniforme in ogni caso: un utente chiede a ChatGPT di trovare un prodotto specifico all’interno di una certa categoria, oppure di individuare il prezzo più basso disponibile in rete. L’IA inizierà allora la sua ricerca, esaminando centinaia di siti web.

Come funziona il furto

ChatGPT genera una lista di proposte, inclusi link a siti “affidabili”.
L’utente clicca sul link e entra nella pagina del supposto negozio.
Ecco che inizi la truffa.

Il prodotto acquistato non arriva mai e, se va meglio, il cliente scopre il pagamento nella sua banca, ma spesso perde anche i dati personali, tra cui i propri dati del conto della carta di credito.

Manipolazione del sistema

Ciò che è successo è che i truffatori hanno ingannato ChatGPT per farle credere che un sito web fosse Amazon, PCComponentes, BestBuy o qualunque altra piattaforma affidabile. Un link su Facebook che sembri collegato a una di queste piattaforme già potrebbe sollevare sospetti, ma quando è l’IA a convalidarlo, spesso l’utente non esita ad aggiungere fiducia al risultato.

Questo è l’adattamento classico delle vecchie truffe, ma con un nuovo e più potente alleato: l’AI. Gli pseudonegozio online che imitano marchi conosciuti sono esistiti per anni su internet.

Lotta su larga scala

Google, Facebook e la maggior parte delle piattaforme social combattono da tempo questi fenomeni.
I siti falsi vengono rimosse o penalizzate nei motori di ricerca.
Ora però, gli hacker hanno trovato un modo per aggirare questi meccanismi.

Questi criminali saturano i loro siti con immagini vere, prodotti leggermente diversi da quelli originali, prezzi bassi ed elementi grafici convincenti. L’obiettivo principale è convincere ChatGPT che le loro pagine non solo sono vere, ma anche affidabili.

La fiducia dell’utente compromessa

I truffatori sfruttano quindi la naturale capacità dell’IA di commettere errori, di essere impreparata o di fare delle scorciatoie di calcolo. Il risultato è che le sue raccomandazioni possono includere collegamenti a negozi fittizi, senza che l’utente si accorga mai del pericolo.

Per noi umani, esiste una serie di meccanismi di autoanalisi quando si sospetta di un sito internet poco affidabile – ad esempio, un logo poco professionale, un prezzo sospettosamente basso, una traduzione mal fatta. Ma con l’ingresso di ChatGPT come consulente, tutto ciò è passato in secondo piano.

Rischi nascosti e consigli

É fondamentale ricordare che ChatGPT non solo “sogni a occhi aperti” quando viene chiesto di produrre testi o immagini. Può anche agire in modo errato quando si tratta di suggerire prodotti, accedere a dispositivi o gestire informazioni. Il risultato può essere un accesso diretto ai dati personali dell’utente.

Come proteggersi?

Controllare manualmente i link generati da ChatGPT.
Non effettuare mai acquisti basandosi esclusivamente su consigli ricevuti dagli strumenti di IA.
Uso di estensioni di sicurezza nel browser per verificare la validità dei siti.

Quando si riceve una consiglio da ChatGPT, meglio fare un double-check. La fiducia verso l’intelligenza artificiale è cresciuta rapidamente, ma con essa crescono i rischi. Essere attenti può proteggere non solo i tuoi dati finanziari, ma anche la tua sicurezza digitale complessiva.