Recentemente, i ricercatori della University of Toronto, guidati dal professore Nicolas Papernot, hanno creato un worm che utilizza gli agenti AI per identificare autonomamente le vulnerabilità nei sistemi informatici e replicarsi di conseguenza. La ricerca, realizzata per dimostrare i rischi connessi all'uso di agenti artificiali in contesti di sicurezza cibernetica, ha mostrato che è possibile sviluppare un malware ad alto livello di autonomia e potenzialmente molto dannoso.

Il worm sviluppato dalla University of Toronto non richiede intervento umano per funzionare. Usa modelli AI open source per generare codice dannoso e sfruttare le configurazioni errate dei dispositivi. Il sistema trova vulnerabilità esistenti, genera exploits, e riesce a infettare Windows, Linux, e una vasta gamma di dispositivi IOT (Internet of Things). Questi elementi lo rendono più flessibile rispetto agli strumenti tradizionali di attacco, come WannaCry, che colpì milioni di dispositivi nel 2017.

Agente AI e capacità di rilevamento

Gli agenti AI oggi sono in grado di analizzare grandi quantità di dati e trovare modelli non visibili all'uomo. I modelli avanzati, come Claude o Mythos, possono scansionare un software e individuare migliaia di potenziali vulnerabilità in pochi minuti. Combinando queste capacità con l'autonomia di un worm, i ricercatori hanno creato un malware che può propagarsi senza intervento. Il risultato è un meccanismo che si evolve in tempo reale e si adatta alle differenze di ambiente.

I ricercatori hanno effettuato esperimenti in un ambiente isolato, utilizzando due GPU NVIDIA: una A100 con 80 GB di VRAM e una RTX PRO 6000 Blackwell Edition. Hanno sfruttato 33 macchine virtuali, configurazioni di sistema errate e vulnerabilità note ma non ancora corrette (senza patch). Il worm ha infettato metà dei dispositivi coinvolti in 5 giorni, dimostrando di essere sufficientemente potente da rappresentare una minaccia seria se fuori controllo.

Vantaggi e svantaggi della tecnologia

La tecnologia presenta però limitazioni. Il worm AI, pur essendo innovativo, richiede molte chiamate di inferenza LLM (Large Language Model), che lo rendono più lento rispetto ai metodi tradizionali. Il tempo di esecuzione, per l'elaborazione e la generazione del codice, è considerevole. Tuttavia, utilizzando modelli più efficienti o hardware migliore, questa velocità potrebbe essere aumentata.

Confronto con attacchi tradizionali

Un worm classico colpisce sfruttando una singola vulnerabilità e, in genere, può essere fermato aggiornando il sistema. Il worm AI invece è adattivo, in grado di cambiare strategia e di colpire diversi target in contemporanea. Questa plasticità rende gli attacchi più complessi da bloccare con le soluzioni attuali.

I sistemi tradizionali di protezione potrebbero non riconoscere un worm AI come minaccia.

La combinazione di vulnerabilità sfruttate rende la localizzazione difficile.

Se non si riesce a prevenire l'accesso iniziale, i danni potrebbero essere estesi.

I ricercatori non hanno pubblicato il codice sorgente né tutti i dettagli per motivi di sicurezza. Hanno comunque evidenziato il rischio che esiste: la stessa tecnologia che protegge le reti può essere usata per creare strumenti di attacco autonomi. La soluzione, dicono, sta nel ridurre la superficie di attacco, aggiornando continuamente i sistemi e limitando la capacità di propagazione del malware mediante segmentazione della rete.

Esempi di rischi concreti

Se i modelli AI passassero nelle mani di cybercriminali, potrebbero generare attacchi automatizzati a basso costo. Un team di aggressori malevoli potrebbe prendere il controllo di reti, disattivare servizi critici o compromettere interi paesi. Questo scenario non si presenta solo nel ciberspazio. I potenziali danni di un worm AI non sono limitati ai dati, ma possono estendersi alle infrastrutture fisiche e alle reti di comunicazione.

I ricercatori della University of Toronto concludono il loro studio facendo una richiesta chiara: la comunità tecnologica deve prepararsi a questo tipo di minaccia con attenzione, aggiornando tecnologie di difesa e implementando politiche rigorose di sicurezza.