Il 2025 si è rivelato essere l'anno di un aumento esponenziale delle vulnerabilità di sicurezza legate all’intelligenza artificiale (AI), con conseguenze significative per l’intera sua catena, da infrastrutture al software e fino all’ecosistema più ampio. Secondo il TrendAI™ State of AI Security Report, nel corso del 2025 sono state rilevate 2,130 vulnerabilità direttamente collegate a sistemi AI, una crescita del 34.6% rispetto all’anno precedente. Questo aumento supera le altre categorie, segnalando un rischio crescente, soprattutto da parte di criminali informatici che sfruttano nuove tecnologie e architetture complesse di AI.
La Crescita Accelerata delle Minacce AI
Nel periodo 2018-2025, sono state scoperte 6,086 vulnerabilità uniche collegate al dominio dell’AI, distribuite tra 330,239 vulnerabilità globali. Questo rappresenta una quota del 4.42% delle vulnerabilità totali del 2025, che è il tasso più alto mai registrato. La tendenza risiede in una concentrazione di minacce in particolari sottocategorie di tecniche AI, come i framework di apprendimento automatico (ML), i server di Model Context Protocol (MCP) e i tool per grandi modelli linguistici (LLM). Le vulnerabilità sono soprattutto gravi o critiche, col 48.9% delle vulnerabilità totali.
Rompendo il Fattore Critico: La Sicurezza AI Diventa Essenziale
Il report sottolinea come quasi la metà (48.9%) di queste vulnerabilities siano catalogate come "high" o "critical", col 11.1% che raggiunge il livello massimo di criticità. Inoltre, sono state registrate nuove vulnerabilità in tecnologie emergenti come:
- Infrastutture per il Model Context Protocol (MCP): Il loro design consente vulnerabilità di iniezione, con 95 su 102 CVE scoperti nel 2025.
- Autonomous AI: Vulnerabilità nei guardrails e limiti di esecuzione offrono nuovi vettori d'attacco.
- LLM e strumenti associati: Crescita post-ChatGPT e mancanza di maturità in sicurezza, con vulnerabilità come code injection e SSRF.
- Modelli e infrastrutture di servizio: Permettono furto del modello, manipolazione avversaria e accesso non autorizzato.
Questi dati evidenziano che le tecnologie AI emergenti, seppur potenti, presentano un rischio notevole e sottolineano l’urgenza di un cambio di prospettiva nella gestione della sicurezza informatica.
Lampade di Segnalazione: Le Minacce Nell'Ecosistema AI
Le vulnerabilità di AI si manifestano in diverse sottocategorie principali:
- GPU e hardware di AI: 3,127 vulnerabilità con rischio di compromissione della memoria e fuga dell’esecuzione del contenitore.
- Frameworks ML: 1,624 vulnerabilità; rischio di attacchi a catena fornendo modelli dannosi.
- Strumenti e applicazioni LLM: 1,243 vulnerabilità; crescita esplosiva post-ChatGPT.
- Sicurezza dei modelli AI: 876 vulnerabilità; consentono furto di modelli e manipolazione avversaria.
- Pipeline di dati AI: 755 vulnerabilità; minacce di inquinamento e fuga di dati durante la formazione.
- AI autonomi: 363 vulnerabilità; problemi in strumenti di controllo e confini di esecuzione.
- Catena di fornitura AI: 114 vulnerabilità; rischio di modelli dannosi o package malevoli.
- Server per Model Context Protocol (MCP): 102 vulnerabilità; vulnerabilità progettuali che permettono iniezioni.
Queste sottocategorie non sono mutuamente esclusive e spesso si intersecano, ma insieme formano un quadro complessivo di vulnerabilità che colpiscono diversi strati dell’esecuzione AI. L’evoluzione tecnologica, pur avanzando, è accompagnata da rischi che richiedono intervento immediato per non compromettere la continuità operativa.
La Frontera di Rete: Server AI non Sicuri
Ciò che preoccupa maggiormente è che molti server AI sono direttamente esposti a Internet, corrono software non aggiornati e non hanno protezioni sufficienti. Questo scenario apre il porto a attacchi esterni, possibili furti di dati sensibili e compromissione dei sistemi da parte di attacchi mirati. Inoltre, la mancanza di aggiornamenti e controlli di sicurezza costanti amplifica la vulnerabilità complessiva dell’ecosistema AI.
Esempi di Minacce in Ascesa
- Finte identità digitali: Deepfake utilizzati per frodi di identità e manipolazioni.
- Malware AI-generato: Criminali sfruttano modelli AI per creare malware adattivo e difficile da rilevare.
- Attacchi ad autonomi agenti AI: Possibilità di operazioni multi-step e modelli di attacco autonomi.
Rischi della Catena di Fornitura AI
L’approvvigionamento di modelli di AI compromessi e le manipolazioni di tokenizer o le dipendenze inesigate presentano rischi sistemici. Per esempio, il furto o l'adulterazione del modello può causare il collasso di sistemi operativi, richiestando controlli di sicurezza costanti lungo la catena. Per mitigare tali rischi, gli esperti consigliano:
- Verifica della catena di fornitura: Assicurarsi che i modelli e i componenti siano forniti da fonti sicure.
- Potenziare la gestione delle dipendenze: Mantenere aggiornato il registro di modelli e librerie.
- Risorse dedicate all’analisi: Avere un team che monitori continuamente per anomalie.
- Integrazione di protezioni AI: Creare una gestione che tenga traccia dell’addestramento e dell’implementazione del modello.
Tendenze e Crescita Annuale
I dati sugli exploit evidenziano una crescita costante da parte di cybercriminali: nel 2025, solo in questa categoria, si osserva un tasso di crescita del 34.6% rispetto a tutto l’anno precedente. Tali exploit non riguardano una sola sottocategoria ma sono distribuiti su diverse aree di vulnerabilità.
| Anno | ← Back to news |