Negli ultimi anni, i Large Language Model (LLM) sono passati dall'essere chatbot sperimentali a diventare componenti fondamentali di infrastrutture e processi digitali. Questi modelli supportano attività come diagnosi, redazione di contratti, produzione di codice, consultazione di documenti e gestione delle interazioni con clienti e utenti. Tuttavia, l'integrazione di un modello generativo all'interno di un processo produttivo estende il perimetro aziendale, rendendolo non più deterministico e favorendo nuove tipologie di attacco.
Le sfide della sicurezza degli LLM
Con l'intervento dell'AI, le cose si complicano perché il sistema non riesce a distinguere univocamente i dati da gestire rispetto alle istruzioni che riceve. Un documento, un'email o una richiesta formulata in linguaggio naturale sono, per il modello, sequenze di testo da interpretare. Questa ambiguità di fondo, la confusione tra input informativo e input direttivo, è una delle caratteristiche che rende la sicurezza degli LLM diversa da quella del software tradizionale.
Gli LLM sono esposti a rischi che vanno dall'esfiltrazione di informazioni riservate alla generazione di contenuti falsi ma apparentemente credibili, fino all'esecuzione di codice arbitrario controllato dall'attaccante. Per orientarsi in un panorama così complesso, è utile incrociare la tassonomia causale definita dal "MIT AI Risk Repository" con le vulnerabilità definite dalla "OWASP Top 10 for LLM Applications 2025".
La tassonomia causale del MIT AI Risk Repository
La tassonomia causale del MIT AI Risk Repository combina tre dimensioni: Entity, Intent e Timing. La prima dimensione è l'Entity, cioè il soggetto che ha causato il danno, che può essere un essere umano, il sistema di intelligenza artificiale o un fattore esterno non chiaramente attribuibile. La seconda è l'Intent, che permette di distinguere le azioni deliberate dalle conseguenze non volute. La terza dimensione è il Timing, che indica quando il rischio si manifesta: prima del rilascio, durante lo sviluppo e l'addestramento, oppure dopo il deployment.
La combinazione di queste tre dimensioni aiuta a distinguere fenomeni molto diversi. Ad esempio, una prompt injection realizzata da un attaccante è un rischio intenzionale causato da un essere umano dopo il deployment. Un'allucinazione che induce un manager a prendere una decisione sbagliata è invece un rischio involontario prodotto dal sistema quando questo è già operativo.
Il MIT AI Risk Repository raccoglie oltre 1.700 rischi legati agli LLM, di cui il 62% si manifesta dopo il rilascio, quando il modello è già in uso. In particolare, la combinazione che unisce il fattore umano e l'intenzionalità nella fase di post-deployment ("Human x Intentional x Post-deployment") rappresenta lo scenario di minaccia più frequente, con il 18% dei rischi codificati.
Le vulnerabilità secondo l'OWASP Top 10 for LLM Applications 2025
La sicurezza non può esaurirsi nei controlli effettuati durante lo sviluppo: deve accompagnare il sistema anche quando entra nei processi organizzativi e viene collegato a dati, applicazioni e utenti. A questa classificazione è utile affiancare la "OWASP Top 10 for LLM Applications 2025", che raccoglie le principali vulnerabilità specifiche delle applicazioni basate su modelli linguistici.
L'edizione 2025 comprende rischi quali Prompt Injection, Data and Model Poisoning, Improper Output Handling, Excessive Agency, Vector and Embedding Weaknesses e Misinformation. L'obiettivo non è descrivere tutte le possibili combinazioni, ma leggere un fenomeno trasversale: l'eccesso di fiducia che utenti, organizzazioni e sistemi applicativi tendono ad attribuire ai modelli generativi.
Alcuni rischi possono essere introdotti intenzionalmente prima che il sistema raggiunga gli utenti. È il caso del Data and Model Poisoning, dove un adapter LoRA utilizzato per il fine-tuning potrebbe essere stato alterato intenzionalmente attraverso l'inserimento di una backdoor. La compromissione non si trova nel codice applicativo tradizionale, ma nei pesi neurali del modello, e può sfuggire agli strumenti di scansione convenzionali.
Il Data and Model Poisoning può derivare anche da azioni non intenzionali. Durante l'addestramento, un'organizzazione potrebbe aggregare dati provenienti da fonti pubbliche, repository accademici e archivi interni senza sottoporli ad audit adeguati. Il dataset potrebbe includere informazioni errate, articoli ritirati oppure dati sensibili non completamente anonimizzati, che il modello potrebbe riprodurre nelle proprie risposte.
Dopo il deployment, uno dei rischi più rappresentativi è la Prompt Injection. La vulnerabilità sfrutta l'incapacità del modello di separare in modo univoco i dati dalle istruzioni. I modelli utilizzati in azienda possono elaborare documenti, email o pagine web provenienti dall'esterno, all'interno dei quali può essere nascosta un'istruzione progettata per indurre il modello a ignorare le direttive di sicurezza o a recuperare informazioni alle quali non dovrebbe accedere.