Nel contesto dell’evoluzione dell’intelligenza artificiale, l’uso di Large Language Models (LLM) sta trasformando in modi significativi il modo in cui le aziende e le organizzazioni operano. La Cefriel, insieme a partner tecnologici e accademici, ha pubblicato un nuovo instant paper che esplora in profondità le implicazioni per la cybersecurity derivanti dall’adozione di questi potenti modelli linguistici generativi.

Una superficie di attacco in crescita

Man mano che i LLM vengono integrati nei processi aziendali, aumenta anche la “superficie di attacco” – l’insieme delle voci potenzialmente colpite da un attacco informatico. Secondo un report del MIT AI Risk Repository, che ha catalogato oltre 1.700 rischi derivanti dall’uso di LLM, ben il 62% di queste minacce emerge solo dopo il rilascio effettivo del modello, quando interagisce con dati esterni, utenti e infrastrutture operative. I restanti rischi si suddividono tra le fasi precedenti al deployment, con una percentuale del 13%.

Minacce emergenti nel contesto operativo

Una volta integrati, i LLM possono diventare bersagli per attacchi mirati come data poisoning, in cui i dati di addestramento vengono manipolati per corrompere il comportamento del modello. Inoltre, gli stessi modelli possono finire per generare output dannosi, come contenuti malformati o fuorvianti, compromettendo la credibilità del sistema oppure aprendo la strada all’uso improprio.

Il prompt injection rappresenta un altro rischio, dove gli utenti manipolano gli input per far eseguire al sistema azioni non previste.

Il rischio di model reverse engineering è connesso alla possibilità che terzi riscopriano il funzionamento interno del modello.

Infine, l’accesso a dati sensibili all’interno degli LLM, soprattutto quando vengono utilizzati per attività di customer service o di assistenza alle decisioni aziendali, costituisce un rischio per la privacy e la sicurezza.

L’approccio Zero-Trust e le nuove best practices

Per far fronte a questi rischi, Cefriel propone un paradigma incentrato su un modello Zero-Trust, in cui ogni interazione con i modelli di intelligenza artificiale deve essere verificata, autorizzata e monitorata in tempo reale. Secondo questa filosofia, non si può dare per scontata la fiducia, nemmeno verso l’intelligenza artificiale.

Le best practice suggerite includono la validazione rigorosa degli input dell’utente, la segmentazione dei dati processati, l’utilizzo di modelli sottoposti a controlli di robustezza, e l’implementazione di misure proactive come l’auditing costante e la formazione continua per il personale tecnico.

Esempi reali: quando l’eccesso di fiducia costa

Un esempio reale arriva da una grande azienda di servizi finanziari, la cui AI è stata manipolata da un utente malintenzionato che ha convinto il sistema a generare risposte fuorvianti a clienti riguardo a investimenti ad alto rischio. Questo ha portato a un’ondata di reclami legali e di danni reputazionali.

Un altro caso ha visto un modello linguistico integrato in un sistema di automazione per la gestione di contratti generare testi che includevano clausole illegittime o fuorvianti. In questo caso, non c’erano meccanismi in atto per verificare l’output prima che fosse utilizzato, dimostrando quanto l’eccesso di automazione possa creare falli operativi.

Cifrato: i dati a sostegno

I dati del MIT AI Risk Repository rivelano un’altra tendenza interessante: il 41% di tutti i rischi registrati nei LLM è da attribuire alla mancata protezione dei dati di addestramento, mentre il 28% è diretto a modelli generativi utilizzati in contesti sensibili, come la salute o il settore giudiziario.

Secondo uno studio del McKinsey di aprile 2024, il 58% delle grandi organizzazioni che hanno adottato LLM ha già sperimentato episodi di compromissione o di uso errato del modello, con costi medi stimati intorno agli 800.000 dollari per incidente non mitigato.

Conclusioni e call to action

L’espansione dell’uso dei modelli linguistici generativi non può procedere a occhi chiusi. Chi utilizza l’intelligenza artificiale deve adottare un approccio proattivo e informato, integrando controlli di sicurezza sin da fase iniziale. Solo così si può bilanciare l’enorme potenziale di questi tecnologie con il rischio di un loro utilizzo non sostenuto da controlli rigorosi e da una cultura aziendale attenta.