La tecnologia degli Large Language Models (LLM) si sta diffondendo a un ritmo impressionante nel tessuto imprenditoriale italiano, ma questo progresso porta con sé una serie di problematiche di sicurezza e gestione dei rischi ancora poco chiarificate. Secondo l’ultimo rapporto ISTAT “Imprese e ICT”, nel 2025 il 16,4% delle aziende con almeno 10 addetti ha adottato modelli LLM in processi decisionali, operativi e di gestione dati, un aumento notevole rispetto al tripling rispetto al 2023.

L’interazione tra i modelli LLM e i dati aziendali apre nuovi scenari di vulnerabilità: tra queste si possono distinguere rischi tecnici come il data poisoning, il prompt injection e la compromissione del modello attraverso l’utilizzo di sistemi agentivi autonomi. Al contempo, non mancano i rischi legali e reputazionali, specialmente quando i modelli generano informazioni errate o inopportune.

I Rischi Tecnici Degli LLM

Il data poisoning avviene quando i dati utilizzati per l’addestramento del modello vengono manipolati, alterando in modo premeditato la capacità di reazione e di generazione del modello. Questo compromette la qualità delle risposte e l’attendibilità stessa del modello all’interno del sistema aziendale.

Il prompt injection, invece, avviene quando un utente manipola l’input fornito al modello per indirizzarlo verso risposte specifiche o per bypassare le restrizioni di sicurezza. Questo scenario richiede l’implementazione di controlli avanzati a livello di interfaccia per garantire che l’output rimanga coerente con le linee guida aziendali.

Gli Sistemi Agentivi E La Complessità Nelle Catene Di Produzione

Un ulteriore elemento di preoccupazione riguarda i sistemi autonomi alimentati da LLM, utilizzati per automatizzare compiti ripetitivi e decisionali, spesso con accesso a database e applicazioni critiche. Questi modelli possono agire senza supervisione diretta, aumentando significativamente il rischio di comportamenti inaspettati o dannosi per l’azienda.

Ad esempio, una soluzione LLM adottata da una banca italiana per gestire clienti ha generato automaticamente e-mail di risposta inappropriata a causa di un’interfaccia di training non adeguatamente filtrata. L’incidenza ha coinvolto oltre 500 clienti, generando un rischio legale e una perdita di credibilità aziendale.

Governance Della Pipeline Della Sicurezza

Per ridurre questi rischi, le aziende italiane stanno investendo sempre di piú nel miglioramento della governance della pipeline, che include non solo il controllo dei dati, ma anche l’auditing costante del modello. Un esempio pratico è la creazione di un ciclo di training limitato e supervisionato, con il coinvolgimento esplicito di figure di risk management e compliance.

Un’azienda del settore sanitario, ad esempio, ha adottato un sistema che verifica automaticamente la provenienza dei dati usati per l’addestramento e che richiede l’approvazione manuale per ogni aggiornamento al modello. Questa pratica ha ridotto il numero di discrepanze e l’automatico generato ha migliorato il livello di sicurezza complessivo dell’implementazione.

La Condivisione Della Responsabilità Tra Stakeholder

La complessità del tema pone domande importanti sulla suddivisione della responsabilità tra i vari attori coinvolti: vendor, integratori e clienti. Molti vendor di software LLM forniscono strumenti di gestione delle API e di controllo accessi, ma è rilevante verificare che queste vengano correttamente implementate dal cliente o dall’integratore.

Gli integratori devono rispettare le linee guida di sicurezza definite congiuntamente con il cliente

I vendor devono rendere trasparenti i limiti del modello, soprattutto rispetto alla capacità di gestire linguaggi non comuni e contesti sensibili

Gli utenti finali devono adottare una cultura di uso responsabile, comprendendo i possibili rischi e gli errori del modello

Linee Guida E Best Practice

Per gestire al meglio questa transizione, le aziende dovrebbero adottare le seguenti pratiche:

Educare i team interni su come utilizzare correttamente gli strumenti AI, con particolare attenzione alle interfacce e ai limiti del modello

Adottare un modello di governance centrato su controlli periodici, audit e analisi degli output

Collaborare con fornitori che offrano strumenti di tracciabilità e tracciamento per gestire i dati di addestramento

Implementare un piano di mitigazione del rischio ad hoc, che includa test e scenari di stress per valutare il comportamento degli LLM in condizioni critiche

Con un numero crescente di aziende che si affida agli LLM, sarà essenziale sviluppare una cultura di sicurezza proattiva e una governance condivisa per garantire un utilizzo responsabile e trasparente del modello. Solo attraverso la collaborazione tra tutti gli stakeholder si può sfruttare il pieno potenziale di questa tecnologia senza compromettere la sicurezza, la conformità e la reputazione aziendale.