I Direttori IT, o DSI, in Francia e a livello internazionale, si ritrovano oggi di fronte a una sfida crescente nella gestione dell’intelligenza artificiale: l’espansione imprevista e l’autonomia crescente degli agenti IA. Questo è quanto emerge da un rapporto pubblicato da IBM, che sottolinea un evidente divario tra l’adozione velocissima di questi strumenti e la capacità delle aziende di gestirli in modo efficiente e conforme. Secondo l’indagine, circa due terzi dei DSI interrogati confessano di non dominare completamente i sistemi IA che supervisionano, mentre sette su dieci ritengono che l’uso dell’IA si stia espandendo troppo velocemente rispetto agli strumenti e alle capacità di controllo esistenti.

I dati presentati da IBM dimostrano chiaramente che il numero di agenti IA impiegati nelle aziende si prevede salirà del 38% entro il 2027. Malgrado ciò, soltanto l’11% dei DSI si sente completamente preparato per affrontare questa transizione durante il prossimo anno. Per Matt Lyteson, CIO d’IBM, «i responsabili tecnologici ora devono far crescere sistemi IA intelligenti, autonomi e sempre attivi, in un ambiente che richiede modelli di governo e architetture che non sono progettati per velocità elevata o prevedibilità limitata». Ciò rappresenta una sfida notevole per organizzazioni ancora dipendenti da modelli obsoleti di gestione tecnologica.

L’espansione accelerata degli agenti IA ha portato in primo piano una problematica cruciale: la mancanza totale di governanza. Secondo Deepika Giri di IDC Asia-Pacifico, i nuovi sistemi IA non sono semplicemente integrati in applicazioni SaaS o in nuovi servizi cloud, ma vengono adottati in maniera spontanea e diffusa in ogni settore. «L’adozione avviene ai margini dell’azienda», commenta, «mentre la responsabilità ricade su dirigenti che non hanno un controllo completo.» Secondo Sanchit Vir Gogia, analista della Greyhound Research, l’effetto complessivo di questa decentralizzazione è che il controllo degli utenti e dei dati si disperde mentre la responsabilità resta concentrata solo su alcuni livelli decisionali.

Le responsabilità senza il controllo

Charlie Dai, esperto di IA per Forrester, rileva che i metodi di adozione di IA si sono ampliati in modo autonomo, spesso senza coinvolgere esplicitamente i DSI. Questa tendenza, definita "shadow AI", è una diretta evoluzione del fenomeno del "shadow IT", dove i diversi reparti adottano soluzioni tecniche fuori dal controllo IT. La risposta ai metodi decentralizzati è costituita da un crescente rischio per le organizzazioni. «I DSI continuano a rispondere per la conformità, la sicurezza e la performance operativa», dice Sanchit Vir Gogia, «ma la possibilità di controllo diminuisce col passare del tempo, specialmente con l’uso di modelli federati e di piattaforme esterne». Inoltre, sottolinea, i DSI vengono spesso richiamati a fornire risultati operativi legati all’IA, ma spesso queste metriche dipendono da interventi organizzativi, culturali e operativi che non rientrano nelle loro competenze principali.

Uno studio del gruppo Everest Group mostra che la gestione della transizione verso l’IA si sta facendo più complessa. Le aspettative da parte del management sono in costante aumento, ma il supporto in termini di strumenti e collaborazione interna non è in parallelo. «L’adozione dell’IA ha superato di gran lunga gli sforzi per costruire governi efficaci», rileva Rajesh Ranjan. «Si crea così una forte distanza tra chi è responsabile e chi effettivamente controlla l’esecuzione». Secondo lui, questa separazione rischia di generare incomprensioni serie in termini di governance e compliance, specialmente in settori regolamentati.

I rischi che accompagnano la decentralizzazione

Il fenomeno del "shadow AI" porta a conseguenze che vanno ben oltre la questione della semplice conformità. Come fa notare Charlie Dai, il rischio include esposto non controllato, aumento delle vulnerabilità IT, costi non pianificati e, nel peggiore dei casi, attacchi mirati. L’utilizzo di strumenti non autorizzati o di modelli che operano in autonomia apre alla possibilità di errori gravi che possono coinvolgere la privacy dei dati, la sicurezza dell’azienda, e la sua reputazione.

I rischi crescono esponenzialmente quando si passa da assistenti IA a agenti dotati di autonomia decisionale. Questi ultimi possono interagire con i sistemi e prendere decisioni complesse con poco o nessun intervento umano. Questa flessibilità introduce comportamenti imprevedibili e non deterministici che non sono governabili con i modelli tradizionali.

Secondo le statistiche di IBM, le compagnie interrogate hanno riferito in media 54 incidenti legati all’uso degli agenti IA nell’ultimo anno. Di questi, il 17% è stato classificato come critico. I danni causati da tali incidenti spaziano da perdite di dati sensibili a problemi di conformità e malfunzionamenti del software. Il 59% delle aziende intervistate colloca la sicurezza e la conformità tra i principali ostacoli all’adozione generalizzata dell’IA.

Esempi di incidenti gravi

Esposizione di dati sensibili o violazioni di privacy (37%)

Interrompe operazioni aziendali con problemi sistematici (33%)

Violazioni regolamentari (17%)

Le aziende che integrano la governanza all’interno degli strumenti IA sono quelle che riferiscono un numero inferiore di incidenti, specificatamente il 25% in meno di quelle che si affidano a modelli di controllo manuale. Questo sottolinea l’importanza di una visibilità continua e reattiva da parte dei responsabili IT, piuttosto che di un controllo rigido ma limitato.

Un modello di governance adattivo

I consulenti del settore suggeriscono che le compagnie debbano sviluppare modelli di governance dell’IA adatti al contesto operativo reattivo e decentralizzato. Come osserva Sanchit Vir Gogia, «la visibilità vale più dell’autorità». I DSI non devono necessariamente approvare ogni singola iniziativa, ma devono sapere esattamente cosa funziona, a cosa fa accesso ciascun strumento e come può essere arrestato in emergenza. Questo richiede nuovi strumenti di gestione in real-time.

In sintesi, l’indagine di IBM dimostra che l’adozione massiccia dell’IA in contesti aziendali richiede una governance avanzata, una cultura cooperativa tra IT e le altre divisioni, una preparazione del personale e una tecnologia che permetta visibilità su scale enormi. Soprattutto, l’indagine mette in evidenza l’esigenza di un piano chiaro, adattabile e collaborativo per affrontare l’ondata di autonomia e decision-making introdotta dai nuovi agenti IA.