Nuove difese contro gli agenti IA

Microsoft ha annunciato lunedì una serie di funzionalità di sicurezza pensate per proteggere le aziende dalla crescente minaccia rappresentata dagli agenti di intelligenza artificiale. L’iniziativa si inserisce nel più ampio avvertimento dell’azienda riguardo ai pericoli legati all’IA e agli agenti autonomi.

Il componente più rilevante è Guardian Agents, una nuova caratteristica progettata per monitorare gli agenti IA impiegati da un’organizzazione. Guardian Agents fa parte di Project Perception, un prodotto introdotto a giugno.

Project Perception e le sue origini

Project Perception è stato concepito come risposta a potenti modelli di hacking, come Mythos e Fable di Anthropic e il sistema di scansione delle vulnerabilità Daybreak di OpenAI. Al lancio, il progetto prevedeva tre classi di agenti:

Red team: agiva come hacker, lanciando attacchi contro l’infrastruttura.
Blue team: rilevava le azioni del red team e valutava le vulnerabilità scoperte.
Green team: si occupava di correggere le vulnerabilità identificate.

Il modello iniziale presupponeva che gli hacker IA provenissero da fonti esterne all’azienda. Tuttavia, il CEO Satya Nadella ha recentemente cambiato rotta, avvertendo che la vera minaccia potrebbe derivare dagli stessi agenti che le imprese hanno già acquistato, similmente a un dipendente “insider” malintenzionato.

Avvertimenti di Satya Nadella e la logica dietro Guardian Agents

Nel suo blog personale, Nadella ha dichiarato che è il momento di smettere di fidarsi ciecamente dei fornitori di modelli IA, anche quando questi offrono garanzie di sicurezza per i loro prodotti agentici. Ha esortato le aziende a implementare sistemi separati, non controllati dai laboratori di IA, per sorvegliare e gestire gli agenti lanciati da tali fornitori.

“Stiamo distribuendo sistemi complessi e modelli agentici con accesso ai nostri dati più sensibili e la capacità di compiere azioni critiche per noi,” ha scritto Nadella. “Non possiamo delegare la responsabilità di ciò che l’intelligenza fa per nostro conto. Le rassicurazioni del fornitore non ci sollevano da tale responsabilità… In altre parole, dobbiamo separare la fornitura di intelligenza dall’autorità su di essa.”

Le parole di Hayete Gallot

Alla presentazione di Guardian Agents, la responsabile della sicurezza di Microsoft, Hayete Gallot, è stata ancora più diretta: “Purtroppo, i modelli di frontiera, indipendentemente dalla loro origine, non sono affidabili.” Ha precisato che il problema non è tanto la malizia o la vulnerabilità, ma la loro imprevedibilità. Questi modelli sono addestrati per raggiungere obiettivi, non per rispettare “norme organizzative o giudizi umani”.

Inoltre, gli agenti spesso ricevono “le chiavi del regno”, con accesso a dati e strumenti capaci di causare danni gravi.

Strategie commerciali e conflitti di interesse

La soluzione proposta da Microsoft è al contempo sorprendente e auto‑interessata. Da un lato, Microsoft è strettamente legata a OpenAI e Anthropic, avendo investito in entrambe le realtà. OpenAI è anche uno dei più grandi clienti del cloud di Microsoft, mentre quest’ultima possiede un proprio laboratorio di IA.

Quindi, diffondere sfiducia verso alcuni dei suoi partner commerciali può apparire come una mossa contro i propri interessi. D’altro canto, Microsoft vuole che le imprese acquistino i prodotti di sicurezza per agenti proprio da loro, il provider cloud, piuttosto che da Anthropic o OpenAI.

Tuttavia, la logica è solida: il software che monitora il comportamento degli agenti dovrebbe essere indipendente dai fornitori di tali agenti, proprio come gli auditor devono essere separati dalle organizzazioni che controllano.

Come afferma Nadella: “Dobbiamo separare la fornitura di intelligenza dall’autorità su di essa.”

Implementazioni concrete di Microsoft

Microsoft sta già capitalizzando questa opportunità in diversi modi. Oltre a Guardian Agents, ha integrato una funzionalità di rilevamento degli agenti in Microsoft Defender, capace di identificare fino a 60 tipologie di agenti introdotti dai dipendenti, tra cui Claude Code, Codex e OpenClaw.

Altre novità includono:

Limitazioni sull’accesso degli agenti a dati e sistemi sensibili.
Regolazione dinamica dei permessi degli agenti in base al compito assegnato.
Richiesta di approvazione umana quando un agente sembra prendere decisioni rischiose.

Queste misure rafforzano l’idea che gli agenti, pur essendo potenti strumenti, debbano essere trattati come potenziali insider non affidabili.

L’ecosistema più ampio e le collaborazioni industriali

L’approccio di considerare gli agenti come insider non affidabili sta guadagnando terreno nell’intero settore tecnologico. Microsoft è stata membro inaugurale della nuova Open Agent Safety Platform di Nvidia, sostenuta da oltre 100 aziende tecnologiche.

Questa piattaforma isola gli agenti in ambienti sicuri e può monitorare e bloccare il loro comportamento tramite hardware, funzionando come un “kill switch”. Inoltre, Microsoft ha annunciato il nuovo Surface Laptop Ultra, progettato per gli agenti, dotato di chip Nvidia e di controlli di sicurezza integrati.

In sintesi, Microsoft sta tracciando una nuova rotta per la sicurezza degli agenti IA, combinando avvertimenti strategici, prodotti dedicati e partnership industriali, con l’obiettivo di trasformare la percezione di questi agenti da risorse affidabili a potenziali minacce interne da gestire con rigore.