Come gli agenti IA hanno individuato le vulnerabilità

Cathedral, giovane società di cybersecurity fondata da ex membri del Department of Government Efficiency (DOGE) dell’amministrazione Trump, ha annunciato di aver scoperto, in meno di 12 ore, percorsi di accesso a diversi sistemi interni di Anthropic, l’azienda dietro il modello di linguaggio Claude. La scoperta è avvenuta nell’ambito del programma di divulgazione vulnerabilità di Anthropic, che consente a ricercatori esterni di testare le difese dell’azienda e segnalare eventuali falle.

Secondo il rapporto preliminare presentato a The Washington Post, i ricercatori di Cathedral hanno impiegato agenti IA per automatizzare la ricerca di punti deboli in applicazioni professionali di terze parti utilizzate da Anthropic per le attività commerciali e amministrative. Gli agenti hanno potuto eseguire rapidamente una serie di operazioni, passando da una scansione preliminare a una mappatura più dettagliata delle configurazioni vulnerabili.

Le vulnerabilità sfruttate non sono state identificate pubblicamente, ma sono state attribuite a software di terze parti non direttamente controllati da Anthropic. L’attacco non ha coinvolto direttamente il modello Claude né l’infrastruttura di addestramento, ma ha permesso di penetrare in sistemi contenenti:

Verbali di riunioni interne
Dati salariali e informazioni sulle offerte di lavoro
Scambi su Slack relativi ai modelli IA avanzati di Anthropic
Coordinate professionali di clienti e partner

La rapidità con cui gli agenti IA hanno identificato questi punti di accesso è stata definita “un insegnamento chiave” dagli esperti di sicurezza, evidenziando il potenziale di automazione per ridurre drasticamente i tempi di scoperta delle vulnerabilità.

La risposta di Anthropic e le controversie sulla portata dell’attacco

Anthropic ha confermato di aver subito un “accesso limitato” ai propri sistemi commerciali, alle risorse umane e alle infrastrutture informatiche, ma ha contestato l’estensione delle affermazioni di Cathedral. L’azienda ha dichiarato che:

Le conversazioni degli utenti con Claude, le risposte del modello e il codice sorgente non sono stati consultati.
Non sono stati esaminati i parametri di addestramento dei modelli né le loro architetture interne.
Le attività di monitoraggio interno hanno rilevato parte dell’attacco prima del rapporto di Cathedral.

In risposta, Anthropic ha interrotto gli accessi il giorno stesso della scoperta e ha disattivato i software coinvolti, attendendo le correzioni dai fornitori. L’azienda afferma inoltre di non avere prove che altri attori abbiano sfruttato le stesse vulnerabilità.

Le due parti divergono sulla valutazione dell’incidente. Cathedral presenta i risultati come un avvertimento sulle capacità offensive emergenti dell’IA, sostenendo che l’automazione può trasformare la ricerca di vulnerabilità in un processo quasi “in tempo reale”. Anthropic, invece, accusa la start‑up di aver esagerato le implicazioni per la sicurezza nazionale e di non aver rispettato pienamente le regole del programma di ricerca, sostenendo che alcuni dei propri processi non sono stati dichiarati correttamente.

Implicazioni per la sicurezza dei dati aziendali

L’incidente dimostra che anche le aziende più avanzate nel campo dell’intelligenza artificiale non sono immuni a vulnerabilità introdotte da software di terze parti. Le informazioni esposte, sebbene non includano dati sensibili del modello, rappresentano comunque un rischio per la privacy dei dipendenti, dei clienti e dei partner commerciali.

Le principali lezioni emerse includono:

Automazione della scoperta: gli agenti IA possono eseguire più operazioni contemporaneamente, riducendo il tempo di identificazione delle configurazioni deboli.
Importanza della supply chain: le dipendenze da software di terze parti devono essere monitorate costantemente per prevenire vulnerabilità introdotte da fornitori esterni.
Monitoraggio continuo: sistemi di rilevamento delle anomalie devono essere in grado di identificare attività sospette anche quando provengono da fonti legittime.

Prospettive future e raccomandazioni per le imprese

Il caso Cathedral‑Anthropic suggerisce una necessità crescente di adottare strategie di difesa più robuste, in particolare per le organizzazioni che gestiscono dati sensibili e modelli IA avanzati. Tra le raccomandazioni più urgenti:

Implementare programmi di bug bounty estesi, includendo fornitori terzi nella portata delle ricompense.
Adottare soluzioni di micro‑segmentazione per isolare le risorse critiche da quelle di supporto.
Rafforzare i processi di patch management, garantendo aggiornamenti rapidi per tutti i componenti software.
Utilizzare strumenti di threat hunting basati su IA per rilevare comportamenti anomali in tempo reale.
Condurre valutazioni regolari della supply chain, includendo audit di sicurezza per tutti i fornitori.

Inoltre, le aziende dovrebbero considerare l’adozione di Zero Trust Architecture, limitando l’accesso ai dati solo a chi ne ha realmente bisogno, e implementare registri di audit dettagliati per tracciare ogni azione compiuta all’interno dei sistemi critici.

Conclusioni

L’incidente dimostra che gli agenti IA non sono più solo strumenti di difesa, ma anche potenti mezzi offensivi in grado di accelerare la scoperta di vulnerabilità. Sebbene Anthropic abbia evitato la compromissione dei propri modelli, l’accesso a dati interni sensibili evidenzia la vulnerabilità della catena di fornitura software. Le imprese devono quindi rivedere le proprie politiche di sicurezza, investire in automazione difensiva e garantire una vigilanza costante su tutti i componenti, interni ed esterni, per mitigare il rischio di attacchi simili in futuro.