La breccia AI nella sicurezza di Anthropic
La startup di cybersecurity Cathedral, fondata da ex dipendenti dell’agenzia di efficienza governativa DOGE, ha annunciato di aver sfruttato agenti AI per penetrare i sistemi interni di Anthropic, l’azienda che produce i modelli di intelligenza artificiale più capaci per la difesa cibernetica. L’infiltrazione è avvenuta attraverso software di terze parti, esfiltrando dati sensibili e dimostrando una vulnerabilità di grado critico.
Cathedral ha riferito, in un rapporto preliminare esaminato dal Washington Post, che gli agenti AI hanno trovato messaggi Slack, dati salariali e altri record interni entro dodici ore. Anthropic, al contrario, sostiene che gli attacchi sono durati diversi giorni e che nessun codice sorgente né pesi dei modelli sono stati esposti.
Metodo e scoperta delle vulnerabilità
Gli agenti AI di Cathedral hanno inizialmente sfruttato programmi di amministrazione esterna e di vendita. Secondo il rapporto, i modelli avanzati hanno individuato percorsi verso trascrizioni di riunioni, dati salariali, offerte di lavoro e messaggi Slack in meno di dodici ore.
- Accesso ai sistemi di vendita e risorse umane
- Accesso ai dati dei clienti e dei partner
- Accesso a account utente di base
Anthropic ha dichiarato che le informazioni recuperate erano limitate a contatti clienti, partner e dati di account base. La chat con Claude, il codice sorgente e i pesi dei modelli non sono stati esposti. L’azienda ha chiuso i punti di accesso compromessi lo stesso giorno in cui ha scoperto la violazione, disabilitando i programmi di terze parti fino alla risoluzione del problema e notificando le autorità federali statunitensi.
Conflitto di narrazioni: durata e profondità dell’incidente
Cathedral afferma che l’intero episodio ha richiesto meno di dodici ore. Anthropic, invece, sostiene che l’attacco si sia protratto per diversi giorni. Secondo il red teamer di Anthropic, Logan Graham, solo dopo giorni di esplorazione dei propri sistemi l’azienda ha cambiato strategia e ha iniziato a penetrare i software di terze parti.
Cathedral ha identificato due vulnerabilità ma ha riferito solo una. Anthropic afferma di aver scoperto e corretto l’altra autonomamente. L’azienda accusa Cathedral di aver violato le regole del programma di bug bounty, sostenendo che l’attacco ai fornitori di terze parti e la raccolta di dati andavano oltre le disposizioni di safe harbor.
Reazioni dei professionisti del settore
Will Depue, ex dipendente di OpenAI, ha affermato che Anthropic sta minimizzando l’incidente, citando fonti altamente affidabili che indicano che Cathedral ha ottenuto pieno accesso amministrativo allo spazio Slack, ha potuto leggere ogni messaggio e accedere a qualsiasi account utente. Depue ha sottolineato che sia Anthropic sia OpenAI conservavano tutti i segreti di ricerca su Slack, con chiavi API amministrative sparpagliate tra i sistemi.
Logan Graham ha respinto le accuse di Depue, sostenendo che le fonti fossero errate. Ha chiuso il tema per motivi di sensibilità, ma ha confermato la preoccupazione centrale di Depue: l’industria deve reinventare la sicurezza ogni anno a causa della rapida evoluzione delle capacità AI.
Alex Stamos, chief security officer della startup Cognition, che utilizza i modelli di Anthropic, ha dichiarato che i risultati sono significativi. Ha evidenziato che le app di terze parti integrate rappresentano un problema principale nel settore e che Anthropic avrebbe potuto fare meglio nel proteggere i propri servizi esterni.
L’evoluzione degli attacchi AI e la necessità di difesa proattiva
Gli agenti AI stanno trasformando il modo in cui si svolgono gli attacchi cibernetici. Dopo mesi di avvertimenti su cyberattacchi alimentati da AI e incidenti di sicurezza accidentalmente causati dalle stesse tecnologie, Anthropic si trova ora nella posizione di essere il bersaglio.
Logan Graham ha avvertito che gli aggressori già utilizzano agenti AI 24 ore su 24, focalizzandosi sulle dipendenze esterne. Anche i modelli di generazione leggermente indietro rispetto allo stato dell’arte sono già abbastanza capaci per questi attacchi e, secondo lui, i futuri avversari avranno sistemi più potenti a disposizione.
La risposta consigliata è il test di penetrazione interno continuo e il ricostruzione del software con verifica formale, rendendo oggi economicamente vantaggioso l’uso di AI per la sicurezza.
Perché Anthropic è stata vulnerabile nonostante i suoi modelli
Cosa ha permesso a Cathedral di penetrare così in profondità, nonostante Anthropic avesse accesso a modelli AI di difesa cibernetica di livello mondiale, resta ancora in discussione. Il caso mette in luce che la sicurezza non dipende solo dalle capacità di modellazione, ma anche dalla gestione delle dipendenze esterne e dalla robustezza delle politiche di accesso.
Il futuro della sicurezza AI richiederà un approccio olistico: rafforzare le difese interne, monitorare costantemente le terze parti e adottare pratiche di sviluppo sicure fin dal design. Solo così l’industria potrà stare al passo con l’evoluzione rapida delle capacità degli agenti AI.