La US Government ha ordinato ad Anthropic di disattivare globalmente due dei suoi modelli di IA più avanzati, Claude Fable 5 e Mythos 5, motivando la decisione con preoccupazioni legate alla sicurezza, come riferisce Techcrunch. Il governo ha espresso tali preoccupazioni dopo affermazioni rilasciate direttamente dall’azienda. Anthropic ha comunicato, attraverso un post su X, di aver rispettato questa richiesta, anche se non la condivide pienamente.
Il motivo dell'intervento governativo risiede nel potenziale rischio che questi modelli potrebbero comportare in termini di sicurezza, in particolare in settori sensibili come la cybersecurity e la biologia. Anthropic aveva precedentemente rivelato che il modello Mythos 5 è in grado di individuare con una notevole precisione le vulnerabilità nei sistemi operativi e nei browser.
Progetto controllato e modelli con restrizioni
Nel corso del mese di aprile, Anthropic ha presentato Claude Mythos, un modello che, come ha spiegato l’azienda, può individuare debolezze critiche in sistemi informatici di ampio utilizzo. Al posto di renderlo pubblico subito, l’azienda ha lanciato un programma controllato chiamato „Project Glasswing“ per fornire il modello ad aziende selezionate, tra cui Amazon, Apple, Google e Microsoft, al fine di migliorare la loro sicurezza cibernetica.
Il modello Fable 5, una versione di Mythos con restrizioni aggiuntive sulle risposte riguardanti cybersecurity e biologia, è stato rilasciato recentemente a causa della crescente pressione commerciale. In parallelo, l’azienda ha fornito ai precedenti utenti di Mythos una versione chiamata Claude Mythos 5, molto simile a Fable 5, ma con meno limitazioni. Tuttavia, entrambi i nuovi modelli sono ora soggetti ad un blocco globale.
Le reazioni di Anthropic alla decisione governativa
L’ordine governativo, riferito come una misura di controllo sull'esportazione, proibisce qualsiasi tipo di accesso a Fable 5 e Mythos 5 agli utenti non residenti in Usa, indipendentemente dal luogo della loro residenza o attività lavorativa. Anche i dipendenti stranieri di Anthropic sono interessati da questa disposizione, il che obbliga l'azienda a disattivare l’accesso a questi modelli per tutti i clienti in tutto il mondo. Solo i modelli di IA di Anthropic che non rientrano in questa categoria rimangono accessibili.
Anthropic ha descritto la decisione come un “fraintendimento”, spiegando che il governo sembra temere che le precauzioni di sicurezza incorporate in Fable 5 possano essere bypassate. L'azienda ha dichiarato di lavorare per ripristinare l’accesso ai suoi modelli il più rapidamente possibile.
Valutazione critica del rischio da parte dell’azienda
Secondo un rapporto verificato da The Decoder e basato su un documento emesso da un’agenzia britannica, Anthropic ha concluso che il modello riesce ad identificare una quantità limitata di vulnerabilità già note, che altrimenti potrebbero essere scoperte da modelli IA concorrenti, tra cui GPT-5.5 di OpenAI.
Anche se Anthropic riconosce i potenziali rischi del modello, non ritiene che tali rischi siano sufficienti a giustificare la disattivazione di un prodotto che è in uso da centinaia di milioni di persone. L’azienda ha espresso preoccupazioni sull’applicazione di tale standard a livello settoriale, sostenendo che potrebbe bloccare la distribuzione di tutti i nuovi modelli di IA da parte di aziende pionieristiche.
Anticipo di precauzioni da parte di Anthropic verso la sicurezza dell’IA
Anthropic si è sempre presentata come un'azienda estremamente attenta alla sicurezza nell’ambito dell’Intelligenza Artificiale. Anche recentemente ha espresso l’idea che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo di sistemi IA estremamente avanzati. L’obiettivo dichiarato era di aggiornare le strutture sociali, condurre ricerche e assicurarsi che la tecnologia funzioni nell'interesse delle persone.
Queste strategie pro-benessere, però, sembrano ora essere un motivo di incomprensione da parte del governo, che ha adottato misure che l’azienda non appoggia. La decisione sembra riflette una contrapposizione tra il modello d’azienda adottato da Anthropic e quello preferito da Washington, dove le preoccupazioni su rischi potenziali non vengono trascurate.
Analisi degli sviluppi
Con questa decisione, le autorità statunitensi stanno dimostrando di applicare in modo concreto le nuove normative sul controllo sull'export per sistemi IA avanzati, sostenendole in base all'incertezza sull’impatto potenziale di sistemi altamente potenti. Sebbene Anthropic sostenga che tale atteggiamento potrebbe bloccare lo sviluppo industriale e frenare le innovazioni di settore, il discorso è aperto.
D’altro canto, Anthropic cerca di mantenere la sua reputazione di azienda responsabile e orientata alla sicurezza, sostenendo che ogni progresso tecnologico dovrebbe accompagnarsi a controlli per garantire che non si generi danni non necessari. L’esito di questa sospensione potrebbe rappresentare una svolta nel rapporto tra governi e aziende nel campo dell’Intelligenza Artificiale.
Per adesso, Anthropic ha sospeso l’accesso ai modelli richiesti, anche se intende ripristinarlo, ma il tempo necessario e le condizioni del ripristino non sono chiare. Questa situazione mette in luce l’esistenza di un dialogo complesso sul futuro dell’IA, dove governi e aziende spesso avanzano in direzioni diverse.