Secondo recenti report, dietro la decisione di bloccare improvvisamente l'accesso globale al nuovo modello di IA di Anthropic, Fable, potrebbe esserci Amazon. I media informano che il direttore esecutivo di Amazon, Andrew Jassy, avrebbe parlato con membri del governo statunitense, segnalando la possibilità di un jailbreak del modello. In risposta, l'US Government avrebbe emanato una direttiva d’esportazione, che ha costretto Anthropic a prendere misure drastiche.
Il giornalista David Sacks, co-presidente del consiglio dei consulenti tecnoscientifici del presidente Usa, ha affermato su X di conoscere i dettagli dell'episodio. Sacks riferisce che Amazon ha chiesto ad Anthropic di sistemare alcune vulnerabilità riscontrate nel modello, mentre Anthropic, attraverso il suo CEO Dario Amodei, avrebbe rifiutato. Le autorità Usa avrebbero quindi imposto un rigoroso ordine che obbliga a limitare l’accesso del prodotto alle persone non statunitensi.
L'esame di Amazon sui jailbreak
Nel dettaglio, l'équipe di sicurezza cyber di Amazon ha effettuato test approfonditi su Fable. Essi hanno constatato che il modello era in grado di identificare vulnerabilità e consegnare codice utilizzabile per sfruttarle in quattro programmi popolari. Jassy avrebbe successivamente informato delle scoperte funzionari governativi americani. Un portavoce di Amazon ha confermato al Wall Street Journal che le autorità Usa si rivolgono spesso al consiglio tecnico di Amazon, riconoscendone la sua leadership nel settore, ma si è rifiutato di commentare dettagli specifici.
La reazione di Anthropic e la posizione di Sacks
Anthropic, in un comunicato ufficiale, ha contestato l’idea che il prodotto sia veramente stato “sfruttato” con tecniche illegali, sottolineando che alcune delle stesse funzionalità del modello sono facilmente eseguite anche con modelli analoghi di OpenAI, come ChatGPT 5.5. Tuttavia, la posizione del governo Usa si è fatta irremovibile, soprattutto a causa del rifiuto di Anthropic di correggere le vulnerabilità segnalate da Amazon, come detto da David Sacks nel proprio post di X.
Sacks ha però precisato che la recente azione non è da considerarsi una vendetta da parte del governo Usa verso Anthropic, bensì una conseguenza del mancato rispetto delle richieste di sicurezza da parte di Anthropic.
Precedenti e contesti
Esiste anche un precedente storico. L’estate scorsa, la US Government ha posto delle restrizioni nell'uso delle tecnologie di Anthropic, considerandole un rischio per la sicurezza nazionale, soprattutto nell'utilizzo autonomo in sistemi bellici. Anthropic ha fatto appello legale. In base a questa logica, Fable, una variante del prodotto più avanzato di Anthropic (chiamato Mythos), è stato anch'esso criticato. La precedente versione di Mythos aveva gia generato discussione poiché era in grado di identificare e fornire codice per sfruttare nuove vulnerabilità in molti software. Il suo rifiuto di pubblicarlo è stato visto da molti come esagerato.
Il fatto di aver bloccato Fable potrebbe essere considerato esageratamente severo. Secondo alcuni analisti, questa misura si applica a un prodotto in cui il jailbreak non è affatto garantito, e non esiste alcun modello di IA veramente immune a tentativi di attacco. La misura potrebbe quindi sembrare non proporzionata.
L'esclusione internazionale
Il nuovo blocco ha causato problemi per molti collaboratori internazionali di Anthropic, che non possono più interagire con il modello Fable. Molti di questi collaboratori sono tecnici di alto profilo e sono costretti a osservare l'evolversi degli eventi da lontano. La questione sollevata riguarda soprattutto coloro che hanno lavorato a Fable o Mythos, e che in precedenza hanno contribuito a sviluppare prodotti con elevato contenuto tecnico.
Domande aperte
- Anthropic risponderà con azioni legali anche stavolta?
- Ci saranno misure simili per altri modelli di IA di altre aziende?
- Come potrebbe evolversi una relazione tra governo Usa e aziende di tecnologia che rifiutano di modificare le proprie tecnologie?
Le risposte a queste domande si faranno attendere, se verranno fornite. Secondo quanto riferito da "The Information", l'US Government non sembra intenzionata a intraprendere azioni similari in caso di vulnerabilità simili da parte di altre aziende. Non si può escludere, però, che il modello del Fable venga reimpostato per funzionare in modo differente per il mercato estero.