La decisione è arrivata alle 17:21 (ora di Washington), un venerdì sera. Mercoledì precedente Anthropic aveva appena lanciato Fable 5, un modello già utilizzato da centinaia di milioni di persone e adottato da circa 200 aziende e agenzie governative con la sua versione non limitata, Mythos 5. In poche ore entrambi i modelli sono stati rimossi dalle interfacce per tutti gli utenti.
Un'ordinanza non chiara proveniente dal Segretario al Commercio
Secondo Axios, la decisione sarebbe stata presa da Howard Lutnick, Segretario al Commercio, il quale avrebbe agito dopo aver appreso che un utente aveva trovato il modo di aggirare le misure di sicurezza di Fable 5. Queste stesse sicurezze dovevano impedire l’utilizzo del modello in ambiti sensibili come la cibersicurezza e la biologia. Anthropic ha rilevato che l'ordine non specificava chiaramente le motivazioni di preoccupazione. Tuttavia, il governo ha richiesto che l'accesso ai modelli fosse bloccato per qualsiasi persona straniera sia negli che fuori dagli Stati Uniti, incluso per gli stessi dipendenti stranieri di Anthropic presenti nei suoi uffici di San Francisco.
La startup considera la manovra una disattivazione brusca e parla di un malinteso.
Anthropic mette in discussione il ragionamento di Washington
La società americana non accetta che un presunto aggiramento delle misure di sicurezza possa giustificare la sospensione di un prodotto impiegato da centinaia di milioni di utenti. Avverte inoltre che tale criterio, se applicato in modo generalizzato a tutti i fornitori di AI, porrebbe praticamente a fermare tutti i nuovi lanci di modelli. Secondo la startup, nessun modello di AI al mondo è immune ai tentativi di circumnavigazione.
Il tweet che accompagna l'immagine mostra un messaggio ufficiale di Anthropic relativo a Mythos.
I rischi di una sospensione improvvisa
Questa emergenza mette in luce la fragilità della posizione di Anthropic davanti al governo statunitense. La startup aveva già perso i contratti del Pentagono dopo aver rifiutato di rimuovere le proprie limitazioni riguardo alla sorveglianza di massa. Ricordiamo inoltre che si sta preparando per fare l'uscita in Borsa. Ed ecco che, all'improvviso, il governo americano può ordinare all'azienda di disattivare i propri prodotti più innovativi.
Mythos 5, una versione delicata
Fable 5 e le sue restrizioni
Fable 5 era il primo modello della famiglia Mythos consegnato al mercato, con filtri in ambiti come la biologia, la chimica e la cibersicurezza. Mythos 5, la versione completa senza limitazioni, era riservata a un piccolo gruppo di organizzazioni selezionate. Anthropic aveva costruito la sua credibilità sull'idea che fosse possibile distribuire un modello potente con un’implementazione sicura grazie a robuste misure di sicurezza. L'eventuale attacco da parte di un utente riscontrato da Lutnick smentirebbe questa promessa.
La ricerca di una riparazione e le conseguenze
Anthropic dichiara di essere al lavoro per ripristinare l'accesso ai suoi modelli, pur rendendo disponibili gli altri modelli Claude. Tuttavia, il danno è già stato fatto. Aziende, sviluppatori e ricercatori che avevano iniziato ad integrare Fable 5 nei loro progetti si trovano ora senza strumenti operativi.