Il governo degli Stati Uniti, recentemente, ha inviato una lettera formale ad Anthropic, un laboratorio di ricerca in intelligenza artificiale (AI), esigendo che ritirasse i suoi ultimi modelli di AI dal mercato. Il tutto ha generato un allarme nel settore tecnologico. L'ordine governativo è stato eseguito rapidamente, senza consultare Anthropic o senza approvazione da parte di un tribunale.
Il contesto dell'intervento governativo
Lunedì scorsa, il Dipartimento del Commercio statunitense ha inviato una comunicazione che includeva riferimenti a un direttiva poco conosciuta legata al controllo sulle esportazioni. Questa direttiva vietò l'accesso ai modelli Fable 5 e Mythos 5 a non cittadini statunitensi, tra cui anche parte degli stessi dipendenti di Anthropic, a causa di una presunta minaccia alla sicurezza nazionale. Tuttavia, Anthropic non ha ricevuto dettagli specifici da parte del governo, rendendo il motivo non del tutto chiaro.
Risposta di Anthropic e conseguenze
Di conseguenza, Anthropic fu obbligata a chiudere l'accesso a questi due modelli di AI per tutti gli utenti. Questo dimostra che il governo federale può esercitare pressione su aziende tecnologiche in modo diretto e unilaterale, senza un'approvazione da parte della magistratura.
L'intervento del governo di Trump mostra che l'industria dell’intelligenza artificiale non è immune da interventi governativi, e costituisce una chiara ammonizione per l’industria tecnologica più vasta: il non conformarsi potrebbe comportare la sospensione delle proprie attività o dei propri prodotti.
Un'interruzione politica?
Ci sono dubbi su che cosa abbia realmente spinto l’amministrazione Trump a prendere questa decisione. Secondo fonti interne, il conflitto tra le visioni politiche di Anthropic e dell’amministrazione Trump fu un fattore importante, piuttosto che il problema tecnico legato ai modelli in sé.
Un rapporto di ricercatori e il dibattito sull’etica
Secondo Katie Moussouris, fondatrice di Luta Security, Anthropic le inviò una copia privata di un documento di ricerca realizzato da esperti di sicurezza su presunti "bypass" nei sistemi di regolamentazione di Fable 5. Questo documento, stando al comunicato di Moussouris, illustra un metodo per aggirare le protezioni del modello. Moussouris, però, sottolinea che tale azione non giustifica un’azione governativa così aggressiva. Secondo lei, l'azione compiuta fu precipitosa, pesante ed errata.
La ricerca, condotta da esperti di sicurezza che lavorano presso Amazon, ha attirato l'attenzione su un potenziale "bypass", ma anche lì non si capisce come possa aver causato un problema per la sicurezza nazionale. Moussouris e molti altri esperti hanno chiesto al governo di annullare l’ordine di controllo sull’esportazione, affermando che il blocco rappresenta un rischio per la sicurezza informatica degli Stati Uniti.
Critici e preoccupazioni sulle implicazioni
Justin Hendrix, editor del sito Tech Policy Press, ha affermato che questa mossa potrebbe far preoccupare le altre nazioni dell’affidabilità dell’America nel fornire strumenti AI rilevanti. La sua opinione è che si stia inviando un messaggio: il governo degli Stati Uniti potrebbe interferire con le operazioni aziendali anche senza spiegazioni plausibili.
E se si trattasse di mero politicking?
Rimane incerto il motivo esatto per cui il governo abbia fatto ricorso a questa legge. Si potrebbe ipotizzare un malinteso da parte di funzionari governativi, o, forse, una pressione politica da parte di un’altra azienda, come Amazon. È anche possibile che l’amministrazione non abbia valutato correttamente l’impatto di questa decisione. In ogni caso, questa decisione ha aperto un dibattito che riguarda il ruolo del governo nella gestione dell’AI e del software in generale.
Le conseguenze più ampie del precedente
Il risultato di questa vicenda potrebbe essere la creazione di precedenti pericolosi. Questa volta fu Anthropic a ricevere uno stop governativo; la prossima volta, potrebbero essere altre aziende. L’insicurezza generata da questa decisione mette in discussione la fiducia del mercato globale nell’IA prodotta negli Stati Uniti.