L’azienda OpenAI ha annunciato il lancio al pubblico del suo più recente modello linguistico avanzato, Sol, che alcuni considerano almeno alla pari con Fable, il modello di Anthropic. Tuttavia, rimane una grande quantità di incertezza sul come quei modelli abbiano ricevuto l’autorizzazione per essere rilasciati.
Mina Narayanan, un’analista di ricerca avanzata presso il Centro per la Sicurezza e le Tecnologie Emergenti dell’Università di Georgetown, ha dichiarato a TechCrunch di non conoscere i dettagli esatti del processo seguito da OpenAI e dal governo. Anthropic ha chiarito di aver avviato colloqui con le autorità governative e di aver sviluppato un sistema per identificare gli tentativi di accesso non autorizzati (“jailbreaks”), ma il dialogo reale tra il governo e le aziende rimane oscuro.
Dean W. Ball, ex consigliere politico di Donald Trump che attualmente lavora presso OpenAI, ha sostenuto in una newsletter che nessuno conosce realmente i requisiti necessari per ottenere l’autorizzazione governativa. “Non c’è un processo chiaro. E questo è un problema esistenziale,” ha precisato Andy Konwinski, co-fondatore di Databricks e Perplexity, durante colloqui con TechCrunch.
Ad oggi, otto mesi dopo l’inizio dell’amministrazione di Donald Trump, non esiste ancora una chiara roadmap per procedere con il rilascio e la valutazione di modelli AI avanzati. Dopo settimane di dibattiti interni, è stato emesso un ordine esecutivo che presenta un piano per valutare i modelli di frontiera, anche se rimane molto vago nei contorni. Sriram Krishnan, ex partner di Andreessen Horowitz e advisor dell'AI nella Casa Bianca fino a poco tempo fa, ha sostenuto che “non ci sarà mai una FDA per l'intelligenza artificiale,” come ha dichiarato al Financial Times.
La questione del governo in relazione ai modelli AI è ulteriormente complicata dal fatto che, non esiste un accordo unanime sul tipo di modelli che richiede una valutazione governativa né su quali agenzie dovrebbero occuparsene. Per ora, il Centro per gli standard e l'innovazione nell'AI del Dipartimento del Commercio sembra guidare il processo, anche se l’ordine esecutivo indica a sei agenzie federali di completare i dettagli entro agosto.
Sam Altman, CEO di OpenAI, ha confermato durante un'intervista a CNBC, che il processo ha coinvolto colloqui con vari funzionari, tra cui il Segretario del Commercio, Howard Lutnick, e il Segretario del Tesoro, Scott Bessent. Tuttavia, non ci sono informazioni chiare su chi siano stati i veri esperti che hanno effettuato le valutazioni né su come il test sia stato condotto. OpenAI ha rifiutato di condividere con TechCrunch ulteriori dettagli su come il governo abbia esaminato i modelli. Si è però riferito a valutazioni realizzate da organizzazioni esterne come U.K. AISI, SecureBio, e Irregular, inclusa in una sorta di documento di sicurezza.
Simile a quanto successo con il modello Fable di Anthropic, OpenAI ha avuto un breve accesso governativo e con utenti selezionati prima del lancio più ampio, senza specificare chi siano stati questi utenti oppure i criteri usati per la selezione. In un post sul blog dell’azienda, OpenAI ha dichiarato di "non ritenere che questo tipo di accesso governativo debba diventare la regola," e ha espresso l’ambizione di lavorare con il governo per sviluppare un percorso alternativo.
L'atmosfera dietro questi colloqui, tuttavia, non è priva di tensioni politiche. Secondo alcune report, Altman avrebbe offerto fino al 5% delle azioni di OpenAI all’amministrazione per i cosiddetti “conti di Trump.” Inoltre, Greg Brockman, Presidente di OpenAI, è uno dei maggiori donatori noti pubblicamente dell’operazione politica di Trump. Questi rapporti rendono difficile per osservatori esterni separare queste attività da un più leggero approccio governativo alla regolamentazione di Sol.
Ancora diverso è stato il caso di Anthropic e il suo Fable. Il modello, per brevissimo tempo, è stato bloccato da accesso esterno a causa di preoccupazioni reali di frode e di divergenze tra Anthropic e l’amministrazione Trump. La minaccia di un embargo di esportazione potrebbe anche aver portato OpenAI a essere più collaborativo con le richieste del governo, pur non conoscendone i dettagli.
Da un punto di vista industriale, un approccio poco regolamentare alla valutazione dell’AI potrebbe sembrare positivo, ma uno basato su relazioni personali con funzionari dell’amministrazione crea ambiguità e incentivi sbagliati. Konwinski ha espresso preoccupazione per i ricercatori veri di tecnologia — esperti in sicurezza, allineamento del modello, interpretabilità — il cui ruolo nella valutazione dei modelli potrebbe non essere sufficiente.
Konwinski sottolinea che il miglior equilibrio tra innovazione e sicurezza sia l'accesso pubblico e trasparente, un tanto citato approccio “comune aperto”. Si riferisce ad esempi come la FDA, la NIH, o i laboratori nazionali, che coinvolgono ricercatori, funzionari governativi e aziende private per raggiungere un consenso sugli standard di sicurezza.
Il problema non è soltanto tecnico. Per anni, l’economia e la logica capitalistica hanno guidato gli sviluppi e sono state al centro di battaglie giuridiche, come il recente processo legale avviato da Elon Musk contro la struttura aziendale di OpenAI. La natura stessa del business dell'intelligenza artificiale richiede alle aziende di recuperare parte dei loro costi iniziali il più presto possibile, una volta che i modelli sono lanciati e che sono in vantaggio rispetto alla concorrenza.
“Anche se le intenzioni sono buone, ci sono obblighi legali e responsabilità legali incorporate nei processi operativi,” ha chiarito Konwinski. L’idea di Ball, in una newsletter, è che il futuro sarà determinato da organi di terze parti, autorizzati dal governo, che saranno incaricati di valutare gli sforzi di sicurezza delle principali aziende di AI. Konwinski condivide questa visione e promuove nuove strutture istituzionali, come organizzazioni di ricerca specializzate, che permettano agli esperti accademici e non-profit di accedere e valutare i modelli AI di frontiera.
Per il momento, però, la segretezza intorno all’AI non sembra destinata a svanire, aprendo la strada a sfide politiche per un settore che i cittadini americani guardano sempre più con scetticismo. “Non c’è ancora il senso che persone responsabili stiano guidando quei cambiamenti,” ha affermato Remzi Arpaci-Dusseau, professore di informatica all’Università del Wisconsin-Madison, durante l'Open Frontier Conference.
Nel corso della stessa conferenza, David Siegel, l’informatico che ha fondato Two Sigma, ha chiesto ai presenti di “immaginare una situazione che io credo sia molto negativa: in cui un numero ristretto di aziende controlla la tecnologia; il governo, nei suoi laboratori segreti, decide se la tecnologia è abbastanza sic