Demis Hassabis, CEO di Google DeepMind, ha recentemente avanzato una proposta volta a garantire una valutazione rigorosa e regolamentata dei modelli di intelligenza artificiale (AI) prima che vengano rilasciati al pubblico. Il suggerimento, che arriva nel contesto di un dibattito sempre più acceso sui rischi associati all’adozione di tecnologie avanzate, prevede la formazione di un'agenzia indipendente incaricata di valutare i modelli AI almeno 30 giorni prima del loro lancio. Questo iniziatore mira a ridurre i rischi legati all’uso improprio o ai danni alla sicurezza nazionale.
L’idea segue le dichiarazioni di altri importanti personaggi del mondo dell’AI, come Dario Amodei (CEO di Anthropic) e Sam Altman (CEO di OpenAI). Il gruppo di lavoro formato dai vertici più influenti dell’industria dell’intelligenza artificiale ha espresso sempre più spesso la convinzione che un controllo esterno su modelli AI potrebbe contribuire a prevenire possibili abusi, come l’hacking, il phishing o la manipolazione dell’informazione.
Tra gli sviluppi recenti, c'è anche l’azione intrapresa da Donald Trump, che all'inizio di giugno ha firmato un ordine esecutivo relativo al controllo dei modelli AI. Questo testo istituzionale mira a garantire che i nuovi modelli siano valutati per verificare la presenza di adeguate protezioni. L’obiettivo è evitare, ad esempio, che vulnerabilità nei software possano essere sfruttate in attacchi informatici mirati contro infrastrutture critiche degli Stati Uniti. Per questa ragione, il rilascio di nuovi modelli da parte di Anthropic e OpenAI è stato temporaneamente bloccato.
La proposta di Hassabis
Demis Hassabis, che nel 2024 ha ricevuto il premio Nobel per la Chimica, presenta una soluzione concreta attraverso la creazione di un’agenzia di controllo simile alla Financial Industry Regulatory Authority. Questa istituzione dovrebbe essere in grado di sviluppare protocolli di valutazione, stabilire criteri di sicurezza standardizzati e effettuare test in collaborazione con i laboratori nazionali e le agenzie federali statunitensi.
L’agenzia proposta dovrebbe inoltre stabilire soglie per classificare i modelli AI più avanzati in base a benchmark precisi. Gli sviluppatori (provider) sarebbero così obbligati a sottoporre nuovi modelli a valutazioni (non obbligatorie) almeno 30 giorni prima del rilascio al pubblico. Queste valutazioni dovrebbero concentrarsi principalmente sulle capacità in campo cyber e sull’efficacia delle difese contro il jailbreak, ovvero l’approccio utilizzato per bypassare le protezioni dei modelli AI.
L’impegno degli Stati Uniti
Hassabis sottolinea che gli Stati Uniti "sono ben posizionati" per assumere il ruolo principale nella definizione di questo tipo di quadro regolatorio. La motivazione è legata alla forte presenza di competenze tecnologiche e di laboratori di ricerca avanzata nel Paese. L’esperienza accumulata, unita alla capacità di coordinare risorse nazionali, potrebbe spingere l’America ad essere la prima a fissare lo standard globale.
La proposta ha però poche chance di trovare un accordo con l’Unione Europea, che sta cercando in tutti i modi di ridurre la dipendenza dalle tecnologie sviluppate negli Stati Uniti. Gli interessi divergenti tra queste due economie potrebbero quindi generare divisioni nei tentativi di implementare uno standard globale o comunque coerente per il controllo dei modelli AI.
Il sostegno di Mustafa Suleyman
La proposta di Hassabis ha trovato il supporto di Mustafa Suleyman, CEO di Microsoft AI. Il dirigente ha evidenziato l’urgenza di adottare misure adeguate per affrontare i rischi legati all'avvento dell’AGI (Intelligenza Artificiale Generale). Lui stesso riconosce che, mentre il settore privato ha svolto un ruolo centrale nello sviluppo dell’AI, ora spetta agli enti governativi e a un’agenzia indipendente coordinare l’applicazione di controlli rigorosi.
Finora, le valutazioni dei modelli AI si sono basate su criteri volontari e non vincolanti. La proposta di Hassabis cerca di dare corpo a un modello strutturato, che possa garantire una regolamentazione chiara e standardizzata. L’impegno comune di diversi esponenti del settore rappresenta un segnale concreto della volontà di anticipare i rischi legati all’AI avanzata prima che siano fuori controllo.