In un post su X pubblicato di martedì mattina, Demis Hassabis, CEO di Google DeepMind, ha lanciato un appello per la creazione di un nuovo ente regolatore incaricato di supervisionare la pubblicazione di modelli AI avanzati. Sotto il titolo “Un Framework per l’AI avanzata e l’alba di un’epoca nuova”, il post presenta un'idea di “ente standardizzatore”, modellato sull’ente statunitense Financial Industry Regulatory Authority (FINRA), che potrebbe testare modelli di AI avanzata e stabilire linee guida per il loro rilascio.
“Inizialmente, i laboratori di AI avanzeranno volontariamente i propri modelli all’Organismo per una valutazione fino a 30 giorni prima del rilascio”, si legge nel testo. “Una volta dimostrata l’efficacia del protocollo di valutazione, seguirà velocemente una formale implementazione, il che significherebbe che i modelli di AI avanzata dovrebbero superarlo per essere deployati nel mercato statunitense. I laboratori collaboreranno anche con l’Organismo per affrontare eventuali vulnerabilità critiche scoperte dopo il rilascio.”
Premesi precedenti e critiche
Il nuovo sistema proposto si basa sulle valutazioni ad hoc effettuate dal governo statunitense per i modelli Anthropic's Mythos e OpenAI's Sol. Queste valutazioni hanno ricevuto molte critiche per l'assenso di esperti tecnici e per il mancato trasferimento di decisioni su quando rilasciare un modello. Nella proposta di Hassabis, queste decisioni potrebbero essere delegate a un nuovo ente regolatore, sostenuto dal governo americano, finanziato dall’industria dell’AI e operante autonomamente.
Critiche e resistenze
Al momento, la regolamentazione dell’AI rimane controversa per entrambi il settore tecnologico e l’amministrazione Trump. Di recente, Sriram Krishnan, consigliere dell’AI alla Casa Bianca e general partner di a16z, ha sminuito la possibilità che venga istituito un ente regulatorio sull’AI nell’amministrazione esecutiva, affermando che “non ci sarà un FDA per l’AI.”
E stabilire l’organismo come un ente autonomo sull’esempio di FINRA potrebbe essere una soluzione in grado di affrontare queste critiche. Hassabis immagina che l’organismo regolatore venga gestito da rappresentanti delle comunità open source e da esperti tecnici del settore, insieme al supporto finanziario necessario, garantito dai laboratori di AI.
Struttura operativa
I laboratori potrebbero persino esternalizzare alcune valutazioni ai vari gruppi di sicurezza nell’AI che si specializzano su rischi specifici. “La forza di questo approccio è che sarebbe focalizzato tecnologicamente, al tempo stesso supportando l’innovazione e incentivando un comportamento responsabile”, afferma Hassabis. “Sarebbe progettato per stare al passo con l’accelerazione del settore e adattarsi ai rischi più grandi quando vengono identificati, e potrebbe essere rafforzato se la gravità della situazione lo richiedesse.”
Hassabis non è il primo a cercare di trovare un equilibrio tra controllo e progresso nel settore dell’AI avanzata. La sua proposta mira a un compromesso strutturale che eviti la burocrazia esagerata, mantenendo però l’adeguata protezione per la società. L’idea di affidarsi a un ente tecnico autonomo potrebbe rappresentare un passo verso una regolamentazione pragmatica e ben funzionante per il futuro dell’AI.