Il contesto della corsa all’intelligenza artificiale
Negli ultimi anni l’intelligenza artificiale ha registrato una crescita esponenziale: nuovi modelli più potenti vengono lanciati a ritmo quasi mensile, gli investimenti in capacità computazionale sono in costante aumento e la competizione tra grandi laboratori – OpenAI, Anthropic, Google, Meta e altri – è diventata una vera gara di velocità.
Questa dinamica ha generato preoccupazioni non solo per le potenziali capacità autonome dei sistemi, ma anche per la capacità delle organizzazioni di comprendere, monitorare e controllare tali evoluzioni. I ricercatori avvertono che la velocità con cui le IA migliorano potrebbe superare quella degli strumenti di sicurezza disponibili.
La proposta di OpenAI di rallentare lo sviluppo
Secondo Bloomberg, Sam Altman, CEO di OpenAI, ha discusso internamente la possibilità di modulare la velocità di sviluppo dei modelli più avanzati. Durante la riunione, Altman ha ipotizzato anche forme di coordinamento con altre aziende impegnate nella ricerca di frontiera, pur riconoscendo che non tutti i concorrenti potrebbero aderire allo stesso ritmo.
OpenAI non ha rilasciato commenti pubblici sui dettagli della riunione, ma la proposta è passata dal dibattito teorico alla discussione pubblica dei vertici scientifici dell’azienda. L’obiettivo non è fermare la ricerca, ma introdurre “soglie condivise” e regole obbligatorie per garantire che lo sviluppo non superi le capacità di verifica e controllo.
Il ruolo di Jakub Pachocki
Il chief scientist di OpenAI, Jakub Pachocki, ha pubblicato il 6 settembre un intervento in cui descrive la possibilità di un “miglioramento ricorsivo”: l’IA contribuirebbe sempre più allo sviluppo delle generazioni successive di sistemi. Pachocki sottolinea che, pur riconoscendo questo rischio, è indispensabile continuare a sviluppare tecniche di allineamento, monitoraggio e difesa, anche sfruttando l’AI stessa per accelerare la sicurezza.
Reazioni di altri attori del settore
Il 12 settembre Dario Amodei, CEO di Anthropic, ha proposto di rallentare i modelli di frontiera, introdurre valutatori esterni nei laboratori e definire standard di sicurezza comuni. Altman ha appoggiato l’iniziativa, promettendo accesso continuo a verificatori indipendenti.
Elon Musk e Demis Hassabis hanno anch’essi sostenuto la necessità di modulare il progresso, mentre Meta ha respinto l’idea di un rallentamento coordinato, affermando che ogni laboratorio è responsabile delle proprie decisioni. L’amministrazione Trump, invece, si è opposta a qualsiasi pausa per timore di perdere vantaggio competitivo rispetto alla Cina.
Proposte di organismi di standard
OpenAI, Anthropic e Google hanno discusso la creazione di un organismo industriale dedicato agli standard di sicurezza. Tuttavia, la proposta non è ancora stata formalizzata e il consenso rimane frammentato.
Questioni legali e antitrust
Il 18 settembre è stata depositata in California una causa che accusa OpenAI, Anthropic, Google e SpaceX AI di aver concordato illegalmente una limitazione della concorrenza. Le società non hanno ancora risposto pubblicamente.
Secondo Wired, OpenAI avrebbe chiesto al Congresso statunitense chiarimenti sulla compatibilità di un coordinamento industriale volto a rallentare lo sviluppo con le normative antitrust. La preoccupazione è che un accordo simile possa essere interpretato come collusione.
Implicazioni tecniche del rallentamento
Gli attuali sistemi AI stanno già automatizzando attività di ricerca, progettazione e test dei modelli stessi. Questo “miglioramento ricorsivo” non è ancora completamente autonomo, ma la tendenza è chiara: gli agenti AI contribuiscono a ridurre i cicli di sviluppo, rendendo la velocità del progresso dipendente non solo da risorse umane e hardware, ma anche dalla capacità dell’IA di generare nuove generazioni di modelli.
Il concetto di soglia, introdotto da OpenAI, prevede criteri condivisi per decidere quando è opportuno continuare lo sviluppo e quando è necessario rallentare perché le garanzie di sicurezza non sono sufficienti.
Le voci dei ricercatori e dei dipendenti
Jacob Coxon, dopo esperienze in OpenAI e Anthropic, ha denunciato pubblicamente una “corsa irresponsabile” verso sistemi capaci di migliorarsi autonomamente. Le sue affermazioni hanno riscosso ampia diffusione sui social e attirato l’attenzione di politici, osservatori e altri ricercatori.
Nel luglio scorso più di 1 100 lavoratori del settore – provenienti da OpenAI, Anthropic, Google, Meta e altre realtà – hanno firmato un appello chiedendo al governo degli Stati Uniti di sostenere strumenti volti a modulare deliberatamente il ritmo dello sviluppo dell’AI automatizzata.
Ostacoli al coordinamento di un rallentamento
- Rischio di svantaggio competitivo per chi riduce il ritmo.
- Pressioni geopolitiche, soprattutto nel confronto con la Cina.
- Problemi antitrust legati a possibili accordi collusivi.
- Difficoltà tecniche nel definire metriche oggettive di “sicurezza adeguata”.
Questi fattori rendono complesso un accordo condiviso sia a livello industriale che politico.
Conclusioni
La discussione su un possibile rallentamento dell’AI è passata da una preoccupazione teorica a una questione concreta di governance. OpenAI, pur non sospendendo la ricerca, sta spingendo per soglie condivise, verificatori esterni e standard comuni. Tuttavia, le divergenze tra i principali laboratori, le tensioni geopolitiche e i rischi antitrust suggeriscono che un rallentamento coordinato sarà difficile da realizzare senza un forte impulso normativo e una collaborazione internazionale senza precedenti.