David Robinson ha lasciato OpenAI la settimana scorsa, dopo tre anni e mezzo di lavoro nel team Safety Systems, con un saggio pubblicato su The Atlantic dal titolo “Ho lasciato OpenAI perché la sua cultura è rotta”. Il documento, diretto e senza mezzi termini, espone la sua visione critica su come l’azienda gestisce i rischi legati ai modelli di intelligenza artificiale sempre più potenti.
Il ruolo di Robinson in OpenAI
Durante il suo mandato, Robinson è stato responsabile dei rapporti di sicurezza associati a dodici lanci di modelli frontier e ha contribuito alla redazione del Preparedness Framework, il documento interno che definisce le regole di sicurezza per i nuovi sistemi. Nonostante la sua posizione centrale, Robinson afferma che il team era “così impegnato a correre da avere raramente la possibilità di considerare cambiamenti significativi, tantomeno di realizzarli”.
Critica al “iterative deployment”
Il punto focale della sua denuncia riguarda il metodo di lavoro definito da OpenAI “iterative deployment”: rilasciare un prodotto, identificare i problemi in produzione, correggere le misure di sicurezza e ricominciare. Robinson sostiene che questo approccio genera fallimenti periodici, che diventano sempre più gravi man mano che le capacità dei modelli aumentano. Per sua natura, il ciclo “lancia e correggi” crea un “effetto cumulativo” di vulnerabilità che può trasformarsi in crisi sistemiche.
Le proposte di Robinson
Robinson non si limita a criticare; propone una riorganizzazione dei processi ispirata a settori ad alta affidabilità come il nucleare e l’aviazione civile. In particolare, richiede:
- Implementazione di livelli sovrapposti di ridondanza per ogni fase di sviluppo.
- Pianificazioni deliberatamente lente, con revisioni di sicurezza approfondite prima di ogni rilascio.
- Creazione di una “scienza della governance” per i sistemi autonomi, capace di monitorare e controllare in tempo reale le capacità emergenti.
- Incentivi esterni – regolamentazioni, standard industriali e premi – che spingano l’intero settore verso ritmi di sviluppo più cauti.
Secondo Robinson, queste misure possono ridurre la dipendenza da correzioni post‑hoc e garantire che gli errori umani non si traducano in catastrofi di scala globale.
Un contesto di dimissioni e tensioni interne
Le dimissioni di Robinson non sono un caso isolato. Poco prima, Johannes Heidecke, ex responsabile della sicurezza, aveva lasciato l’azienda, e OpenAI ha recentemente separato tre ricercatori – Jasmine Wang, Tomek Korbak e Mikita Balesni – a seguito di segnalazioni sulla condivisione di informazioni riservate. Un portavoce di OpenAI ha dichiarato che l’azienda sospende il training o trattiene i rilasci quando necessario e sta avviando modifiche significative per rafforzare il lavoro sulla sicurezza.
Implicazioni per l’intero settore dell’AI
Il modello di sviluppo “lancia e correggi” è adottato da molti laboratori di intelligenza artificiale, da Anthropic a Google DeepMind. La pressione per essere i primi a introdurre nuove capacità spesso mette in conflitto la rapidità con il rigore dei controlli. Robinson sottolinea che la cultura descritta non è esclusiva di OpenAI, ma è rappresentativa della Silicon Valley nel suo complesso, dove il “ciclo della novità” sovrasta la prudenza sistemica.
Prospettive future
Robinson crede di poter contribuire più efficacemente all’esterno dell’azienda, lavorando per rafforzare gli incentivi esterni e promuovere una governance più solida. La domanda rimane se le dimissioni di figure di alto profilo possano esercitare una pressione sufficiente a modificare le pratiche interne di OpenAI e dei suoi concorrenti, oppure se rimarranno episodi isolati destinati a svanire nel ciclo delle notizie. Con l’avanzare dei modelli di intelligenza artificiale, il margine di errore si riduce, e la necessità di un approccio più cauto diventa sempre più pressante.