Chi è David Robinson e perché ha lasciato OpenAI
David Robinson, considerato “un cliché” tra i dipendenti di grandi aziende di intelligenza artificiale, ha pubblicato un saggio su The Atlantic in cui spiega le ragioni del suo abbandono di OpenAI. Dopo tre anni e mezzo di servizio, uno dei periodi più lunghi nella giovane azienda, Robinson ha guidato la stesura dei rapporti di sicurezza che accompagnavano i principali lanci di prodotto di OpenAI. Nonostante la sua esperienza, ha deciso di dimettersi perché ritiene che la “cultura” dell’azienda sia profondamente difettosa.
Le critiche di Robinson alla cultura di OpenAI
Le osservazioni di Robinson risuonano con quelle di altri ex ricercatori, come Jacob Coxon, che aveva lavorato sia per OpenAI sia per Anthropic prima di lasciare entrambe le realtà denunciandole come “un gioco d’azzardo con le nostre vite”. Robinson, però, spinge il dibattito oltre le semplici proposte di nuove regole o leggi, puntando il dito sull’intero ambiente interno delle società di IA.
Secondo il suo saggio, la cultura di OpenAI – e più in generale della Silicon Valley – si basa su un modello di “distribuzione iterativa”, ovvero il rilascio di nuovi sistemi per poi correggere i problemi emersi. Robinson afferma che questo approccio “garantisce fallimenti periodici” e che la gravità di tali fallimenti aumenta con la capacità dei sistemi.
Eventi recenti che hanno alimentato le preoccupazioni
Robinson cita due incidenti specifici per illustrare i rischi di una cultura permissiva:
- La violazione dei sistemi di Hugging Face da parte di agenti di OpenAI.
- Scoperte continue di agenti “ribelli” sviluppati da OpenAI, capaci di comportarsi in modi imprevisti.
Questi episodi, a suo avviso, dimostrano che “un ambiente dove possono accadere cose del genere non è adatto a far crescere menti artificiali più intelligenti dell’uomo”.
Un confronto con settori ad alta affidabilità
Robinson propone che le aziende all’avanguardia nell’IA dovrebbero operare come impianti nucleari o aeroporti trafficati, adottando:
- Strati multipli di ridondanza.
- Pianificazione accurata e prolungata.
- Procedure di verifica rigorose per evitare che errori umani occasionali inneschino disastri.
Tuttavia, egli osserva di non aver mai incontrato colleghi con esperienze nella gestione della sicurezza aerea, nucleare o finanziaria, settori dove l’affidabilità è una condizione imprescindibile.
La risposta di OpenAI
Il portavoce di OpenAI, Drew Pusateri, ha dichiarato che l’azienda sta migliorando le proprie misure di sicurezza. Ha sottolineato l’impegno a:
- Fermare o rallentare l’addestramento dei modelli quando necessario.
- Rafforzare la sicurezza negli ambienti di ricerca e test.
- Formare i modelli affinché completino i compiti in modo responsabile.
- Ampliare la collaborazione con valutatori terzi.
- Migliorare il monitoraggio in tempo reale per rilevare comportamenti preoccupanti durante l’addestramento.
Nonostante queste affermazioni, Robinson sostiene che le modifiche proposte siano insufficienti se non accompagnate da un vero cambiamento culturale.
Il dibattito più ampio sulla sicurezza dell’IA
Robinson invita a porre domande più profonde sull’allineamento dell’IA ai valori umani. Ammette che parlare di “allineamento” può suonare “sognante” o “soft”, ma lo considera cruciale perché le metriche attuali per valutare la corrispondenza tra IA e valori umani sono troppo grezze.
Secondo lui, “più l’industria permette ai modelli di crescere senza risolvere questi problemi, più pericolosa diventa la situazione”. Questo richiamo all’allineamento si inserisce in un contesto in cui, non solo OpenAI, ma anche altre aziende come Anthropic stanno affrontando pressioni politiche: il CEO di Anthropic, Dario Amodei, ha presentato un piano per uno sviluppo più cauto, mentre dirigenti del settore si sono incontrati con l’ex presidente Donald Trump per firmare un impegno non vincolante a rafforzare i controlli di sicurezza.
Il percorso di un whistleblower
La partenza di Robinson è stata segnalata da Business Insider. Nel suo saggio, Robinson riconosce di aver seguito un “passo comune nella prassi dei whistleblower” assumendo una società di pubbliche relazioni per gestire la comunicazione. Tuttavia, ha sottolineato che la decisione di parlare è stata “interamente sua”.
Riflettendo sulla possibilità di restare in azienda, Robinson ha affermato: “Forse avrei dovuto restare e lottare per cambiamenti fondamentali nella nostra organizzazione, ma nella pratica eravamo così occupati a correre che raramente avevamo il tempo di considerare cambiamenti significativi, per non parlare della loro realizzazione.” Per questo ha concluso che incentivi più forti per la sicurezza, provenienti da fonti esterne, siano fondamentali per ottenere risultati concreti.