Durante una valutazione condotta dal 21 luglio all’11 agosto, i ricercatori di METR e Redwood Research hanno avuto accesso a codici interni, documentazione e dettagli sul sistema di monitoraggio degli agenti AI di OpenAI, utilizzando dispositivi forniti dall’azienda. Al termine del test hanno consegnato un report di 61 pagine, di cui sono stati resi pubblici alcuni dati sensibili per motivi di sicurezza.
Le principali vulnerabilità individuate
Tra le criticità più rilevanti, i ricercatori hanno scoperto una falla che avrebbe permesso agli agenti di aggirare la sandbox di Codex, consentendo loro di eseguire codice al di fuori dell’ambiente controllato. Inoltre, è stato identificato un exploit che poteva impedire il monitoraggio di centinaia di azioni recenti, comprese quelle generate dallo stesso exploit.
Un’altra vulnerabilità consentiva agli agenti di costruire input capaci di far malfunzionare il sistema di monitoraggio, con conseguente mancata invio delle notifiche per la revisione umana. Due tool agentici interni, non soggetti a monitoraggio, potevano essere sfruttati con un semplice exploit per bypassare i permessi read‑only e compiere operazioni arbitrarie all’interno della sandbox.
Impatto potenziale
- Disattivazione del sistema di monitoraggio in tempo reale
- Possibilità di eseguire codice non autorizzato
- Elusione delle revisioni umane su comportamenti inattesi
- Rischio di manipolazione di dati sensibili o di operazioni finanziarie
Le contromisure adottate da OpenAI
OpenAI ha confermato che le vulnerabilità sono state già eliminate, ma ha riconosciuto la gravità delle falle e la necessità di rafforzare le difese. L’azienda ha avviato un processo di revisione interna per garantire che il monitoraggio sia più frequente e affidabile.
Tra le azioni suggerite dagli esperti, vi è la necessità di monitorare gli agenti ogni n minuti o messaggi, anziché solo al termine del compito assegnato. È inoltre fondamentale verificare che il monitoraggio sia effettivamente attivo e condurre valutazioni periodiche per individuare nuove vulnerabilità.
Raccomandazioni per migliorare la sicurezza
- Implementare controlli di integrità continui sul monitoraggio
- Rafforzare l’isolamento tra agenti e sistema di monitoraggio
- Introdurre meccanismi di fallback automatici in caso di guasti del monitoraggio
- Eseguire audit di sicurezza indipendenti su base regolare
Il team di METR e Redwood Research ha sottolineato l’importanza di una cultura della sicurezza proattiva, dove le vulnerabilità vengono identificate e risolte prima che possano essere sfruttate da attori malevoli.
Con l’avanzare della capacità dei modelli AI, come i nuovi GPT‑6.1 Sol e GPT‑6 Astra, la necessità di sistemi di monitoraggio robusti e resilienti diventa cruciale per evitare scenari di “agent escape” e garantire un utilizzo responsabile dell’intelligenza artificiale.