Il nuovo piano di OpenAI e le sue implicazioni

Il 31 ottobre 2026, OpenAI ha inviato una comunicazione via e‑mail ai partecipanti del Trusted‑Access Program, informandoli che, dal 29 novembre, i dati generati durante le sessioni Daybreak‑Blue saranno inclusi nel set di addestramento dei modelli di intelligenza artificiale. Fino a quel momento, tali dati erano stati esclusi, anche quando gli utenti avevano disattivato l’opzione “migliora il modello per tutti”.

Questa decisione ha immediatamente sollevato preoccupazioni tra i professionisti della sicurezza informatica, che temono che informazioni sensibili, vulnerabilità non ancora pubbliche o exploit dettagliati possano finire nei futuri modelli, aumentando il rischio di abuso.

Le misure di mitigazione proposte da OpenAI

In risposta alle critiche, OpenAI ha inviato una seconda e‑mail annunciando una opzione di opt‑out separata, consentendo ai partecipanti di escludere esplicitamente i propri dati dal training. Tuttavia, l’azienda ha precisato che le interazioni che “salgono alla sicurezza” – ovvero quelle che vengono identificate come potenziali vulnerabilità durante le revisioni – continueranno a essere utilizzate per “scopi di sicurezza”.

Opt‑out disponibile tramite il portale del programma entro 48 ore dalla ricezione della comunicazione.
Le sessioni contrassegnate come “sicurezza” saranno anonimizzate prima dell’uso.
OpenAI promette di pubblicare report trimestrali sull’uso dei dati di sicurezza.

Precedenti controversie e timori della comunità

Il timore dei ricercatori non è nuovo. Un caso emblematico è quello di Tristan Buckmaster e Levent Alpöge, due matematici che hanno caricato su Codex (il modello di programmazione di OpenAI) dei tentativi di risolvere le equazioni di Navier‑Stokes. Poco dopo, OpenAI ha pubblicato un proprio risultato, suscitando dubbi sul possibile utilizzo non autorizzato dei loro contributi per l’addestramento.

Nonostante OpenAI abbia negato di aver impiegato direttamente i passaggi inseriti da Buckmaster e Alpöge, il semplice sospetto ha evidenziato la delicatezza della questione: la linea tra “contributo volontario” e “sfruttamento di dati sensibili” può diventare estremamente sottile.

Rischi concreti derivanti dall'uso di dati di sicurezza

L’inclusione di exploit e vulnerabilità nei modelli di IA può generare:

Automazione di attacchi: modelli addestrati su exploit reali potrebbero generare script di attacco più efficaci.
Diffusione di informazioni: dati che erano destinati a un pubblico ristretto potrebbero diventare accessibili a chiunque utilizzi il modello.
Falsi positivi: l’IA potrebbe segnalare vulnerabilità inesistenti, sprecando risorse di risposta.

Le risposte della comunità di sicurezza

Molti esperti hanno richiesto una maggiore trasparenza e controlli più rigorosi. Tra le proposte più citate:

Implementare un “registro di audit” pubblico che mostri quali tipologie di dati sono state incorporate nei modelli.
Creare un “ciclo di revisione” interno, con revisori indipendenti, per valutare l’impatto dei dati di sicurezza.
Offrire un “programma di ricompensa” per chi segnala l’uso improprio di dati sensibili nei modelli.

Organizzazioni come la Electronic Frontier Foundation (EFF) e il Center for Internet Security (CIS) hanno pubblicato dichiarazioni congiunte, chiedendo a OpenAI di adottare standard simili a quelli imposti dal GDPR per i dati personali, ma applicati ai dati di sicurezza.

Strategie pratiche per i partecipanti al Trusted‑Access Program

Chi è già iscritto al programma può adottare le seguenti misure per proteggere le proprie informazioni:

Rivedere le impostazioni di condivisione nel portale di OpenAI e attivare l’opzione di opt‑out per tutti i dati sensibili.
Utilizzare ambienti sandbox separati per testare vulnerabilità, evitando di caricare direttamente codici exploit nelle sessioni Daybreak‑Blue.
Documentare ogni interazione con timestamp e descrizione, così da poter dimostrare in caso di uso non autorizzato.
Segnalare tempestivamente eventuali violazioni alle autorità competenti e alle community di sicurezza.

Prospettive future e conclusioni

La decisione di OpenAI di includere dati di cybersecurity nei propri set di addestramento riflette una tendenza più ampia: le aziende di IA cercano di migliorare la robustezza dei loro modelli sfruttando informazioni reali di attacchi e difese. Tuttavia, la mancanza di un quadro normativo chiaro rende questo percorso rischioso.

Se da un lato l’accesso a dati di vulnerabilità può potenziare la capacità dei modelli di rilevare e mitigare minacce, dall’altro aumenta il rischio di creare strumenti più potenti nelle mani di attori maligni. La chiave sarà trovare un equilibrio tra trasparenza, consenso informato e controlli di sicurezza rigorosi.

Nel frattempo, la comunità di ricerca continuerà a monitorare da vicino le mosse di OpenAI, pronta a intervenire con critiche costruttive o, se necessario, con azioni legali per proteggere l’integrità del panorama digitale.