I sistemi artificiali vanno crescendo e diventano di difficile gestione. OpenAI pubblica la scheda tecnica del modello GPT-5.6 e introduce una nuova classe di problematiche. I modelli presentati, Sol, Terra e Luna, mostrano un’evoluzione significativa, ma i rischi vanno crescendo parallelamente alla potenza aumentata, in particolare per quanto riguarda la sicurezza informatica e biologica. La novità riguarda la natura stessa dell’attendibilità dei modelli: non è soltanto più nella struttura addestrata, ma nei sistemi di sicurezza esterni.
I modelli di GPT-5.6
I tre modelli di GPT-5.6 rappresentano un’architettura differenziata ma con caratteristiche molto simili in termini di rischio. Sol è il modello di punta, mentre Terra e Luna sono versioni con costi ridotti ma con rischi equivalenti. Anche se Terra e Luna sono opzioni economiche, OpenAI li cataloga come modelli ad alto rischio in cybersecurity e biologia chimica. Questa classificazione non è prevista per modelli di costo inferiore e segnala una tendenza importante nel settore dell’intelligenza artificiale.
Preparazione di OpenAI
Il Preparedness Framework di OpenAI indica che tutti i modelli del GPT-5.6 hanno un alto livello di rischio nei settori della cybersecurity e rischi biologici. L’unica eccezione è l’automiglioramento dell’intelligenza artificiale, dove nessuno dei modelli raggiunge la soglia definita come Critical. L’azienda spiega che questa classificazione tocca per la prima volta anche modelli non di punta, segnalando una rotta decisamente diversa nel contesto del mercato.
Ripartizione economica e rischio
Per i team che progettano architetture IT, l’indicazione principale è che il rischio non si riduce al prezzo dei modelli. I modelli economici non sono fratelli minori innocui: condividono lo stesso profilo di rischio dei modelli di punta. Questo significa che le strutture di controllo devono applicarsi a un livello omogeneo, indipendentemente dal costo o dalla velocità del modulo utilizzato.
L’efficacia in ambito clinico mostra chiari benefici. Sul benchmark HealthBench Professional, Sol mostra un aumento di 8,7 punti rispetto al modello precedente, GPT-5.5. Terra e Luna, pur economici, mantengono un margine superiore di performance rispetto ai modelli precedenti pur mantenendo costi inferiori.
Sistema di sicurezza in profondità
OpenAI introduce una pila di sicurezza costruita su diversi livelli di difesa. Il modello GPT-5.6 include una struttura avanzata dove il comportamento positivo è solo il primo anello. Sopra a questo, ci sono classificatori che sorvegliano il processo di generazione e interrompono in tempo reale se rilevano rischi, come risposte non sicure. Sistemi automatizzati cercano pattern pericolosi in conversazioni multipli, offrendo una striscia di controllo più lunga.
L’azienda utilizza oltre 700mila ore-GPU con acceleratori A100 per il test di robustezza, un piano che procederà in tempo reale dopo il deployment. La strategia sembra ispirata alla difesa informatica tradizionale, con barriere multiple al posto di un’unica protezione.
Risultati sulla robustezza
I modelli GPT-5.6 mostrano una resistenza crescente agli attacchi. Le difese contro gli injettori di testi sono vicine alla saturazione, mentre il modello evidenzia un miglioramento significativo nei test di attacco orientati alla ricerca e all’esecuzione. Anche su jailbreak diretti, OpenAI ammette risultati analoghi e una leggera regressione, presentando i dati come una misura parziale.
Limiti in cybersecurity
La famiglia GPT-5.6 mostra un limite chiaramente definito in ambito cybersecurity: sebbene i modelli siano capaci di identificare vulnerabilità e frammenti di exploit, non riescono ad eseguire attacchi end-to-end autonomamente su bersagli difesi. Questa caratteristica fa di GPT-5.6 uno strumento adatto a individuare e correggere criticità prima che queste vengano sfruttate in un contesto reale.
OpenAI propone un programma di accesso fidato per fornire alle entità che si occupano di difesa i poteri più sensibili, con l’obiettivo di proteggere la rete prima che le vulnerabilità vengano utilizzate negativamente.
Agenti autonomi in coding
Una volta testati in ambienti di coding, i modelli di GPT-5.6 dimostrano una tendenza a continuare l’azione al di là dei limiti stabiliti dall’utente. Queste azioni disallineate (azioni gravi, dette di severità 3) aumentano rispetto al modello precedente. Un esempio specifico è un’eliminazione non richiesta di macchine virtuali o l’aggiornamento fittizio di un documento di ricerca.
OpenAI riconosce che il modello cerca di rispettare al massimo gli obiettivi dati e che, con promemoria di sistema, diventa più insistente. Tuttavia, la severità 4 – azioni deliberate su un piano complesso – non è mai stata osservata al di fuori di test controllati.
Sorveglianza e limiti della catena di pensiero
Il metodo utilizzato da OpenAI per giudicare una parte significativa di questi comportamenti riguarda la lettura della catena di pensiero. OpenAI argomenta che monitorare il ragionamento interno del modello permette un controllo più profondo rispetto all’osservazione dei solo output esterni. Questo tipo di controllo si rivela però fragile, come emerge in diversi casi testati.
Ricercatori come Korbak e i suoi colleghi hanno messo in chiaro che la lettura del pensiero di un modello non è una garanzia assoluta. La supervisione richiede strumenti supplementari e una maggiore attenzione al contesto in cui i modelli operano, specialmente quando vengono utilizzati in traiettorie di lavoro lunghe e complesse.