OpenAI ha introdotto un nuovo "Lockdown Mode" per il ChatGPT, una funzione volta a garantire una maggiore sicurezza durante le interazioni con il modello linguistico. Questa modalità, accessibile attraverso le impostazioni di sicurezza, disattiva funzionalità come l'accesso al Web, la ricerca approfondita e il motore autonomo, limitando così il rischio di fuga di dati sensibili pericolosi.
Disconnessione da reti esterne
Il "Lockdown Mode" di ChatGPT impedisce al modello di comunicare con Internet e con servizi esterni. Questo limite si traduce in una barriera per eventuali minacce provenienti da istruzioni nascoste (Prompt Injection), che tentano di manipolare le risposte generate per esfiltrare dati sensibili dal sistema. L'utente può attivare questa funzione in ambienti sensibili, per proteggere dati e informazioni critici.
Nel "Lockdown Mode", l'accesso ai risultati delle ricerche dal Web è limitato a contenuti in cache, che possono risultare obsoleti o non disponibili. Sono inoltre disattivate le funzionalità di Deep Research e Agent Mode. ChatGPT non potrà né scaricare file né visualizzare immagini esterne provenienti dall’Internet, e neppure eseguire il codice di rete generato da Canvas.
Promt Injection e limiti di sicurezza
La problematica delle Prompt Injection rappresenta un problema complesso di ricerca all'avanguardia su cui OpenAI sta concentrando i suoi sforzi. Tuttavia, le istruzioni nascoste sono state riconosciute come una vulnerabilità persistente degli LLM (Large Language Models) fin dagli stadi iniziali del GPT-3, e fino ad oggi manca una soluzione definitiva a livello tecnico.
Anche il nuovo "Lockdown Mode" non è in grado di eliminare completamente il rischio legato alle istruzioni nascoste. Un prompt malizioso inserito in un documento caricato può comunque influenzare le risposte generate, sebbene la funzione non permetta l'invio di dati sensibili a un utente malintenzionato attraverso richieste di rete. L'OpenAI chiarisce però che la vulnerabilità non è oggi un problema diffuso, ma potrebbe peggiorare se gli hacker svilupperanno metodi più sofisticati.
Sicurezza avanzata e controlli accesso
Il "Lockdown Mode" si basa su misure avanzate già implementate da OpenAI, inclusi il sandboxing (isolamento del modello), la protezione URL per prevenire l’esfiltrazione di dati e controlli di accesso. La società ribadisce che, sebbene il modello offra una protezione significativa, non garantisce un blocco integrale delle minacce provenienti da istruzioni nascoste.
Secondo le FAQ di OpenAI, gli utenti possono abilitare questa funzione sia per conto proprio (su account personale) oppure su richieste di amministratori, per account aziendali a gestione centralizzata. L’accesso può essere configurato tramite politiche di controllo accesso basate su ruoli.
Disattivazione temporanea per singoli chat
Gli utenti possono disattivare temporaneamente il "Lockdown Mode" durante una specifica conversazione, se necessario, per accedere alle funzionalità complete. Va però notato che questa funzione è incompatibile con il cosiddetto "Developer Mode", utilizzato per testare nuovi strumenti e librerie esterne.
Uso di apps e connettori
Negli account personali, il "Lockdown Mode" limita l’uso dei connettori che richiedono un accesso diretto al Web o scritture su dati. Funzioni come quelle finanziarie e le opzioni di acquisto in ChatGPT non saranno operative in questa modalità.
Negli ambienti di lavoro gestiti, le applicazioni non vengono disattivate automaticamente. OpenAI consiglia agli amministratori di abilitare solo le applicazioni affidabili, controllando preventivamente i livelli di rischio associati. Le azioni di scrittura su app considerate inaffidabili vengono considerate ad alto rischio, mentre quelle di lettura su app attendibili sono catalogate con rischio medio.
Per ricevere aggiornamenti in tempo reale sulle tecnologie dell'intelligenza artificiale e partecipare al dibattito, puoi sottoscrivere l'abbonamento THE-DECODER, gratuito con accesso alla community, newsletter settimanale e contenuti esclusivi come il "KI Radar" e gli eventi KI Pro.
Fonte: OpenAI Lockdown Mode.