OpenAI ha comunicato che la funzione denominata Lockdown Mode, una protezione utile per ridurre il rischio di attacchi di prompt injection, è ora disponibile per tutti gli utenti ChatGPT. Questa funzionalità, introdotta inizialmente a fine febbraio, è volta a limitare l'accesso alla rete per prevenire l'esfiltrazione dei dati sensibili.
Cos'è l'attacco di prompt injection
Un attacco di prompt injection comporta l'inganno dei chatbot alimentati da intelligenza artificiale, sfruttando gli accessi a contenuti esterni. Ad esempio, in una pagina web, possono essere nascoste istruzioni che vengono eseguite automaticamente dal chatbot, inducendolo a compiere azioni indesiderate. Gli aggressori possono ottenere informazioni sensibili oppure manipolare i risultati generati.
Come agisce il Lockdown Mode
Il Lockdown Mode non è una panacea, ma una protezione aggiuntiva per utenti che gestiscono dati sensibili, come risorse aziendali o informazioni riservate. La sua attivazione si trova nelle impostazioni avanzate di sicurezza. Funziona limitando l'accesso al web e alle fonti esterne, riducendo il rischio per gli utenti.
Vale la pena sottolineare che alcuni tipi di attacchi di prompt injection possono derivare da pagine web cache o da file caricati localmente, per cui la protezione non è totale. Tuttavia, è una risorsa importante per migliorare la sicurezza dell'interfaccia utente e degli output generati.
Limitazioni attive in Lockdown Mode
Mentre Lockdown Mode è abilitato, gli utenti devono saperne del rischio di funzionalità limitate. Al momento, sono disabilitate o ristrette le seguenti opzioni:
- Navigazione web in tempo reale: ChatGPT accede solo ai contenuti memorizzati, non al web dinamico.
- Supporto immagini: non ci sono visualizzazioni automatizzate; caricamento manuale è permesso, ma il web non può essere usato per scaricare immagini.
- Deep research: non disponibile.
- Modalità agente: bloccata.
- Canvas: l'approvazione del codice non è consentita.
- Download di file: il chatbot non scarica file web per analisi; i file caricati manualmente continuano ad essere gestiti.
Nonostante le limitazioni, funzioni come la memoria, il condivisione delle conversazioni, l’upload di file e l'uso di Codex restano disponibili.
Indicazioni per gli utenti
OpenAI raccomanda agli utenti di evitare di eseguire azioni specifiche quando il Lockdown Mode è attivo, come utilizzare interfacce esterne non necessarie, e si esorta ad essere cauti durante l’uso del caricamento di file esterni. Queste misure aiutano a preservare la sicurezza e la privacy.
Conclusione
Il Lockdown Mode rappresenta una risposta importante di OpenAI alla crescente preoccupazione per la sicurezza e la protezione dei dati online. Pur non essendo una soluzione definitiva a tutti i rischi di prompt injection, fornisce un livello di sicurezza in più per chi gestisce informazioni sensibili.