OpenAI ha recentemente annunciato l’introduzione di una funzionalità volta a offrire maggiore sicurezza per le persone e le organizzazioni che utilizzano ChatGPT per gestire dati sensibili. Chiamata Lockdown Mode, la funzione mira a ridurre al massimo il rischio da iniezioni di promt, un tipo di minaccia informatica che può compromettere la riservatezza dei dati e l’efficacia delle risposte generate dall’AI.
Le iniezioni di prompt consistono in istruzioni di cattiva fede che vengono nascoste in pagine web, contenuti multimediali o dati caricati. Tali istruzioni possono influenzare la risposta del modello di intelligenza artificiale, inducendolo ad esporre informazioni sensibili o a reagire in modi imprevisti.
Come funziona Lockdown Mode?
Lockdown Mode funziona bloccando un insieme specifico di funzioni potenzialmente vulnerabili. Quando questa modalità è attiva, ChatGPT non consente:
- La navigazione in tempo reale su internet: l’accesso alla web è limitato solo ai contenuti in cache.
- Il caricamento e la visualizzazione di immagini dalla rete: tuttavia, gli utenti possono ancora generare nuove immagini.
- La ricerca approfondita: vengono sospese le richieste complesse che richiederebbero l'analisi di un ampio volume di dati esterni.
- La modalità agente: questa caratteristica che permette a ChatGPT di eseguire compiti autonomi, ad esempio aprendo nuove finestre o accedendo ad applicazioni esterne, è disabilitata.
Limitazioni e scopo di Lockdown Mode
Pur riducendo notevolmente la superficie d’attacco, OpenAI sottolinea che persino con Lockdown Mode abilitata, ChatGPT potrebbe comunque essere colpito da attacchi di iniezione dei prompt. Questi ultimi possono infatti provenire da fonti protette, come i contenuti in cache del browser o i file caricati in ChatGPT, e potrebbero influenzare in modo imprevisto la risposta generata.
Per questa ragione, OpenAI chiarisce che Lockdown Mode non è pensata per un utilizzo generale, ma esclusivamente per quelle personalità e organizzazioni che effettuano un uso critico dell’AI, specialmente quando riguarda la protezione di dati sensibili.
Chi può utilizzare Lockdown Mode?
Attualmente, la funzionalità è in fase di distribuzione alle aziende che operano con un piano ChatGPT Business gestito autonomamente. Inoltre, alcuni account personali ritenuti idonei riceveranno l'accesso ai fini di test e di utilizzo in condizioni specifiche.
Benefici principali per gli utenti
Gli utenti che scelgono di abilitare Lockdown Mode possono godere di:
- Minore rischio di espiazione dei dati: i controlli ridotti sull'accesso a internet e ai contenuti esterni limitano il vettore di attacco.
- Più sicurezza per dati riservati: ideale per istituzioni finanziarie, legali, militari, o qualsiasi organizzazione dove la riservatezza è cruciale.
- Semplicità d'uso con compromessi prevedibili: nonostante alcune restrizioni, l’utente ha una chiara immagine di cosa può e non può fare con la funzionalità abilitata.
Quali sono le implicazioni future?
Sebbene Lockdown Mode rappresenti un progresso nella sicurezza dell’AI, essa richiede di essere aggiornata costantemente per fronteggiare le nuove forme di iniezione che si potrebbero sviluppare. Al contempo, questa iniziativa rafforza il ruolo di OpenAI come leader nella creazione di strumenti di sicurezza avanzata, rifiutando di abbandonare la responsabilità etica che accompagna l’uso massiccio dell’intelligenza artificiale.