Umani leggono le conversazioni con ChatGPT senza consenso esplicito
Un'inchiesta pubblicata da 404Media ha rivelato l'esistenza del "Project Lily", un dispositivo implementato da OpenAI che consente a fornitori esterni di leggere conversazioni tra ChatGPT e utenti. All'interno di questo progetto, i prestatari sono incaricati di valutare la qualità delle risposte generate dall'intelligenza artificiale, con l'obiettivo di adattare la personalità dell'IA e di intervenire quando le sue risposte iniziano a superare i limiti stabiliti.
Sebbene ChatGPT abbia già capacità significative come quella di accedere ai messaggi di posta elettronica degli utenti e ai loro documenti personali, ora emerge che fornitori hanno accesso a determinate conversazioni tra l'IA e gli utenti. Questo significa che scambi che gli utenti potrebbero considerare privati possono effettivamente essere esaminati da prestatari incaricati di valutarli. La situazione solleva importanti questioni sulla privacy e sulla trasparenza delle pratiche aziendali di OpenAI.
L'aspetto più preoccupante di questa rivelazione è che OpenAI non ha informato esplicitamente gli utenti riguardo a questa pratica. L'azienda ha tentato di rassicurare gli utenti affermando che le richieste sono anonimizzate prima di essere condivise con i fornitori. Tuttavia, questa assicurazione non è accompagnata da una comunicazione chiara e trasparente sul sito ufficiale di OpenAI. Gli utenti, quindi, rimangono all'oscuro del fatto che alcune delle loro conversazioni potrebbero essere parte del progetto di valutazione.
I limiti dell'algoritmo di anonimizzazione
Prima di essere trasmesse ai fornitori, le conversazioni devono passare attraverso un algoritmo di anonimizzazione progettato per proteggere i dati personali degli utenti. Tuttavia, l'efficacia di questo algoritmo è tutt'altro che garantita. OpenAI ha riconosciuto pubblicamente che l'algoritmo "può non rilevare alcune informazioni di identificazione poco comuni" e che può anche "sovraesporre o sottoesporre determinate informazioni quando il contesto è insufficiente".
Questo significa che, nonostante gli sforzi di anonimizzazione, i fornitori potrebbero comunque accedere a informazioni sensibili sull'identità degli utenti. In alcuni casi particolari, i prestatari possono persino ritrovarsi con "ricordi" che l'intelligenza artificiale ha mantenuto riguardanti l'utente specifico. Questi ricordi potrebbero includere dettagli personali, preferenze, abitudini o altre informazioni che l'utente non desidererebbe condividere con estranei.
È notevole che OpenAI non sembri particolarmente incline a discutere apertamente di questo nuovo dispositivo. Secondo le conversazioni osservate da 404Media, alcuni utenti hanno esplicitamente chiesto a ChatGPT di "mantenere privati" determinati scambi. Nonostante ciò, sul sito ufficiale di OpenAI non è chiaramente indicato che alcune conversazioni possono essere lette da umani nell'ambito di questo dispositivo di valutazione.
Come proteggere le tue conversazioni: le opzioni disponibili
Fortunatamente, gli utenti non sono completamente indifesi. È possibile impedire che le proprie nuove conversazioni vengano utilizzate per migliorare i modelli di intelligenza artificiale. Per fare ciò, è necessario seguire una procedura relativamente semplice:
- Aprire il menu di ChatGPT su un computer o dispositivo mobile
- Accedere alle impostazioni del proprio account
- Selezionare la scheda intitolata "Gestion des données" (Gestione dei dati)
- Deselezionare la casella "Migliorare il modello per tutti"
È importante notare che l'opzione "Migliorare il modello per tutti" è attivata per impostazione predefinita per gli utenti dei piani Free, Plus e Pro. Ciò significa che, a meno che gli utenti non intraprendano attivamente misure per disattivarla, le loro conversazioni potrebbero essere utilizzate nel processo di valutazione.
Altre opzioni di protezione dei dati disponibili
All'interno della sezione "Gestione dei dati", gli utenti hanno la possibilità di disattivare diversi altri parametri che forniscono informazioni personali all'intelligenza artificiale. Queste opzioni aggiuntive includono:
- La condivisione della localizzazione geografica
- La condivisione degli scambi audio
- L'accesso ai dati di navigazione del browser
- La memorizzazione di altre informazioni personali pertinenti
Disattivando questi parametri, gli utenti possono ridurre significativamente la quantità di dati personali che OpenAI raccoglie e potenzialmente condivide con fornitori esterni. Questo rappresenta un passo importante verso una maggiore protezione della privacy individuale nell'era dell'intelligenza artificiale.
Un'importante limitazione: le conversazioni passate rimangono vulnerabili
È fondamentale comprendere che la disattivazione di queste opzioni ha effetto unicamente sulle conversazioni future. Le conversazioni che gli utenti hanno già avuto con ChatGPT rimangono potenzialmente vulnerabili al Project Lily. Se un utente ha avuto scambi importanti con l'IA prima di disattivare queste opzioni, quelle conversazioni potrebbero già essere state incluse nel processo di valutazione da parte dei fornitori.
Questa limitazione sottolinea l'importanza di essere consapevoli e proattivi riguardo alla propria privacy digitale. Gli utenti che desiderano proteggere completamente i propri dati dovrebbero considerare di disattivare queste opzioni il prima possibile, anche se ciò non garantisce la protezione delle conversazioni precedenti.
Implicazioni più ampie sulla trasparenza e sulla privacy
La scoperta del Project Lily solleva questioni significative sulla trasparenza delle grandi aziende tecnologiche e sulla privacy degli utenti nell'era della rapida proliferazione dell'intelligenza artificiale. OpenAI, pur essendo un'azienda all'avanguardia nel settore dell'IA, non ha dimostrato la stessa trasparenza che gli utenti potrebbe ragionevolmente aspettarsi riguardante l'utilizzo dei loro dati personali.
La pratica di fare affidamento su algoritmi di anonimizzazione imperfetti e la mancanza di notifiche esplicite agli utenti suggeriscono che le priorità aziendali potrebbero non allinearsi completamente con la protezione della privacy degli utenti. Mentre il miglioramento dei modelli di intelligenza artificiale è un obiettivo legittimo, deve essere bilanciato con il rispetto dei diritti e della privacy degli utenti che forniscono i dati su cui questi modelli vengono addestrati e migliorati.