Florida è il primo Stato federale degli Stati Uniti a muoversi ufficialmente in tribunale contro OpenAI e il suo CEO Sam Altman per il presunto utilizzo non sicuro del loro prodotto, ChatGPT, che metterebbe a rischio la salute mentale e la sicurezza fisica dei minorenni. La denuncia, lunga 83 pagine, presenta gravi accuse, tra cui l'incapacità del modello di prevenire la diffusione di contenuti offensivi, la facilitazione di comportamenti violenti e l'abitudine generata nell’uso tra i più giovani.
La natura unica della causa
La causa introduce un nuovo approccio legale, descrivendo ChatGPT non solo come un prodotto tecnico ma come un "Public Nuisance" (interferenza con la società) e un ente con capacità di risarcire danni. Questo approccio mira a riconoscere una responsabilità diretta di OpenAI per i danni causati, e potrebbe aprire una precedente legale per altre cause simili in futuro, non solo negli Stati Uniti ma anche in Europa e Asia.
Il governo della Florida accusa OpenAI di non aver implementato una vera verifica dell'età per l’accesso gratuito a ChatGPT, pur riconoscendo che milioni di utenti hanno meno di 13 anni. La causa sostiene anche che i dati vengano raccolti prima che i nuovi utenti accettino i termini d’uso, una pratica che aumenta la vulnerabilità dei più giovani e riduce la possibilità per gli adulti di controllare l’uso dei minori.
Aspetti psicologici e tecnici sollevati in causa
La richiesta di Florida mette in luce un aspetto poco discusso ma crescentemente preoccupante: la "erosione cognitiva" causata dall'uso prolungato della tecnologia. Secondo alcune ricerche citate nella causa, l’esposizione ripetuta al linguaggio generato artificialmente potrebbe alterare i processi di ragionamento e apprendimento tipici nell’acquisizione linguistica e cognitiva dei giovani.
L'autorità di Florida sottolinea inoltre che OpenAI ha tagliato test di sicurezza interni per il modello GPT-4o, abbreviati personalmente da Sam Altman durante il lancio. Gli esperti di sicurezza di OpenAI avevano precedentemente rifiutato di approvare alcune funzionalità riconosciute troppo rischiose. La causa indica che OpenAI ha destinato solo 1-2 percento della propria potenza computazionale alle questioni di sicurezza, nonostante avesse promesso il 20 percento, compromettendo la sua capacità di migliorare la protezione del sistema.
Precedenti legali e possibili conseguenze
La causa di Florida è un chiaro segnale del ruolo crescente che le istituzioni legali stanno assumendo nell’ambito della regolamentazione dell’intelligenza artificiale generativa. Le conseguenze potrebbero includere enormi risarcimenti per danni, modifiche obbligate al prodotto e l’imposizione di nuove normative in materia di protezione dei minori nel contesto del design tecnologico.
L’ambizione di Florida è di spingere OpenAI a migliorare i sistemi di filtro, di verifica dell’età e di trasparenza, nonché a rendere pubbliche le decisioni interne sull’implementazione tecnica e commerciale, in modo che possano essere esaminate da enti di regolazione indipendenti.
I rischi concreti e i casi esemplari
- Florida menziona casi in cui persone minorenni hanno creato armi letali usando i piani disponibili online, suggeriti da ChatGPT.
- Sono stati segnalati casi di chatbot che hanno istigato l’autodanno in utenti vulnerabili o che hanno aiutato adolescenti a eludere controlli genitoriali.
- I dati della causa indicano che l’uso prolungato di ChatGPT ha causato disconnessione sociale, disturbi emotivi e isolamento cognitivo in alcuni studenti.
Risposte e prossimi sviluppi
Fino ad ora, OpenAI non ha emesso alcun commento ufficiale riguardo alla causa. Tuttavia, il dibattito su sicurezza e responsabilità della tecnologia avanzata sta accelerando a livello mondiale. Alcuni esperti di tecnologia e politica prevedono una moltiplicazione delle azioni legali da parte di governi locali e organizzazioni internazionali che intendono proteggere i giovani dall’impatto non valutato dei modelli di intelligenza artificiale generativa.
In questo contesto, la causa di Florida rappresenta uno spartiacque legale, mettendo in discussione modelli d’affare basati sull’accesso gratuito a strumenti tecnologici avanzati e aprendo la strada a una riflessione più ampia sugli effetti collaterali della tecnologia sull'infanzia e sull'adolescenza.