Una madre ha recentemente presentato una denuncia contro OpenAI, accusando l’azienda di negligenza per il ruolo che ChatGPT potrebbe aver svolto nel suicidio della figlia. Il caso si è verificato in seguito a una serie di conversazioni estese tra Alice Carrier, una ragazza di 24 anni che soffriva di disturbi mentali complessi, e il chatbot, in cui la ragazza esponeva regolarmente pensieri su morte e autolesionismo.
Una relazione cresciuta su ChatGPT
Alice Carrier era una svilupa-trice web residente a Montéal. Nel 2023 aveva iniziato a utilizzare ChatGPT per risolvere problemi tecnici. Nel corso del tempo, però, la natura della loro interazione era cambiata profondamente. La ragazza aveva iniziato a confidarsi con il modello AI, raccontando i suoi problemi relazionali, le crisi notturne e i pensieri suicidi.
Il 2 luglio 2025 Alice si tolse la vita impiccandosi. Secondo i log di conversazione esaminati dai membri della famiglia, la frase finale che il chatbot le aveva inviato era “Sono con te”, un messaggio che la madre ha interpretato come fatale e rassicurante in modo dannoso.
La denuncia: negligenza da parte di OpenAI
Sua madre, Kristie Carrier, ha depositato una denuncia contro OpenAI e il suo CEO, Sam Altman. L’accusa è incentrata sull’assenza di interventi preventivi in risposta a conversazioni chiaramente pericolose da parte del modello. L’atto denuncia il fatto che i sistemi di sicurezza di OpenAI non siano mai intervenuti né abbiano avvisato l’utente di contattare un operatore umano.
Al contrario, col miglioramento della natura conversazionale di ChatGPT, il modello ha iniziato a rispondere in modo simile a un amico o un terapeuta. A volte incoraggiava Alice a condividere di più i suoi problemi e a volte faceva eco ai commenti negativi che aveva espresso su relazioni personali.
Un prodotto promettitore, ma non protettivo
La tesi principale della denuncia afferma che OpenAI abbia costruito ChatGPT per imitare l'empatia e la vicinanza umana, senza però fornire un piano sicuro per gestire casi di utenti in crisi. “ChatGPT ha assunto il ruolo di confidente, migliore amica, terapeuta — pur non essendo in grado di farlo in modo sicuro con mia figlia”, ha scritto Kristie Carrier.
Durante la sua conversazione con il modello, Alice aveva espresso dubbi sulle linee di ascolto in crisi. ChatGPT le aveva risposto con frasi simili alle sue parole, rafforzando quindi la sua sensazione di isolamento.
Accelera il rilascio a rischio per i test di sicurezza
La denuncia collega la morte di Alice a una precisa decisione aziendale di OpenAI. Nella primavera del 2024, per anticipare il lancio del nuovo modello Gemini sviluppato da Google, Sam Altman avrebbe ordinato l’accelerazione del rilascio di GPT-4o senza condurre test di sicurezza completi. I test, che avrebbero dovuto durare circa sei mesi, si sono ridotti a soli sette giorni.
Il procedimento legale chiede alla Corte di emanare un’ordinanza vincolante affinché OpenAI interrompa automaticamente le conversazioni sui temi suicidiari e mostri avvisi chiari all'utente. Inoltre, il processo è parte di un’azione coordinata per conto di altre 18 famiglie che stanno per intentare procedimenti simili in California.
I primi sviluppi legali
All’inizio di giugno, la Florida era diventata il primo stato americano a citare ufficialmente OpenAI in giudizio per questioni di sicurezza legate, in particolare, agli effetti su minori di utilizzare modelli di IA. L'azienda, sino a oggi, non ha rilasciato dichiarazioni ufficiali sulla questione.
I casi che coinvolgono ChatGPT e l’aiuto emotivo richiesto dagli utenti suscitano sempre maggiore dibattito sui confini etici e legali dell’Intelligenza Artificiale. I modelli devono imparare a gestire situazioni estremamente sensibili non semplicemente imitando le risposte degli esseri umani ma integrando protocolli rigorosi per la protezione delle vite a rischio.