Il comitato Oversight Board di Meta ha esaminato un caso che riguarda un video di 8 secondi generato artificialmente e condiviso su Instagram. Il video mostra una rappresentazione sessualizzata di una donna reale, realizzata attraverso l’utilizzo di intelligenza artificiale. Nonostante diverse segnalazioni e un ricorso ufficiale, il contenuto non è stato rimosso e rimane visibile su piattaforma.
L’incidente è emerso a settembre 2025 quando un utente ha riferito che un video sull’account di sua amica rappresentava immagini inappropriate generate con AI. L’amica in questione, dopo aver ricevuto la segnalazione, ha chiuso il proprio account. La decisione del comitato non è stata sufficientemente rapida a garantire una protezione ai soggetti coinvolti.
Le nuove regole europee su contenuti AI
Il caso ha richiamato l’attenzione su un tema ormai di estrema attualità in molti paesi. Il Parlamento europeo ha recentemente approvato misure mirate per vietare l’utilizzo di AI nell’ambito sessuale non consensuale. In particolare, l’uso di deepfake sessuali, app di nudificazione e la condivisione di contenuti erotici di minori sono ora considerati reati penali.
In questo contesto, il comitato Oversight Board ha sottolineato che le azioni intraprese non erano sufficienti. Meta, nonostante abbia bloccato la visibilità del video ai minorenni in seguito alle segnalazioni, non ha rimosso il contenuto dal sito. Secondo il comitato, il video soddisfa i criteri stabiliti per le violazioni sessuali non consensuali.
Le richieste avanzate al comitato
- Eliminare il video: il comitato richiede che Meta rimuova il video specifico da Instagram per conformità alle sue linee guida.
- Revisione completa delle politiche: Meta dovrà aggiornare le norme relative allo sfruttamento sessuale degli adulti, vietando esplicitamente la creazione di rappresentazioni sessuali di soggetti reali generate tramite AI.
- Modulo di segnalazione migliorato: viene proposto di aggiungere una sezione dedicata alla segnalazione di contenuti sessuali generati artificialmente, separata da quelle relative a molestie o nudità.
- Gestione account collegati: Meta deve consentire agli utenti di designare persone fidate (ad esempio, familiari o amici) che possano segnalare violazioni in loro nome.
Il comitato sottolinea che la normativa internazionale si evolve in fretta e che le aziende che gestiscono piattaforme di grande rilevanza sociale dovrebbero adattare le proprie policy al contesto legale e sociale in modo proattivo. L’uso di AI per generare contenuti sessuali non consensuali non solo rappresenta una minaccia per la privacy, ma anche un rischio concreto per la sicurezza emotiva e fisica dei soggetti coinvolti.
Il contesto più ampio e le prospettive
Con il progressivo aumento dell’uso di intelligenze artificiali, il tema della moderazione del contenuto assume una centralità crescente. La capacità di riconoscere, evitare e rimuovere contenuti dannosi generati artificialmente spesso passa attraverso sistemi di gestione non ancora sufficientemente ottimizzati. Meta, insieme ad altre grandi aziende tecnologiche, è vista come una guida in questo settore, ma spesso rimane in ritardo rispetto alle esigenze attuali.
I cambiamenti richiesti non sono solo tecnici ma culturali. È necessario che Meta e il mercato intero adottino una visione più proattiva rispetto alla protezione dei propri utenti e al rispetto dei diritti fondamentali, specialmente in relazione all’utilizzo responsabile dell’AI.