L’11 giugno, un palloncino gigante che raffigurava Elon Musk seminudo e obeso è apparso al centro del Times Square, di fronte al Nasdaq. Circondato da striscioni neri, il messaggio recitava: “Grok produce pedopornografia con l’IA” e “SpaceX è proprietario di Grok”. Il giorno successivo, SpaceX ha iniziato il suo IPO con un valore record di 75 miliardi di dollari. L’azione era organizzata da oppositori del CEO.
Wired ha trovato decine di contenuti espliciti su Grok.com
Il noto media statunitense ha analizzato centinaia di link prodotti da Grok Imagine, lo strumento di creazione video del chatbot. Decine di loro conducevano a immagini e video sessuali contraffatti creati da un’IA.
- Alcuni rappresentavano celebrità.
- Altri mostravano Alexandria Ocasio-Cortez, deputata degli Stati Uniti.
- Alcuni link erano state condivisi su X, addirittura di recente.
I contenuti analizzati da Wired probabilmente rappresentano solo una piccola parte di ciò che è stato creato. Le immagini generate su richiesta degli utenti non sono visibili al pubblico.
Dopo che Wired ha contattato le squadre di Grok e X, i contenuti individuati sono stati rimossi. I link condivisi su X sono stati cancellati per violazione delle regole. Lo stesso schema si ripete a ogni inchiesta giornalistica. Il contenuto scompare quando qualcuno lo segnala. Riapre quando nessuno guarda.
Musk aveva assicurato che non sarebbe accaduto
L’amministratore delegato di SpaceX non aveva lasciato spazio agli equivoci: chiunque utilizzi Grok per creare contenuti illegali sarà trattato come se avesse pubblicato il contenuto lui stesso. Su X, la politica ufficiale esibisce una tolleranza zero verso l’abuso sessuale minorenne.
Le dichiarazioni erano forti. Sei mesi dopo, Wired ha scoperto i deepfake che esibivano donne famose in grok.com. Henry Ajder ha seguito la produzione di deepfake online da quasi dieci anni. Si aspetta che gli sforzi di Grok e X non riescano nemmeno a raggiungere lo standard delle altre piattaforme open source per il filtering.
Sono state registrate miglioramenti da gennaio
- Creare immagini di persone nudo adesso è più difficile.
- La quantità di questo tipo di contenuto in X è calata.
- Utenti di forum specializzati hanno lamentato una modifica maggiore.
Tuttavia, queste restrizioni non sono abbastanza per fermare la produzione di deepfake sessuali. SpaceX ha investito notevoli risorse per la sua quotazione in borsa. Chiaramente, la moderazione di Grok non è stata trattata con lo stesso livello di attenzione.
Le autorità stanno conducendo indagini
La Commissione Europea ha avviato un’indagine ad inizio anno. I Procuratori Generali di 35 Stati americani hanno chiesto misure correttive. Tre giovani americane hanno lanciato una causa collettiva a marzo. Un’indagine ha anche iniziato in Francia.