Non era così difficile per qualcuno con il background tecnico di Steven Anderegg iniziare a creare immagini generate dall'IA di bambini nudi.
Anderegg aveva trascorso quasi due decenni come ingegnere software quando, secondo documenti giudiziari, ha scaricato un programma chiamato Stable Diffusion sul suo laptop a casa, nel Wisconsin, dove viveva con la moglie e un figlio. A quel tempo, Stable Diffusion era un modello di IA relativamente nuovo che poteva trasformare prompt testuali in immagini realistici quasi istantaneamente. La tecnologia era anche open-source, il che significava che il suo codice era disponibile online gratuitamente. Chiunque avesse un certo livello di competenze tecniche poteva farlo funzionare sul proprio computer.
Dopo che Anderegg ha scaricato il software, secondo le accuse, ha usato prompt per generare foto illecite di bambini, istruendo il software di non restituire immagini di adulti e altre cose che non voleva vedere. Poi è accusato di averle inviate nell'ottobre 2023 a un ragazzo di 15 anni su Instagram, il che ha attirato l'attenzione delle forze dell'ordine. Quando la polizia ha infine arrestato Anderegg di 42 anni nel febbraio 2024, gli investigatori hanno trovato oltre 13.000 immagini generate dall'IA sui suoi dispositivi, "molte delle quali si presume siano di bambini coinvolti in condotte sessualmente esplicite", secondo documenti giudiziari. Anderegg, che è ancora in attesa del processo, rischia fino a 50 anni di prigione.
Modelli Open-Source e Ab sui Minori
I modelli di IA che aprono tutto o una sostanziale parte del loro codice sorgente stanno alimentando un aumento di materiale di abuso sessuale su minori generato dall'IA, secondo più di una dozzina di esperti di sicurezza per l'infanzia e funzionari delle forze dell'ordine specializzati in reati sessuali che mirano ai minori. Gli investigatori hanno detto che i loro casi hanno coinvolto Stable Diffusion, realizzato da Stability AI con sedi a Londra e Los Angeles, così come i modelli Flux di Black Forest Labs in Germania e una serie di strumenti popolari dalla Cina, inclusi i modelli Qwen di Alibaba Group Holdings Ltd. e Hunyuan di Tencent Holdings Ltd.
Una volta che il software gratuito viene scaricato su un computer personale, può essere personalizzato o addestrato utilizzando archivi esistenti di materiale di abuso sessuale su minori per creare un numero effettivamente illimitato di ulteriori immagini simili. E poiché non è connesso a Internet e i prompt degli utenti non vengono inviati a nessun servizio commerciale dove possano essere segnalati per comportamenti illegali e segnalati alla polizia, l'attività è quasi impossibile da tracciare.
Gli investigatori hanno detto che i modelli open-source hanno dato ai predatori una nuova attività criminale: riciclare e ripacchettare immagini di vittime reali in nuove scene basate sulla loro immaginazione. Le loro modifiche all'IA possono anche essere basate su richieste di altri criminali sul dark web, dove i forum dedicati alla pornografia per minori generata dall'IA possono avere centinaia di migliaia di membri.
"La tua immaginazione non ha limiti quando usi l'IA", ha detto Danny van Althuis, che guida un team presso l'Agenzia dell'Unione Europea per la cooperazione di polizia giudiziaria, o Europol, che coordina e supporta indagini su sfruttamento e abuso sessuale minorile in 27 paesi membri. I modelli di IA open-source utilizzati in questi reati, ha detto, sembrano fossero "fatti per il crimine".
Open-Source vs Commerciali
A differenza di molti degli strumenti di IA più popolari al mondo, come ChatGPT di OpenAI e Claude di Anthropic PBC, che operano nel cloud e sotto salvaguardie imposte dai loro creatori, i modelli di IA open-source possono essere scaricati e modificati per fare quasi tutto ciò che gli utenti desiderano. I modelli open-source e open-weight differiscono esattamente per quanto parte del codice del modello è disponibile per il download, ma entrambi i tipi possono essere utilizzati per creare immagini di abuso sessuale su minori.
Per gran parte dell'industria tecnologica, questi modelli di IA open-source sono essenziali. Sono estremamente popolari tra sviluppatori e startup alla ricerca di software economico e personalizzabile per alimentare i loro prodotti, soprattutto quando gli strumenti dai principali laboratori come Anthropic e OpenAI diventano più costosi da utilizzare. Hugging Face, un importante deposito di software open-source per l'IA che il produttore di chip di punta Nvidia Corp. ha concordato di acquisire a settembre, ha visto la sua base di utenti quasi raddoppiare quest'anno a 13 milioni di persone, con il numero di modelli nella sua libreria anch'esso raddoppiato a oltre 2 milioni.
Molti dei laboratori di IA più avanzati negli Stati Uniti, inclusi quelli di OpenAI, Meta Platforms Inc. e Alphabet Inc.'s Google, stanno sviluppando modelli open-source per cercare di far arrivare la loro tecnologia nel maggior numero di mani possibile. Ma la Cina ha guidato la strada in questo settore, e i rapidi progressi nelle prestazioni e nell'efficienza di costo ed energetica dei modelli di Moonshot AI, Alibaba, DeepSeek e altri sono diventati un punto di tensione geopolitica con gli Stati Uniti.
"C'è quasi nessun modo avere una sorveglianza una volta che hai scaricato un modello localmente e lo stai eseguendo sul tuo sistema privato"
Alcuni modelli open-source provenienti dalla Cina sono così avanzati che dozzine di principali aziende tecnologiche statunitensi hanno recentemente firmato una lettera esortando i legislatori americani a evitare restrizioni sulla tecnologia per timore di rimanere indietro. La lettera è stata sostenuta da dirigenti di alcune delle maggiori aziende tecnologiche del paese, tra cui Jensen Huang di Nvidia, Satya Nadella di Microsoft Corp. e Elon Musk di SpaceX Corp.
"Il nostro obiettivo dovrebbe essere che i modelli open source americani siano i migliori al mondo", ha scritto di recente Mark Zuckerberg di Meta.
Sfide di Sorveglianza e Modelli "Jailbroken"
L'amministrazione Trump ha proposto l'idea di sanzioni contro gli sviluppatori in Cina per lo sfruttamento delle capacità dei principali modelli di IA americani. Ma queste minacce si sono concentrate di più sull'estratto di dati su scala industriale da parte delle aziende cinesi piuttosto che su altri atti illegali più difficili da tracciare.
Una volta memorizzato su un dispositivo personale, qualsiasi barriera di sicurezza integrata in quei modelli può spesso essere rimossa o aggirata con piccole modifiche al software. Queste varianti "jailbroken" possono quindi essere utilizzati per scopi nefasti, inclusi lanciare attacchi informatici o generare materiale di abuso sessuale su minori.
"C'è quasi nessun modo avere una sorveglianza una volta che hai scaricato un modello localmente e lo stai eseguendo sul tuo sistema privato", ha detto Rebecca Portnoff.