La Cina sta stringendo regole sull’uso di un tipo specifico di intelligenza artificiale: quella che cerca di emulare i comportamenti umani, come ad esempio un amico o una relazione sentimentale. Dati i recenti sviluppi, gli sviluppatori di tecnologie come Doubao, ByteDance e Qwen, Alibaba, stanno già disattivando questi agenti personalizzati.
Un periodo di transizione per l'IA antropomorfa
Doubao ha già informato i propri utenti che i suoi chatbot personalizzati smetteranno di funzionare entro fine luglio, citando “aggiustamenti al prodotto”. Le conversazioni salvate non saranno più accessibili entro un mese da questa data. Qwen seguirà un piano simile ma più rapido, con la disattivazione dei suoi agenti ad inizio luglio, seguita dalla eliminazione delle altre funzioni poco dopo.
Queste modifiche anticipano l’applicazione delle nuove regole, le “Misure provvisorie per la gestione dei servizi di interazione antropomorfica con IA” pubblicate di recente dal governo cinese.
Cosa non riguarda la normativa
Molto interessante è riconoscere che questa normativa non si estende all’IA generale. Vengono esclusi asistenti IA per lavoro, studio, ricerca o assistenza clienti. Invece, si concentrano sugli strumenti che simulano “tratti di personalità, modelli di pensiero e stili di comunicazione umani” con l’obiettivo di creare interazioni emotive prolungate.
IA che simulano relazioni
I funzionalità eliminate da queste piattaforme erano quelle che permettevano di trasformare un chatbot normale in un personaggio inventato, un amico, o addirittura un partner romantico. Questi agenti avevano una personalità fissa, una memoria, e uno stile di comunicazione specifico, che creavano un legame emotivo con l’utente.
Vigilare contro la dipendenza
Il focus principale della normativa cinese non è riconoscere pericoli specifici come avviene in Europa, bensì preoccuparsi dell’eccessiva dipendenza emotiva, e della possibilità di manipolazione da parte di questi sistemi. Le normative vietano inoltre qualsiasi incentivo al legame che potrebbe risultare irrazionale e dannoso per la salute umana.
Per riconoscere e frenare tali effetti dannosi, la normativa richiede all’IA di autoanalizzarsi. In situazioni in cui il sistema percepisce emotività eccessiva da parte dell’utente, deve proporre l’aiuto esterno. Dopo due ore di conversazione continua, gli utenti sono ricordati di riposare.
Proteggere gli utenti vulnerabili
- I minori
- Gli anziani
Vengono dedicate particolari attenzioni e restrizioni. Per esempio, si proibisce il contatto intimo di questi chatbot con soggetti sensibili e si richiede il consenso dei genitori. Inoltre, si sottolinea il bisogno di protezione per chi soffre di solitudine o di dipendenza emotiva.
Un cambio di paradigma
Per la prima volta, si inizia a normare non tanto in base alla potenza dei modelli di IA, quanto alla loro capacità di instaurare relazioni personali con gli utenti. Questo tipo di discussione probabilmente raggiungerà presto Europa e Stati Uniti, poiché si sta parlando di un sistema tecnologico che ha già invaso lo spazio relazionale e emotivo.
Immagine | Andy Kelly
In Xataka | Fare sentire all’IA le proprie preoccupazioni era solo l’inizio: ormai ci sono bot che si fanno passare per psichiatri registrati