Meta ha lanciato Muse Image, un nuovo generatore di immagini KI, che ha suscitato controversie pochi giorni dopo il suo rilascio. La funzione permette agli utenti di generare immagini tramite promemoria di contenuti pubblici di Instagram, senza notificare ai titolari dei profili coinvolti. L’azienda ha ufficialmente ritirato la funzione a causa delle critiche ricevute.
La funzione ha creato un acceso dibattito
Secondo un post sul blog di Meta, Muse Image è in grado di gestire input complessi e combinare diversi fotogrammi in produzioni di alta qualità. I nuovi servizi del programma includono il miglioramento di foto familiari obsolete, la rimozione di figure da sfondi di immagini, e la creazione rapida di QR code e grafici. Inoltre, Meta fornisce suggerimenti per gli input, mentre posiziona Muse Immage come strumento creativo per personalizzare immagini con KI che coinvolgono persone reali, grazie all'integrazione con pubblici profili di Instagram.
Ma la controversia è emersa proprio in questa ultima funzione, in virtù della quale gli utenti non ricevevano alcun avviso se i loro contenuti venivano utilizzati.
Le preoccupazioni sollevate
Secondo quanto reportato dal Spiegel, la Società degli Attori degli Stati Uniti, SAG-AFTRA, e diversi personaggi celebri hanno richiesto che Meta disabilitasse la funzione manualmente. L'unione ha dichiarato che l'accordo automatico da parte degli utenti è stato ritenuto inaccettabile e un chiaro equivoco riguardante l’opinione pubblica. Una preoccupazione predominante era la possibilità di una nuove ondata di immagini generata da KI sessuali o offensive.
Lo scorso anno, per esempio, la funzione del chatbot integrato in X, Grok, ha creato una tempesta di indignazione globale: in soli undici giorni, analisi hanno rivelato l’emergere di circa tredici milioni di immagini generate da KI che rappresentavano donne in atteggiamenti sessuali. Tra i materiali creati, si suppone siano state inclusi anche immagini di minori e adolescenti.
Gli sviluppi recenti
Techcrunch ha riferito che Meta ha deciso di disattivare la funzione in seguito alla forte critica ricevuta. Secondo la comunicazione aziendale, l’obbiettivo originale della funzione era offrire agli utenti un utensile creativo e dargli contemporaneamente il controllo su come i loro contenuti pubblici fossero riferiti tramite tale strumento. “Tuttavia – si legge – abbiamo ricevuto feedback che questa funzione non ha raggiunto i suoi obiettivi, e per questo non è più disponibile.”
Reazioni positive e critiche
Dylan Byers, co-fondatore di Puck News, è stato il primo a pubblicare questa decisione su X, collegandola alle pressioni da parte sia degli utenti che delle agenzie talenti, come la CAA, una delle più grandi aziende di rappresentanza in America. Il giornale tedesco Spiegel ha riferito anche che l’unione SAG-AFTRA ha applaudito la scelta da parte di Meta di disabilitare la funzione.
Un precedente inquietante
La funzione controversa entra in una serie di precedenti problematici, tra cui il recentissimo caso relativo al generatore di immagini integrate in X. Il precedente caso ha evidenziato il potenziale di generare immagini inapproprie che, in molti casi, rappresentavano donne in contesti sessuali. In tale caso, l’indignazione ha scatenato un’ondata di richieste legislative da diversi governi.
Conclusione
Ancora una volta, la velocità con cui le funzioni di tecnologie avanzate vengono implementate ha creato forti critiche, non solo da parte dei consumatori, ma anche da figure politiche e sindacali. Il ritiro della funzione Muse Immage da parte di Meta dimostra che le aziende tecnologiche sono sempre più consapevoli del potenziale impatto delle loro iniziative su un pubblico globale e che devono procedere con estrema attenzione.