Il recente lancio di Muse Image, la nuova IA di Meta per creare e modificare immagini, si è trasformato in una controversia quando è emersa una funzione che permetteva a chiunque di editare qualsiasi foto pubblicata su un profilo Instagram accessibile a tutti. Pur potendoci disattivare, la funzione attivata di default ha fatto infuriare gli utenti che hanno visto compromessa la privacy. La reazione della comunità ha costretto Meta a intervenire e a ritirare immediatamente la feature.
Muse Image ha permesso di manipolare foto di utenti senza il loro consenso
Meta ha annunciato il venerdì scorso la rimozione della controversa funzione che permetteva l'uso di foto da profili Instagram pubblici per generarne di nuove tramite l'intelligenza artificiale. Le numerose proteste degli utenti, riguardo all'autorità esclusiva sugli usi delle loro foto, hanno avuto la meglio. La compagnia ha sottolineato come l'obiettivo fosse offrire uno strumento creativo, riconoscendo però che la funzione aveva prodotto effetti collaterali imprevisti.
"La nostra intenzione era di fornire uno strumento creativo utile e permettere agli utenti di decidere se il loro contenuto pubblico potesse essere usato in questo modo", ha comunicato Meta. "I feedback ricevuti indicano che la funzione non ha soddisfatto le aspettative; non è più disponibile."
Una funzione che permetteva di falsificare contenuti e generare deepfake
La funzione di Muse Image consentiva agli utenti di Meta AI di cercare un profilo Instagram e di scaricare tutte le immagini pubbliche associate per manipolarle, modificarle, o reinterpretarle. Questo ha aperto la strada a possibili abusi, come la creazione di deepfake o la manipolazione di contenuti sensibili. La comunità di Instagram ha espresso preoccupazione per il rischio di frodi digitali o l'uso non autorizzato di foto personali.
Non è chiaro se le immagini modificate con Muse Image prima del blocco saranno rimosse, e neppure come Meta intenda gestire le altre implicazioni che potrebbero emergere, ad esempio per la reputazione e la sicurezza degli utenti.
La decisione di Meta non è passata inosservata
Per una compagnia di questa entità, sorprendente è il fatto che Meta abbia lanciato questa funzionalità senza considerare a fondo le sue ricadute. La mancanza di controllo e trasparenza, in particolare per chi non aveva mai attivato l'opzione, ha rivelato una grave mancanza di sensibilità verso la privacy dell'utente.
La scelta di disattivare questa funzione è però stata apprezzata. Tuttavia, i dubbi su come l'azienda possa gestire tecnologie nuove come Muse Image rimangono. Molti si chiedono se Meta non possa ripresentare una versione aggiornata, stavolta meglio regolamentata, della stessa funzione.
La funzionalità di Muse Image rimane per il momento bloccata
Con le attuali misure adottate, Meta ha sospeso l’utilizzo di Muse Image per modificare foto di profili Instagram. Rimane aperto il tema degli sviluppi futuri, che dovrà tenere conto del rispetto della volontà dell’utente e di un uso responsabile della tecnologia.
Gli esperti osservano con attenzione questo caso per capire se Meta abbia preso coscienza dei limiti dell’IA applicata all’editing di immagini senza controlli rigorosi. Fino ad allora, il rischio che funzioni simili possano creare nuove polemiche non è da escludere.