La settimana scorsa Meta ha lanciato Muse Image e Muse Video, modelli AI integrati nella app Meta AI. Il lancio, però, è stato rapidamente eclissato da forti critiche per una funzione introdotta all'interno di Muse Image. La funzione permetteva agli utenti di citare account Instagram pubblici per generare nuove immagini, semplicemente utilizzando l’@ davanti al nome utente.

Etichettare profili Instagram per generare immagini

Con Muse Image, il processo era semplice: basta digitare l’@ con il nome dell’utente e Muse Image recuperava foto dal profilo per generare immagini basate su quell’utente. Secondo Meta, l'intento era fornire una funzione creativa e lasciare ai propri utenti il controllo su come il loro contenuto pubblico veniva utilizzato.

I problemi emersi sono immediati. Infatti, Meta aveva attivato questa funzione per impostazione predefinita su tutti i profili Instagram pubblici, senza avvisare gli utenti né chiedere loro il permesso esplicito. Se si voleva disattivare l'etichetta per evitare di essere inclusi in un’immagine generata da Muse, bisognava fare una modifica manuale nelle impostazioni.

Reazioni negative e comunicato ufficiale

Fino al 7 luglio, data dell’annuncio ufficiale di Muse, Meta non aveva previsto una reazione così ampia sulle funzionalità di Muse Image. Pochi giorni dopo, le critiche si moltiplicarono e, il 11 luglio, Meta ha rilasciato un chiarimento formale su questa funzionalità problematica.

Nel comunicato ufficiale, Meta ha spiegato che l’intento era offrire qualcosa di creativo e fornire agli utenti maggiore autonomia sul loro contenuto pubblico. L’approccio però è stato erroneo: avrebbe dovuto offrire questa possibilità come un’opzione, non come una predefinita.

Secondo il comunicato pubblicato da Meta:

"A inizio settimana abbiamo annunciato una funzione che permetteva agli utenti di generare immagini citando account Instagram. La nostra intenzione era offrire un'opzione creativa e dare agli utenti il controllo sull'utilizzo del loro contenuto pubblico. Abbiamo ricevuto commenti che hanno chiarito che la funzione non ha raggiunto il risultato sperato. Per questo motivo la funzione è stata disattivata."

Le risultanze dell’esperienza

Con questa decisione, Meta è tornata indietro su una funzionalità lanciata solo un paio di giorni prima. La società, pur riconoscendo i vantaggi dell’iniziativa, ha dovuto ammettere i rischi che essa comportava in termini di riservatezza e controllo degli utenti.

Non chiedere il permesso agli utenti per l’utilizzo delle loro foto
Non comunicare esplicitamente l’attivazione automatica della funzione
Manca un’opzione chiara per escludere il profilo degli utenti
Mancanza di reazioni in tempo reale agli utenti che hanno espresso preoccupazione

Questo caso evidenziato da Xataka conferma il problema ricorrente per Meta relativo alla protezione e trasparenza dei dati degli utenti. In passato hanno affrontato numerose critiche simili, e questa funzionalità di Muse Image aggiunge un’altra critica alle pratiche della piattaforma.