Meta prevede di sostituire il 90% del proprio personale di moderazione del contenuto con l'intelligenza artificiale entro la fine dell'anno. Questo piano, che riduce significativamente la supervisione manuale, prevede che analisi di post, commenti e conformità pubblicitaria siano eseguite quasi interamente da modelli di inteliggenza artificiale interni sviluppati da Meta. Attualmente, i sistemi di moderazione automatizzata supervisionano già circa il 50% di queste attività.

La strategia di Meta

D’ora in poi, entro il 31 dicembre, i contenuti, i commenti e l’analisi della conformità delle campagne pubblicitarie saranno quasi interamente gestiti da un modello di intelligenza artificiale sviluppato inhouse da Meta. L’azienda sostiene che tali modelli linguistici di grandi dimensioni (LLM in inglese) riescano a commettere il 13% in meno di errori rispetto ai moderatori umani e a identificare il 10% in più di violazioni delle regole (in particolare quelle legate ai contenuti pubblicitari).

Una transizione che suscita preoccupazioni

Sia pur in termini di logica aziendale, questa decisione desta dibattito anche per il timing in cui è stata annunciata. Solo poche settimane fa, Meta ha rilevato una falla di sicurezza che ha compromesso circa 20.000 account Instagram a causa di un’azione automatizzata guidata da un’assistente IA, che ha consegnato codici di verifica a terzi malintenzionati. Si tratta solo di un esempio di quanto l’intelligenza artificiale possa introdurre nuovi rischi se mal configurata.

Il problema principale qui non è tanto la complessità tecnologica quanto il fatto che l’IA possa essere manipolata facilmente da un prompt malvagio. Con il crescente uso di sistemi di intelligenza artificiale per la gestione del contenuto, il rischio di attacchi mirati attraverso l'uso di input testuali diventa sempre più concreto.

Le incertezze economiche dell’IA

La transizione a un sistema di moderazione quasi interamente automatizzato non è soltanto una questione logistico-tecnica ma anche economica. L’implementazione e lo sviluppo dell’AI richiedono investimenti consistenti. Meta dovrebbe, infatti, convincere altre aziende a utilizzare i propri modelli d’AI, e al momento sembra difficile affermare che la tecnologia attuale possa garantire risultati soddisfacenti per tutti.

Un passo nel futuro o un passo pericoloso?

Sempre più si insinua il dubbio che, nonostante i tanti vantaggi promessi, questa strategia possa implicare nuove insidie. Meta, con questa mossa, cerca in modo radicale di ridurre i costi legati alla moderazione ma rischia di compromettere la qualità. Come si comporteranno i sistemi di IA in presenza di contenuti sottilemente sarcastici, espressioni argotiche o differenze culturali fini?

L’IA potrebbe non riconoscere toni sarcastici.

Difficile gestire le sfumature di un linguaggio regionale o generazionale.

Potrebbero verificarsi errori nel riconoscimento di immagini complesse o simboli contestuali.

Le moderazioni automatiche potrebbero peggiorare l’esperienza utente.

Un piano più ampio all'orizzonte

Questa decisione si inserisce nel più vasto contesto di una radicale ridefinizione interna di Meta. L’azienda, infatti, è da tempo a lavoro su uno dei propri piani di riduzione del personale più estesi, che potrebbero arrivare fino a 16.000 licenziamenti. La moderazione automatizzata non è una strategia fine a sé stessa, ma piuttosto una componente di un piano più ampio finalizzato a ridurre i costi operativi e ad aumentare l'efficienza.

Le criticità della moderazione AI

Sebbene Meta affermi che il suo AI gestirà i contenuti in modo più efficiente di un essere umano, il rischio di errori massicci non è trascurabile. L’azienda ha sperimentato una soluzione interattiva ispirata a Community Notes (precedentemente X) per aumentare la partecipazione della comunità alla moderazione. Tuttavia, resta poco chiaro come tale sistema si integrerà con una moderazione quasi completamente automatizzata.

Il dibattito più cruciale, però, va al di là dei meccanismi tecnologici. Esiste una domanda non risolta: meta ha forse troppo fretta di spingere sull’acceleratore dell’IA? Potrebbe la sua strategia introdurre nuovi problemi prima che siano completamente risolti quelli esistenti?