Un errore nella moderazione automatizzata di Discord ha portato alla sospensione non autorizzata di oltre 8400 account. I sistemi di moderazione artificiale, che normalmente verificano che i contenuti non siano dannosi, hanno fallito, identificando come pericolose immagini e file completamente inoffensivi. L’azienda ha riconosciuto il problema e ha affermato di aver risolto l'anomalia.
Il sistema di moderazione automatizzato di Discord
Discord utilizza un sistema automatizzato per rilevare e bloccare contenuti potenzialmente dannosi, compresi contenuti non adatti ai minori. Questo funziona confrontando i file caricati con un database di contenuti vietati. Se un allegato corrisponde o somiglia a un esempio del database, un team di moderatori verificherà il contenuto prima di applicare eventuali restrizioni.
In genere, durante questa verifica, l’upload è interrotto e non il conto stesso è immediatamente bloccato. Tuttavia, come segnalato da Discord via X, negli ultimi due mesi uno specifico bug ha fatto sì che molti utenti venissero temporaneamente privati dell’accesso al conto, anche per motivi insignificanti.
I conti bloccati per immagini e file inoffensivi
Secondo le informazioni ottenute da Techcrunch e condivise da Discord, tra maggio e luglio 2026 circa 8400 account sono stati sospesi in maniera errata. Tra le immagini e i file rifiutati c’erano, ad esempio, semplici file Excel, screenshot di scacchiere, texture di gioco 3D o sfondi trasparenti. L’azienda ha spiegato che la moderazione artificiale aveva interpretato erroneamente tali file come potenzialmente pericolosi.
Diversi utenti hanno espresso il loro disappunto attraverso social media e forum online. Alcuni hanno raccontato di aver smesso di condividere immagini per evitare di essere sospesi. Altri hanno affermato che le restrizioni sembravano essere state applicate in maniera indiscriminata.
Ripristino parziale e aggiornamenti
Il problema è stato aggravato da un ulteriore bug che ha ostacolato il team di supporto, limitandone la capacità di riattivare i conti compromessi. L’azienda ha annunciato di aver risolto entrambi i bug e di aver ripristinato l’accesso a tutti gli account sospesi. Inoltre, Discord ha aggiunto di essere al lavoro per adottare nuove misure preventive per riconoscere in tempo i problemi simili in futuro.
Esecuzione di una moderazione più precisa
La società ha affermato, in una dichiarazione, che i suoi algoritmi di moderazione saranno ottimizzati in modo da non infliggere inutili punizioni per contenuti inoffensivi. L’obiettivo, ha sottolineato, è prevenire errori di moderazione automatizzati che possano compromettere l’esperienza dei suoi utenti.
Il caso di Discord non è isolato. Anche in passato piattaforme come Instagram e Facebook avevano ricevuto critiche da parte dei propri utenti per sospensioni di account ritenute ingiuste. Anche nel 2025, Tumblr aveva ricevuto forti critiche per il misterioso blocco di conti di alcuni utenti, con sospetti che un sistema automatizzato di moderazione KI fosse il responsabile, anche se il gruppo Meta non ha mai confermato questa ipotesi.