Discord reconoció públicamente que un error en su sistema de moderación automatizada provocó el baneo indebido de más de 8.000 cuentas desde el pasado mes de mayo. El fallo afectó especialmente a usuarios que compartieron imágenes con patrones de cuadrícula, como tableros de ajedrez, texturas de videojuegos, inventarios de Minecraft, hojas de cálculo e incluso fondos transparentes en blanco y gris, contenidos completamente inofensivos que fueron erróneamente identificados como material perjudicial.
Según explicó la compañía a través de un hilo en X, su sistema de seguridad está diseñado para comparar el contenido subido por los usuarios con bases de datos de material dañino conocido. Este mecanismo de similitud puede generar "falsos positivos", motivo por el cual un miembro del equipo de Confianza y Seguridad debía revisar el contenido marcado antes de tomar cualquier medida. Sin embargo, un fallo técnico hizo que el sistema no solo bloqueara temporalmente la subida de contenido durante la revisión, sino que procediera directamente a banear a los usuarios. Una vez que el personal revisaba y aprobaba las cuentas, el mismo error impedía que la suspensión se levantara automáticamente, por lo que la penalización se mantenía de forma indefinida.
Stanislav Vishnevskiy, cofundador y director de tecnología de Discord, confirmó que el error afectó a aproximadamente 200 usuarios que publicaron imágenes con patrones cuadriculados, además de unas 8.000 personas que compartieron "otras imágenes benignas". "Todos los afectados ya han sido desbaneados", aseguró el ejecutivo. La compañía indicó que las cuentas están siendo restauradas y que trabaja en implementar mejores salvaguardas para evitar que un incidente similar vuelva a producirse.
La oleada de baneos generó una creciente frustración en redes sociales y foros como Reddit, donde numerosos usuarios relataron haber sido suspendidos permanentemente por subir fotografías de tableros de ajedrez o texturas de sus propios videojuegos. Algunos afectados argumentaron que las consecuencias de un baneo basado exclusivamente en detección automatizada pueden ser devastadoras, especialmente para quienes dependen de Discord para trabajar, coordinarse con comunidades de jugadores o mantener relaciones sociales a distancia. Un usuario identificado como desarrollador de juegos señaló en X que perdió su cuenta tras ser acusado erróneamente de distribuir material de explotación infantil, y reclamó su restitución argumentando que utiliza Discord como herramienta principal de comunicación profesional.
Una de las hipótesis más repetidas entre los usuarios afectados es que los sistemas de moderación de Discord se han vuelto excesivamente sensibles a los patrones cuadriculados porque este tipo de imágenes han sido utilizadas históricamente para intentar ocultar o disfrazar contenido NSFW y material de explotación infantil de los detectores automáticos. Esto habría provocado una reacción desproporcionada del algoritmo ante cualquier imagen que presentara esa estructura visual.
El episodio pone de relieve uno de los desafíos crecientes de la moderación asistida por inteligencia artificial, en un momento en que las plataformas dependen cada vez más de sistemas automatizados para identificar contenido ilegal o abusivo a gran escala. Discord no es la primera compañía en enfrentar problemas de este tipo: el año pasado, usuarios de Instagram y Facebook Groups reportaron suspensiones masivas e inexplicables que muchos atribuyeron a fallos en la moderación mediante IA, aunque Meta nunca confirmó públicamente si los errores fueron responsabilidad de sus algoritmos. El Oversight Board de Meta ha solicitado desde entonces una mayor transparencia en los procesos de suspensión de cuentas. Tumblr también enfrentó quejas similares por suspensiones atribuidas a sus sistemas de filtrado de contenido.
Aunque la restauración de las cuentas afectadas representa un primer paso para resolver la crisis, el caso deja interrogantes sobre los mecanismos de recurso y debido proceso que ofrecen las plataformas cuando la automatización falla. La experiencia de Discord evidencia la necesidad de establecer capas adicionales de verificación y canales de apelación efectivos que permitan a los usuarios recuperar el acceso a sus cuentas sin tener que recurrir a la presión pública en redes sociales para que la compañía reconozca el error.