Las reglas de moderación filtradas de Facebook muestran por qué Big Tech no puede vigilar el discurso de odio

Categoría: Silicon Valley Al corriente 28 de diciembre

La sociedad le pidió a Big Tech que cerrara el discurso de odio en línea. Obtuvimos exactamente lo que pedimos.

Las noticias: Max Fisher del New York Times extractos publicados de más de 1400 páginas de documentos internos de Facebook, que contienen reglas para el ejército global de la compañía de más de 7500 moderadores de contenido. (La placa base tenía publicado anteriormente algunos del mismo material.)

¿Qué hay adentro? Una mezcolanza en expansión de pautas, restricciones y clasificaciones. Solo las reglas sobre el discurso de odio llegan a 200 páginas llenas de jerga que dan vueltas a la cabeza. Incluyen detalles sobre cómo interpretar los emoji (aparentemente, el uso de ? puede ser tanto intimidación como elogio) y listas de personas o partidos políticos para monitorear posibles discursos de odio. Los documentos muestran que Facebook es un árbitro del discurso global mucho más poderoso de lo que ha admitido, escribe Fisher.

El problema: Las pautas no son solo bizantinas; algunos están desactualizados o contienen errores. También varían mucho según la presión a la que esté sometida la empresa: Facebook bloquea decenas de grupos de extrema derecha en Alemania, donde las autoridades examinan la red social, pero solo uno en la vecina Austria. Se espera que los moderadores, la mayoría de los cuales trabajan para empresas subcontratadas y reciben una capacitación mínima, emitan juicios complejos en cuestión de segundos. procesando mil publicaciones al día , con reglas que cambian con frecuencia en respuesta a eventos políticos y, a menudo, usando Google Translate.

La comida para llevar: Esto elimina cualquier pretensión restante que Facebook es solo una plataforma de publicación neutral. Los juicios políticos impregnan cada página de estas directrices.

Pero ¿qué esperabas? Como me dijo el exjefe de seguridad de Facebook, Alex Stamos, en octubre, exigimos que las plataformas tecnológicas vigilen el discurso de odio, y eso solo les da más poder. Ese es un camino peligroso, advirtió Stamos. Dentro de cinco o diez años, podría haber sistemas de aprendizaje automático que entiendan los lenguajes humanos tan bien como los humanos. Podríamos terminar con una moderación en tiempo real a velocidad de máquina de todo lo que decimos en línea.