Facebook necesita 30.000 de sus propios moderadores de contenido, dice un nuevo informe

Associated Press Associated Press

Imagínese si Facebook dejara de moderar su sitio ahora mismo. Cualquiera podía publicar lo que quisiera. La experiencia parece sugerir que pronto se convertiría en un ambiente infernal repleto de spam, intimidación, crimen, decapitaciones de terroristas, textos neonazis e imágenes de abuso sexual infantil. En ese escenario, grandes franjas de su base de usuarios probablemente se irían, seguidas por los lucrativos anunciantes.

Pero si la moderación es tan importante, no se trata como tal. La gran mayoría de las 15.000 personas que pasan todo el día decidiendo qué puede y qué no puede estar en Facebook ni siquiera trabajan para Facebook. Toda la función de moderación de contenido se asigna a proveedores externos, que emplean trabajadores temporales. en contratos precarios en más de 20 sitios en todo el mundo. Tienen que revisar cientos de publicaciones al día, muchas de las cuales son profundamente traumatizante . Los errores son abundante , a pesar de la adopción por parte de la empresa de herramientas de IA para clasificar los mensajes según los que requieran atención. Facebook mismo ha admitido una tasa de error del 10%, ya sea que se trate de marcar incorrectamente publicaciones para eliminar que deberían mantenerse o viceversa. Dado que los revisores tienen que revisar tres millones de publicaciones por día, eso equivale a 300 000 errores diarios. Algunos errores pueden tener efectos mortales. Por ejemplo, los miembros del ejército de Myanmar usaron Facebook incitar al genocidio contra la minoría rohinyá, mayoritariamente musulmana, en 2016 y 2017. La empresa admitió más tarde que no hizo cumplir sus propias políticas prohibir el discurso de odio y la incitación a la violencia.

Si queremos mejorar la forma en que se lleva a cabo la moderación, Facebook necesita traer moderadores de contenido internos, convertirlos en empleados de tiempo completo y duplicar su número, argumenta un nuevo reporte del Stern Center for Business and Human Rights de la Universidad de Nueva York.

La moderación de contenido no es como otras funciones subcontratadas, como cocinar o limpiar, dice el autor del informe Paul M. Barrett, subdirector del centro. Es una función central del negocio de las redes sociales, y eso hace que sea algo extraño que se trate como si fuera un problema periférico o de otra persona.

¿Por qué los líderes de Facebook tratan la moderación de contenido de esta manera? Al menos en parte se debe al costo, dice Barrett. Sus recomendaciones serían muy costoso para que la empresa promulgue, muy probablemente en decenas de millones de dólares (aunque para poner esto en perspectiva, hace billones de dolares de beneficio cada año). Pero hay una segunda razón, más compleja. La actividad de moderación de contenido simplemente no encaja en la autoimagen de Silicon Valley. Ciertos tipos de actividades son muy valoradas y glamorosas: innovación de productos, marketing inteligente, ingeniería... el mundo esencial de la moderación de contenido no encaja en eso, dice.

Él cree que es hora de que Facebook trate la moderación como una parte central de su negocio. Él dice que elevar su estatus de esta manera ayudaría a evitar el tipo de errores catastróficos cometidos en Myanmar, aumentaría la responsabilidad y protegería mejor a los empleados de daños a su salud mental.

Parece una realidad inevitable que la moderación del contenido siempre implicará estar expuesto a algún material horrible, incluso si el trabajo se lleva a cabo internamente. Sin embargo, hay mucho más que la empresa podría hacer para que sea más fácil: evaluar mejor a los moderadores para asegurarse de que estén verdaderamente conscientes de los riesgos del trabajo, por ejemplo, y asegurarse de que tengan atención y asesoramiento de primer nivel disponibles. Barrett cree que la moderación del contenido podría ser algo que todos los empleados de Facebook deben hacer durante al menos un año como una especie de período de servicio para ayudarlos a comprender el impacto de sus decisiones.

El informe hace ocho recomendaciones para Facebook:

• Deje de subcontratar la moderación de contenido y eleve la posición de los moderadores en el lugar de trabajo.
• Duplica el número de moderadores para mejorar la calidad de la revisión del contenido.
• Contrate a alguien para supervisar el contenido y la verificación de datos que informe directamente al director ejecutivo o al director de operaciones.
• Ampliar aún más la moderación en los países en riesgo de Asia, África y otros lugares.
• Proporcione a todos los moderadores atención médica in situ de alta calidad, incluido el acceso a psiquiatras.
• Patrocine la investigación sobre los riesgos para la salud de la moderación de contenido, en particular el TEPT.
• Explore la regulación gubernamental estrictamente adaptada del contenido dañino.
• Ampliar significativamente la verificación de hechos para desacreditar información falsa.

Las propuestas son ambiciosas, por decir lo menos. Cuando se contactó para hacer comentarios, Facebook no discutió si consideraría promulgarlos. Sin embargo, un portavoz dijo que su enfoque actual significa que podemos ajustar rápidamente el enfoque de nuestra fuerza laboral según sea necesario, y agregó que nos brinda la capacidad de asegurarnos de que tenemos la experiencia lingüística adecuada, y podemos contratar rápidamente en diferentes zonas horarias, a medida que surjan nuevas necesidades. surgen o cuando una situación en el mundo lo amerita.

Pero Barrett cree que un experimento reciente realizado en respuesta a la crisis del coronavirus muestra que el cambio es posible. Facebook anunció que debido a que muchos de sus moderadores de contenido no pudieron ingresar a las oficinas de la empresa, transferir la responsabilidad a los empleados internos para verificar ciertas categorías sensibles de contenido.

Me parece muy revelador que en un momento de crisis, Zuckerberg haya confiado en las personas en las que confía: sus empleados de tiempo completo, dice. Tal vez eso podría verse como la base de una conversación dentro de Facebook sobre cómo ajustar la forma en que ve la moderación de contenido.

esconder