El automoderador de Reddit es el futuro de Internet y es profundamente imperfecto

imagen de hombre mirando código de computadora tres monitores automoderador automod moderando reddit Jefferson Santos via Unsplash

Durante los últimos cuatro años, Shagun Jhaver ha moderado varios subreddits, desplazándose diligentemente por las páginas y bloqueando las publicaciones que violan las reglas de la comunidad o son totalmente ofensivas.

Jhaver, estudiante de doctorado en Georgia Tech cuya investigación se centra en la moderación de contenido, se preguntó si un moderador automático podría ayudarlo a ahorrar no solo tiempo, sino también el costo mental de filtrar contenido psicológicamente agotador. Entonces, junto con tres colegas, se dispuso a averiguar si un moderador automático, en este caso, AutoMod —realmente funcionó.

El equipo moderó personalmente varias páginas en Reddit y luego realizó entrevistas con otros 16 moderadores de algunos de los subreddits más populares del sitio, incluidos r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying y r/politics, cada uno de los cuales tiene millones de suscriptores. Todos confían en AutoMod para ayudarlos a moderar. Jhaver presentará el trabajo la próxima semana en el Jornada ACM sobre Trabajo Cooperativo Soportado por Ordenador y Computación Social .

Las plataformas de redes sociales como Facebook, Instagram y YouTube han confiado durante mucho tiempo en moderadores humanos para revisar manualmente el contenido y eliminar material violento y ofensivo que va desde discursos de odio racistas y sexistas hasta videos gráficos de tiroteos masivos. A menudo, al trabajar por contrato, con un salario mínimo y pocos beneficios, los moderadores pueden trabajar muchas horas mientras se ven abrumados por contenido que afecta gravemente su salud mental .

Los automoderadores son un intento de mitigar el tedio y los efectos negativos de dicho trabajo. Desarrollado por Redditor Chad Birch como una forma de aumentar su capacidad para moderar el canal r/gaming, AutoMod es una herramienta basada en reglas para identificar palabras que violan las políticas de publicación de una página determinada. Desde entonces, se ha generalizado su uso: Reddit lo adoptó en todo el sitio en 2015, y las enormemente populares plataformas de transmisión de juegos Twitch y Discord siguieron su ejemplo poco después.

Sin embargo, es cuestionable si AutoMod es realmente un ahorro de tiempo. Por un lado, los moderadores automáticos son muy buenos en lo que hacen: si están programados para encontrar palabrotas, encontrarán y bloquearán las publicaciones que las contengan sin falta. Puede enviar notificaciones a los carteles sobre contenido problemático, lo que Jhaver dice que es educativo, ya que los autores pueden saber qué estaba mal con lo que publicaron.

Eso no es una hazaña pequeña. Como señalan Jhaver y sus colegas, se eliminó alrededor del 22 % de todos los envíos en Reddit entre marzo y octubre de 2018. Eso equivale a alrededor de 17,4 millones de publicaciones en ese período de tiempo.

Pero digamos que la palabra es importante para el contexto en la publicación: una discusión en 2016 sobre el infame discurso del futuro presidente Donald Trump. comentario sobre agarrar los genitales de una mujer , por ejemplo. Dichas publicaciones se marcarían debido al lenguaje ofensivo, aunque discutir ese lenguaje es el objetivo de la publicación en primer lugar. Jhaver dice que esto frustra a los usuarios, que luego tienen que regresar y pedirles a los moderadores que restablezcan la publicación.

Y en un mundo de redes sociales donde el contenido preocupante consiste cada vez más en memes ofensivos, transmisiones en vivo de tiroteos u otro contenido visual sin texto, la dependencia de AutoMod para encontrar palabras clave es una gran responsabilidad.

Robert Peck, moderador de los grandes subreddits r/pics y r/aww, lo sabe muy bien. Cada una de esas páginas está impulsada por imágenes, y cada una tiene millones de seguidores que publican mucho más contenido del que se le podría pedir razonablemente a cualquiera que examine.

Aún así, dice que aunque no puede analizar imágenes, AutoMod ha facilitado su trabajo. Los usuarios agregan descriptores a las imágenes directamente y podemos verificar esos títulos, dice. Buscamos engorde de cuentas o spam que tengan cuentas que automaticen las publicaciones. A menudo usan paréntesis. Podemos decirle a AutoMod que busque esos patrones.

Nos guste o no, AutoMod y sus similares son el futuro de la moderación de plataformas sociales. Probablemente siempre será imperfecto, porque las máquinas todavía están muy lejos de comprender verdaderamente el lenguaje humano. Pero esto es de lo que se supone que se trata la automatización: ahorrar tiempo a las personas en tareas tediosas u objetables. Ser capaz de concentrarse en publicaciones que requieren un toque humano hace que el trabajo de un moderador sea mucho más valioso y permite que tanto los moderadores como los que publican se centren en tener mejores conversaciones.

No resolverá el problema de las personas que publican contenido desagradable, malicioso o nocivo; ese seguirá siendo uno de los problemas más espinosos que afectan a la Internet moderna. Pero está marcando la diferencia. Peck dice que está agradecido por la capacidad de AutoMod para ayudarlo a procesar publicaciones por lotes. Es una pieza de tecnología poderosa y bastante fácil de usar, no se acerca a la dificultad de programar un bot equivalente, dice. [AutoMod] es mi herramienta más poderosa y estaría perdido sin ella.

esconder