211service.com
Mujeres periodistas y políticas negras reciben un tuit abusivo cada 30 segundos
El aprendizaje automático revela un nivel inquietante de acoso, abuso y troleo dirigido a mujeres y minorías en Twitter. 18 de diciembre de 2018
Marta Bjork | Unsplash
Twitter puede ser un lugar tóxico. En los últimos años, el troleo y el acoso en el sitio lo han convertido en una experiencia extremadamente desagradable y perturbadora para muchas personas, en particular para las mujeres y las minorías. Pero identificar y detener automáticamente dicho abuso es difícil de hacer de manera precisa y confiable. Esto se debe a que, a pesar de todos los avances recientes en IA, las máquinas en general todavía luchan por responder de manera significativa a la comunicación humana. Por ejemplo, a AI generalmente le resulta difícil detectar mensajes abusivos que pueden ser sarcásticos o disfrazados con una pizca de palabras clave positivas.
Un nuevo estudio ha utilizado el aprendizaje automático de última generación para obtener una instantánea más precisa de la escala del acoso en Twitter. Su análisis confirma lo que mucha gente ya sospechará: las periodistas y políticas mujeres y pertenecientes a minorías se enfrentan a una cantidad impactante de abusos en la plataforma.
El estudio realizado por Amnistía Internacional en colaboración con la firma canadiense ElementosAI , muestra que las políticas y periodistas negras tienen un 84 % más de probabilidades de ser mencionadas en tuits abusivos o problemáticos que las mujeres blancas en la misma profesión.
Es simplemente enloquecedor, dice Julien Cornebise, director de investigación de ElementAI en Londres, una oficina enfocada en las aplicaciones humanitarias del aprendizaje automático. Estas mujeres son una gran parte de cómo funciona la sociedad.
Los investigadores de ElementAI utilizaron por primera vez una herramienta de aprendizaje automático similar a la que se usa para clasificar el spam para identificar tweets abusivos. Luego, los investigadores dieron a los voluntarios una combinación de tweets preclasificados y nunca antes vistos para clasificar. Los tuits identificados como abusivos se utilizaron para entrenar una red de aprendizaje profundo. El resultado es un sistema que puede clasificar el abuso con una precisión impresionante, según Cornebise.
El proyecto se centró en los tuits enviados a políticos y periodistas. En el estudio, 6500 voluntarios de 150 países ayudaron a clasificar el abuso en 228 000 tuits enviados a 778 mujeres políticas y periodistas en el Reino Unido y EE. UU. en 2017.
El estudio examinó los tuits enviados a mujeres miembros del Parlamento del Reino Unido y del Congreso y el Senado de los Estados Unidos, así como a mujeres periodistas de publicaciones como Daily Mail, Gal Dem, The Guardian, Pink News y The Sun en el Reino Unido y Breitbart y The New York Times en los EE.
Descubrió que se enviaron 1,1 millones de tuits abusivos a las 778 mujeres en este período, lo que equivale a uno cada 30 segundos. También encontró que el 7,1% de todos los tweets enviados a mujeres en estos roles son abusivos. Los investigadores detrás del estudio también han lanzado una herramienta, llamado Patrulla Troll , para comprobar si un tuit constituye abuso o acoso.
Si bien el enfoque de aprendizaje profundo fue una gran mejora en los métodos existentes para detectar abusos, los investigadores advierten que el aprendizaje automático o la IA no serán suficientes para identificar el troleo todo el tiempo. Cornebise dice que la herramienta suele ser tan buena como los moderadores humanos, pero también es propensa a errores. Se requerirá algún juicio humano en el futuro previsible, dice.
Twitter ha sido ampliamente criticado por no hacer más para vigilar su plataforma. Milena Marin, que trabajó en el proyecto en Amnistía Internacional, dice que la empresa debería al menos ser más transparente sobre sus métodos policiales.
Troll Patrol no se trata de vigilar Twitter ni de obligarlo a eliminar contenido, dice Marin. Pero advirtió, Twitter debe comenzar a ser transparente sobre cómo usa exactamente el aprendizaje automático para detectar abusos y publicar información técnica sobre los algoritmos en los que se basa.
En respuesta al informe, el oficial legal de Twitter, Vijaya Gadde, señaló el problema de definir el abuso. Me gustaría señalar que el concepto de contenido 'problemático' a los efectos de clasificar el contenido es uno que merece una mayor discusión, dijo Gadde en un comunicado. Trabajamos arduamente para crear reglas aplicables a nivel mundial y hemos comenzado a consultar al público como parte del proceso.