211service.com
La colección de 13,500 Nastygrams podría promover la guerra contra los trolls
Una visualización de las publicaciones en las páginas de discusión de Wikipedia en enero muestra la incidencia de los ataques personales, resaltados en rojo.
Misoginia, racismo, blasfemias: una colección de más de 13 500 ataques personales en línea lo tiene todo.
Los nastygrams vinieron de las páginas de discusión de Wikipedia. La colección, junto con más de 100.000 publicaciones más benignas, ha sido liberado por investigadores de Alphabet y la Fundación Wikimedia, la organización sin fines de lucro detrás de Wikipedia. Dicen que los datos impulsarán los esfuerzos para capacitar al software para comprender y vigilar el acoso en línea.
Nuestro objetivo es ver cómo podemos ayudar a las personas a discutir los temas más controvertidos e importantes de una manera productiva en todo Internet, dice Lucas Dixon, científico investigador jefe de Rompecabezas , un grupo dentro de Alphabet que crea tecnología al servicio de causas como la libertad de expresión y la lucha contra la corrupción (ver 'Si solo la IA pudiera salvarnos de nosotros mismos').
Los investigadores de Jigsaw y Wikimedia utilizaron un servicio de crowdsourcing para que las personas revisaran más de 115 000 mensajes publicados en las páginas de discusión de Wikipedia, buscando cualquiera que fuera un ataque personal como definido por las reglas de la comunidad . Los colaboradores ya han utilizado los datos para entrenar algoritmos de aprendizaje automático que compiten con los trabajadores colaborativos en la detección de ataques personales. Cuando revisaron la colección completa de 63 millones de publicaciones de discusión realizadas por los editores de Wikipedia, descubrieron que solo uno de cada 10 ataques había resultado en la acción de los moderadores.
Fundación Wikimedia hizo reducir el acoso entre los editores de Wikipedia una prioridad el año pasado. La política se suma a los esfuerzos existentes para suavizar la atmósfera espinosa y burocrática de la comunidad de Wikipedia, que se ha descubierto que disuade a los nuevos contribuyentes de participar. Ambos problemas podrían ayudar a explicar por qué ha visto caer el número de editores y ha luchado por ampliar la participación más allá de un núcleo demográfico occidental masculino (ver El declive de Wikipedia).
Jigsaw y la Fundación Wikimedia no son los primeros en estudiar el abuso en línea, ni son los primeros en diseñar software que pueda detectarlo y combatirlo. Pero las colecciones de comentarios etiquetados para marcar publicaciones acosadoras y no acosadoras, que son necesarias para entrenar el software de aprendizaje automático, han sido escasas, dice Ellery Wulczyn , investigador de ciencia de datos de la Fundación Wikimedia.
Estima que la colección de ataques personales y comentarios de Wikipedia es entre 10 y 100 veces mayor que los disponibles anteriormente. Los algoritmos de aprendizaje automático necesitan una gran cantidad de ejemplos etiquetados para aprender a filtrar datos con precisión.
Sin embargo, aún no está claro si los algoritmos entrenados para detectar abusos pueden implementarse como moderadores efectivos. El software está lejos de comprender todos los matices del lenguaje. Algunas personas pueden sentirse motivadas a ajustar su lenguaje abusivo para evadir la detección, dice Wulczyn de Wikimedia. Si tuviéramos que construir intervenciones con las que los humanos tengan una relación de confrontación, no sabemos qué pasaría, dice.