211service.com
Un algoritmo de videojuego para resolver el abuso en línea
Al igual que muchos espacios en línea, League of Legends, el videojuego en línea más jugado en el mundo en la actualidad, es un caldo de cultivo para el lenguaje y el comportamiento abusivos. Fomentada por el anonimato y amplificada dentro del crisol acalorado de un deporte de equipo competitivo, esta conducta ha sido un problema tan grande para su creador, Riot Games, que la compañía ahora emplea a un equipo dedicado de científicos y diseñadores para encontrar formas de mejorar las interacciones entre los jugadores del juego. jugadores
Durante los últimos años, el equipo ha experimentado con una serie de sistemas y técnicas, respaldados por el aprendizaje automático, que están diseñados para monitorear la comunicación entre los jugadores, castigar el comportamiento negativo y recompensar el comportamiento positivo. Los resultados han sido sorprendentes, dice Jeffrey Lin, diseñador principal de sistemas sociales en Riot Games. El software ha monitoreado varios millones de casos de sospecha de comportamiento abusivo. El noventa y dos por ciento de los jugadores que han sido sorprendidos usando lenguaje abusivo contra otros no han vuelto a delinquir. Lin, que es neurocientífico cognitivo, cree que las técnicas del equipo se pueden aplicar fuera del contexto de los videojuegos. Él piensa que Riot puede haber creado una especie de antídoto para la toxicidad en línea, independientemente de dónde ocurra.
El proyecto comenzó hace varios años cuando el equipo introdujo un sistema de gobierno denominado, de acuerdo con el tema de fantasía del juego, el Tribunal. El juego identificaría casos potenciales de lenguaje abusivo y crearía un archivo de caso de la interacción. Luego, estos archivos se presentaron a la comunidad de jugadores del juego (aproximadamente 67 millones de usuarios únicos), a quienes se invitó a revisar los registros de chat del juego y votar si consideraban aceptable el comportamiento. En general, el sistema fue muy preciso, dice Lin. De hecho, el 98 % de los veredictos de la comunidad coincidieron con los del equipo interno de Riot.
Varios millones de casos se manejaron de esta manera algo intensiva en mano de obra. Pronto, Lin y el equipo comenzaron a ver patrones en el lenguaje que usaban los jugadores tóxicos. Para ayudar a optimizar el proceso, decidieron aplicar técnicas de aprendizaje automático a los datos. Resultó ser extremadamente exitoso al segmentar el lenguaje negativo y positivo en los 15 idiomas oficiales que admite League, dice Lin.
La nueva versión del sistema, ahora controlado por tecnología en lugar de por otros jugadores, lo hizo más eficiente para proporcionar comentarios e imponer consecuencias por comportamiento tóxico en el juego. Ahora puede enviar comentarios a los jugadores en cinco minutos, mientras que antes podía tardar hasta una semana.
Lin dice que el sistema mejoró drásticamente lo que la compañía llama tasas de reforma. Un jugador que ha recibido previamente una sanción, como la suspensión de partidos clasificados, se considera reformado si evita sanciones posteriores durante un período de tiempo. Cuando agregamos mejores comentarios a los castigos e incluimos evidencia como registros de chat para el castigo, las tasas de reforma aumentaron del 50 al 65 por ciento, dice. Pero cuando el sistema de aprendizaje automático comenzó a brindar retroalimentación mucho más rápida con la evidencia, las tasas de reforma se dispararon a un máximo histórico del 92 por ciento.
Un desafío que enfrenta el sistema es discernir el contexto. Como en cualquier deporte de equipo, los jugadores a menudo crean camaradería a través de bromas o sarcasmos que, en otro contexto, podrían considerarse desagradables o agresivos. Una máquina por lo general no logra captar el sarcasmo. De hecho, esa es quizás la barrera más importante para combatir el abuso en línea con el aprendizaje automático. Es bastante justo decir que las IA que entienden el lenguaje funcionan mejor cuando se necesita información contextual mínima para calcular la respuesta correcta, explica Chris Dyer, profesor asistente en la Universidad Carnegie Mellon que trabaja en el procesamiento del lenguaje natural. Los problemas que requieren integrar mucha información del contexto en el que se hace una declaración son mucho más difíciles de resolver, y el sarcasmo depende en gran medida del contexto.
Actualmente, Lin y su equipo intentan resolver el problema con controles y equilibrios adicionales. Incluso cuando el sistema identifica que un jugador ha mostrado un comportamiento tóxico, se comprueban otros sistemas para reforzar o vetar el veredicto. Por ejemplo, intentará validar cada uno de los informes que archiva un jugador para determinar la precisión de su informe histórico. Debido a que varios sistemas funcionan en conjunto para brindar consecuencias a los jugadores, actualmente estamos viendo una tasa saludable de 1 en 5,000 falsos positivos, dice Lin.
Para frenar verdaderamente el abuso, Riot diseñó castigos y desincentivos para persuadir a los jugadores a modificar su comportamiento. Por ejemplo, puede limitar los recursos de chat para los jugadores que se comportan de manera abusiva o requerir que los jugadores completen juegos no clasificados sin incidentes antes de poder jugar los juegos mejor clasificados. La empresa también premia a los jugadores respetuosos con refuerzos positivos.
Lin cree firmemente que las lecciones que él y su equipo han aprendido de su trabajo tienen un significado más amplio. Una de las ideas cruciales de la investigación es que el comportamiento tóxico no proviene necesariamente de personas terribles; proviene de personas normales que tienen un mal día, dice Justin Reich, científico investigador del Centro Berkman de Harvard, que ha estado estudiando el trabajo de Riot. Eso significa que nuestras estrategias para abordar el comportamiento tóxico en línea no pueden estar dirigidas solo a los trolls empedernidos; necesitan dar cuenta de nuestra tendencia humana colectiva a permitir que emerja lo peor de nosotros mismos bajo el anonimato de Internet.
Sin embargo, Reich cree que el trabajo de Lin demuestra que el comportamiento tóxico no es un elemento fijo de la Web, sino un problema que se puede abordar mediante una combinación de ingeniería, experimentación y participación de la comunidad. Los desafíos que enfrentamos en League of Legends se pueden ver en cualquier juego, plataforma, comunidad o foro en línea, por lo que creemos que estamos en un punto crucial en la línea de tiempo de las comunidades y sociedades en línea, dice Lin. Debido a esto, hemos sido muy abiertos al compartir nuestros datos y las mejores prácticas con la industria en general y esperamos que otros estudios y compañías analicen estos resultados y se den cuenta de que, después de todo, la toxicidad en línea no es un problema imposible.