Un aliado de IA para combatir el bullying en mundos virtuales

Saiman chow

En cualquier universo ficticio, la distinción entre el antagonismo lúdico y el acoso serio puede ser difícil de discernir. Los insultos entre amigos que juegan juntos un videojuego suelen ser una forma de camaradería. Entre extraños, sin embargo, palabras similares asumen una cualidad diferente y más problemática. Ser capaz de distinguir entre los dos es crucial para cualquier creador de videojuegos que quiera fomentar una comunidad acogedora.

Spirit AI espera ayudar a los desarrolladores a apoyar a los jugadores y desalentar el comportamiento de intimidación con un sistema de detección e intervención de abuso llamado Ally. El software monitorea las interacciones entre los jugadores (lo que las personas se dicen y cómo se comportan) a través de las acciones disponibles dentro de un juego o plataforma social. Es capaz de detectar el acoso verbal y también la provocación no verbal, por ejemplo, un jugador que acecha el avatar de otro o abusa de las herramientas de denuncia.

Estamos buscando patrones de interacción, combinados con clasificadores de lenguaje natural, en lugar de depender de una lista de palabras clave individuales, explica Ruxandra Dariescu, una de los desarrolladores de Ally. El acoso es un problema matizado.

Cuando Ally identifica un comportamiento potencialmente abusivo, verifica si el posible abusador y el otro jugador han tenido interacciones previas. Donde Ally se diferencia del software de moderación existente es que, en lugar de simplemente enviar una alerta a los desarrolladores del juego, puede enviar un personaje virtual controlado por computadora para registrarse con el jugador, uno que, a través de las herramientas de lenguaje natural de Spirit AI, es capaz de conversar en el tono y el estilo del juego (ver Un algoritmo de videojuego para resolver el abuso en línea).

Historia relacionada

Leer siguiente Cómo un equipo de psicólogos y científicos de Riot Games está descubriendo el secreto para eliminar el abuso dentro de un videojuego en línea.

El bot de Ally podría decir: Me di cuenta de que tú y el Jugador 42 parecen ser extraños. Es posible que te hayan dicho algo inapropiado, así que solo quería comprobar si estás bien. Luego, el jugador puede responder al bot, dice Dariescu. Si la interacción se descarta como una broma amistosa, el sistema lo registra y actualiza sus reglas para que no intervenga en un comportamiento similar en el futuro. Si el usuario se siente abusado, el sistema interviene con el culpable.

Ally es compatible con todos los juegos en línea, y Spirit AI está trabajando para agregar capacidades al comportamiento policial en los juegos de realidad virtual (consulte La guerra contra los trolls inquietantemente reales en la realidad virtual). La herramienta se puede configurar de varias maneras para interactuar con los jugadores y realizar diferentes tipos de acciones. Spirit AI ve a Ally como una forma de aumentar el equipo de administración de la comunidad de un juego, que puede monitorear la actividad en un tablero.

La compañía, que se formó oficialmente en 2016 y actualmente cuenta con 15 empleados, no revelará con qué desarrolladores de juegos está trabajando actualmente, pero el software ha llamado la atención en el mundo de los juegos. En el nivel más simple, las herramientas de administración de la comunidad respaldadas por IA pueden ampliar el alcance del equipo, dice Imre Jele, diseñador veterano de grandes juegos multijugador en línea como RuneScape. Pero lo que más me emociona son los sistemas de IA que van más allá de identificar y castigar el comportamiento que infringe las reglas. En última instancia, el objetivo de estos miembros del equipo de IA debería ser salir de la vigilancia y formar interacciones positivas y construir comunidades más saludables.

Historia relacionada

Leer siguiente Cuando sientes que realmente estás dentro de un cuerpo virtual, es importante proteger tu espacio personal.

Spirit ciertamente tiene la intención de que el software ofrezca más que una mera fuerza policial digitalizada que se puede convocar en los juegos en línea. Hemos identificado el potencial de esta tecnología no solo para prevenir el mal comportamiento, sino también para fomentar el buen comportamiento prosocial, dice Dariescu. El software también podría usar escuchas ambientales para identificar problemas más amplios que los jugadores puedan tener con el diseño de un juego, brindando información al desarrollador sobre cómo se podría mejorar la experiencia general del jugador.

Sin embargo, existen limitaciones cuando se trata de intervenciones de IA en casos de acoso, según Jele. Muchas interacciones entre la administración de la comunidad y los equipos de apoyo a los jugadores requieren una profunda empatía y simpatía, dice: Los jugadores apoyaron a los desarrolladores con su dinero y merecen la mejor atención posible, que solo los humanos pueden brindar en este momento.

esconder