Así es como las empresas de redes sociales deberían abordar el odio en línea, según la física

Dentro de la sala de guerra de Facebook, donde monitorea el contenido punto de acceso

Vigilar a los grupos de odio en línea es como un juego interminable de golpea un topo: los moderadores eliminan una página neonazi en Facebook, solo para que otro aparezca horas después . Es un enfoque que no está funcionando, pero un equipo de físicos utilizó un estudio de redes para sugerir varias estrategias alternativas que podrían hacerlo.

La escala del problema: El equipo de la Universidad George Washington examinó la dinámica de las comunidades de odio (grupos que organizan a personas con puntos de vista similares) en las plataformas de redes sociales Facebook y VKontakte (el equivalente en Rusia) durante unos meses. Descubrieron que estas redes están notablemente interconectadas globalmente y son resistentes a nivel micro cuando son atacadas, cruzando plataformas y saltando entre países, continentes e idiomas. La evidencia del mundo real de esta interconexión se puede ver en la forma en que los atacantes extremistas blancos en Noruega, Nueva Zelanda y EE. explícitamente inspirados el uno del otro .

El enfoque actual está roto: El modelo matemático de los investigadores predice que la vigilancia dentro de una sola plataforma, como Facebook, en realidad puede empeorar la propagación del discurso de odio y eventualmente podría empujarlo a la clandestinidad, donde es aún más difícil de estudiar y combatir. El equipo explicó sus hallazgos en un artículo en Naturaleza esta semana.

¿Qué se puede hacer? Los investigadores sugieren políticas que podrían implementar las empresas de redes sociales:

— Prohibir grupos de odio relativamente pequeños, en lugar de los más grandes. Estos son más fáciles de localizar y eliminarlos puede ayudar a detener la formación de grupos más grandes en primer lugar.

— Prohibir a un pequeño número de usuarios elegidos al azar de grupos de odio en línea. Esto evita la prohibición de grupos enteros de usuarios, lo que resulta en indignación y acusaciones de supresión del discurso.

— Fomentar la formación de grupos de usuarios anti-odio; pueden contrarrestar los grupos de odio.

— Dado que muchos grupos de odio en línea tienen puntos de vista opuestos, los administradores de la plataforma deberían introducir un grupo artificial de usuarios para sembrar la división entre estos grupos. Los investigadores descubrieron que este tipo de batallas podrían derribar grandes grupos de odio que tienen puntos de vista opuestos.

¿Qué probabilidad hay? Algunas de las políticas, especialmente las dos últimas, son bastante radicales. Pero dado que los enfoques actuales son tan profundamente ineficaces, seguramente vale la pena que las empresas de redes sociales los prueben. A ti, Mark Zuckerberg.

Regístrese aquí para recibir nuestro boletín diario The Download para obtener su dosis de las últimas noticias imprescindibles del mundo de la tecnología emergente.

esconder