El tiroteo masivo en Nueva Zelanda muestra cuán rotas están las redes sociales

Categoría: Silicon Valley Al corriente Mar 15

Un hombre armado transmitió en vivo el asesinato de docenas de inocentes en dos mezquitas en Christchurch, Nueva Zelanda, el viernes, y el mundo recibió un terrible recordatorio de cuán deficientes son las políticas y los algoritmos existentes en las redes sociales para vigilar el contenido violento y ofensivo.

En los días previos al tiroteo, el perpetrador aparentemente se jactó de sus planes y publicó un manifiesto en línea. Luego transmitió el horrible acto en vivo en Facebook. El ataque dejó 49 muertos y decenas de heridos.

Transmisión en vivo: En los últimos 18 meses, luego de escándalos de acoso y noticias falsas, las empresas de redes sociales han invirtió mucho en moderadores de contenido . Pero esto hizo poco para evitar que se difundiera el video del tiroteo. Según los informes, la transmisión en vivo no solo duró 20 minutos, sino que el video resultante se volvió a publicar en YouTube, y algunos clips permanecieron durante más de una hora.

Según los expertos, varios factores contribuyeron a que las imágenes pasaran los filtros.

Desafío en tiempo real: Es vital capturar un video rápidamente, para que no se propague a otras plataformas. Pero la moderación de las redes sociales simplemente no está orientada a capturar contenido en tiempo real. Es imposible automatizar el proceso de manera efectiva, e identificar transmisiones en vivo que deben cerrarse manualmente es como encontrar una aguja en el pajar de datos que fluyen a través de la red todo el tiempo, dice jabon de carlos , profesor de la Escuela de Periodismo de la Universidad de Nueva York. Agrega que Facebook podría exigir a los usuarios que construyan una reputación antes de permitirles transmitir contenido en vivo, para reducir los riesgos.

Aplasta un topo: Los moderadores están abrumados en el mejor de los casos. El video del tiroteo alojado en YouTube probablemente se difundió tan rápido que los humanos empleados para verificar el contenido inapropiado no tuvieron tiempo de captar todo. Estos trabajadores suelen tener unos segundos para hacer una llamada. El proceso se puede automatizar en parte, pero quienes volvieron a publicar el metraje aparentemente lo recortaron e introdujeron distorsiones para evitar estos algoritmos.

Fallo algorítmico: Las empresas de redes sociales también utilizan ajustes algorítmicos para quitarle prioridad al contenido sospechoso. Pero mike ananny , profesor asociado de la Universidad del Sur de California, dice que estos algoritmos probablemente fueron descartados por la popularidad de los videos ofensivos.

No es nuestro problema: Estos factores reflejan el problema sistémico clave: Facebook, YouTube y otras grandes plataformas sociales no se ven a sí mismas como árbitros del contenido en primer lugar. La investigación ha mostrado que las fuentes de información de extrema derecha pueden ser vigiladas de manera más proactiva para evitar la difusión de material violento o de odio. Tienen esa actitud de ser post hoc, dice Ananny. Es una cuestión cultural profunda.