El algoritmo de YouTube parece estar canalizando a las personas a videos de la derecha alternativa

Categoría: humanos y tecnologia Al corriente 29 de enero

un nuevo estudio sugiere que lo que hemos sospechado durante años es correcto: YouTube es un conducto para el extremismo y el odio.

¿Cómo lo sabemos? Más de 330.000 videos en casi 350 canales de YouTube fueron analizados y clasificados manualmente de acuerdo con un sistema diseñado por la Liga Anti-Difamación. Fueron etiquetados como medios (o lo que consideramos noticias objetivas), web oscura intelectual alternativa o alternativa derecha.

Los grupos: La extrema derecha es lo que se asocia tradicionalmente con la supremacía blanca, que impulsa un etnoestado blanco. Aquellos que se afilian a la web oscura intelectual justifican la supremacía blanca sobre la base de la eugenesia y la ciencia racial. Los miembros de la élite alternativa pretenden no apoyar la supremacía blanca, aunque creen en teorías de conspiración sobre el reemplazo por grupos minoritarios.

Puerta: Los autores del estudio plantearon la hipótesis de que la red oscura intelectual y alternativa a menudo sirve como puerta de entrada a ideologías más extremas y de extrema derecha. Entonces lo probaron al rastrear a los autores de 72 millones de comentarios en aproximadamente dos millones de videos entre mayo y julio del año pasado. Los resultados fueron preocupantes. Más del 26% de las personas que comentaron videos alternativos tendieron a pasar a videos alternativos y luego comentar allí.

Juego de la culpa: Es bastante fácil llegar al contenido de la dark web intelectual y alt-lite con una simple búsqueda, pero los videos alt-right tienden a ser más difíciles de encontrar para los usuarios primerizos. Sin embargo, los investigadores descubrieron que el algoritmo de YouTube a menudo dirigía a los usuarios que buscaban palabras clave específicas hacia contenido extremo cada vez más violento.

Y cada vez es peor: El equipo, del Instituto Federal Suizo de Tecnología de Lausana, también encontró evidencia de que la superposición entre los derechistas alternativos y otros que incursionan en la web oscura intelectual y el material alternativo está creciendo. Los autores estiman que unas 60.000 personas que comentaron contenido de la dark web intelectual o alternativa quedaron expuestas a videos de la derecha alternativa durante un período de aproximadamente 18 meses. El trabajo fue presentado en la Conferencia 2020 sobre Equidad, Rendición de Cuentas y Transparencia en Barcelona esta semana.

Todavía no sabemos mucho sobre la radicalización de YouTube: Por un lado, no estamos muy seguros de qué es exactamente lo que hace que las personas pasen del material alternativo al material de extrema derecha. Eso se debe en parte a que YouTube restringe el acceso a los datos de recomendación. También es posible que algunas personas vengan a YouTube y ya se hayan radicalizado por alguna fuente externa que no sea de YouTube. Pero esta investigación sugiere que los algoritmos de recomendación de YouTube pueden desempeñar un papel importante.

El fondo: YouTube ha luchado durante mucho tiempo con el equilibrio entre mantener la libertad de expresión y abordar el discurso de odio. La empresa ha dado algunos pasos iniciales al prohibir algunos canales, sobre todo Infowars de Alex Jones. Pero los críticos argumentan que YouTube no ha hecho lo suficiente.

En un comunicado, YouTube dijo que está trabajando en estos problemas: En los últimos años... Cambiamos nuestros algoritmos de búsqueda y descubrimiento para garantizar que aparezca más contenido autorizado y se etiquete de manera destacada en los resultados de búsqueda y las recomendaciones y comenzamos a reducir las recomendaciones de contenido dudoso y videos que podrían desinformar a los usuarios de manera dañina.'

Un portavoz agregó que YouTube cuestiona la metodología y que no tiene en cuenta las actualizaciones más recientes de su política o recomendaciones sobre discursos de odio. 'No estamos de acuerdo con la metodología, los datos y, lo que es más importante, con las conclusiones de esta nueva investigación', dijo el portavoz.

Nota del editor: esta historia se ha editado para incluir el comentario y la disputa de YouTube.