YouTube está experimentando con formas de hacer que su algoritmo sea aún más adictivo

Ilustración que muestra la interfaz de YouTube con videos ASMR Sra. Tecnología; Imágenes: capturas de pantalla de YouTube | Gibi ASMR/ASMR Darling/revista W/ASMR Glow

Los algoritmos de recomendación son algunos de los sistemas de aprendizaje automático más poderosos en la actualidad debido a su capacidad para dar forma a la información que consumimos. El algoritmo de YouTube, especialmente, tiene una gran influencia. Se estima que la plataforma ocupa el segundo lugar después de Google en tráfico web, y 70% de lo que ven los usuarios se les proporciona a través de recomendaciones.

En los últimos años, esta influencia ha sido objeto de un intenso escrutinio. Debido a que el algoritmo está optimizado para hacer que las personas interactúen con los videos, tiende a ofrecer opciones que refuerzan lo que a alguien ya le gusta o cree, lo que puede crear una experiencia adictiva que excluye otras vistas. Esto también premia a menudo los videos más extremos y controvertidos, que estudios han demostrado que pueden empujar rápidamente a las personas a profundas madrigueras de contenido y dar lugar a políticas radicalización .

Si bien YouTube ha dicho públicamente que está trabajando para abordar estos problemas, un nuevo papel de Google, propietaria de YouTube, parece contar una historia diferente. Propone una actualización del algoritmo de la plataforma que tiene como objetivo recomendar contenido aún más específico a los usuarios con el interés de aumentar la participación.

Así funciona el sistema de recomendaciones de YouTube actualmente trabaja . Para llenar la barra lateral de videos recomendados, primero compila una lista corta de varios cientos de videos encontrando los que coinciden con el tema y otras características del que está viendo. Luego clasifica la lista de acuerdo con las preferencias del usuario, que aprende alimentando todos sus clics, me gusta y otras interacciones en un algoritmo de aprendizaje automático.

Entre las actualizaciones propuestas, los investigadores se enfocan específicamente en un problema que identifican como sesgo implícito. Se refiere a la forma en que las recomendaciones en sí mismas pueden afectar el comportamiento del usuario, lo que dificulta descifrar si hizo clic en un video porque le gustó o porque era muy recomendable. El efecto es que, con el tiempo, el sistema puede empujar a los usuarios más y más lejos de los videos que realmente quieren ver.

Para reducir este sesgo, los investigadores sugieren modificar el algoritmo: cada vez que un usuario hace clic en un video, también se tiene en cuenta la clasificación del video en la barra lateral de recomendaciones. Los videos que están cerca de la parte superior de la barra lateral tienen menos peso cuando se introducen en el algoritmo de aprendizaje automático; los videos que se encuentran más abajo en el ranking, que requieren que el usuario se desplace, reciben más. Cuando los investigadores probaron los cambios en vivo en YouTube, encontraron una participación de los usuarios significativamente mayor.

Aunque el documento no dice si el nuevo sistema se implementará de forma permanente, Guillaume Chaslot, un ex ingeniero de YouTube que ahora dirige AlgoTransparency.org, dijo que estaba bastante seguro de que sucedería con relativa rapidez: dijeron que aumenta la vigilancia. tiempo en un 0,24%. Si calcula la cantidad, creo que tal vez sean decenas de millones de dólares.

Varios expertos que revisaron el documento dijeron que los cambios podrían tener efectos perversos. En nuestra investigación, descubrimos que los algoritmos de YouTube crearon una comunidad aislada de extrema derecha, empujaron a los usuarios hacia videos de niños y promovieron la desinformación, dijo Jonas Kaiser, afiliado del Berkman Klein Center for Internet & Society. En los márgenes, este cambio podría […] fomentar la formación de comunidades más aisladas de las que ya hemos visto. Jonathan Albright, director de la iniciativa forense digital del Tow Center for Digital Journalism, dijo que si bien reducir el sesgo de posición es un buen comienzo para desacelerar el ciclo de retroalimentación del contenido de baja calidad, en teoría el cambio también podría favorecer aún más el contenido extremo.

Becca Lewis, ex investigadora de Data & Society que estudia el extremismo en línea, dijo que era difícil saber cómo se desarrollarían los cambios. Eso también es cierto para YouTube internamente, dijo. Hay tantas comunidades diferentes en YouTube, diferentes formas en que las personas usan YouTube, diferentes tipos de contenido, que las implicaciones van a ser diferentes en muchos casos. Nos convertimos en sujetos de prueba para YouTube.

Cuando se le contactó para hacer comentarios, un portavoz de YouTube dijo que sus ingenieros y equipos de productos habían determinado que los cambios no generarían burbujas de filtro. Por el contrario, la empresa espera que los cambios los reduzcan y diversifiquen las recomendaciones en general.

Los tres investigadores externos contactados por MIT Technology Review recomiendan que YouTube dedique más tiempo a explorar el impacto de los cambios algorítmicos a través de métodos como entrevistas, encuestas y aportes de los usuarios. YouTube ha hecho esto hasta cierto punto, dijo el portavoz, trabajando para eliminar contenido extremo en forma de discurso de odio en su plataforma.

YouTube debería gastar más energía en comprender a qué actores favorecen y amplifican sus algoritmos que en cómo mantener a los usuarios en la plataforma, dijo Kaiser.

Lo frustrante es que no está en el interés comercial de YouTube hacer eso, agregó Lewis. Pero hay un imperativo ético.

Correcciones: El impacto del cambio de YouTube probablemente sería del orden de decenas de millones, no miles de millones, de dólares. La historia también se actualizó el 27 de septiembre de 2019 a las 3:30 p. m. ET para reflejar la respuesta de YouTube.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder