Conocimiento del algoritmo

Cada vez más, son los algoritmos los que eligen qué productos recomendarnos y los algoritmos los que deciden si debemos recibir una nueva tarjeta de crédito. Pero estos algoritmos están enterrados fuera de nuestra percepción. ¿Cómo se empieza a dar sentido a estas misteriosas fuerzas ocultas?

karrie karahalios

La pregunta ganó resonancia recientemente cuando Facebook reveló un estudio científico sobre el contagio de emociones que se había realizado a través de su servicio de noticias. El estudio mostró que mostrar menos actualizaciones positivas en los feeds de las personas hace que publiquen menos mensajes positivos y más negativos. Este resultado es interesante pero inquietante, y revela todo el poder de la influencia algorítmica de Facebook, así como su disposición a utilizarlo.

Para explorar el tema de la conciencia algorítmica, en 2013, tres colegas y yo construimos una herramienta que ayuda a las personas a comprender cómo funciona su fuente de noticias de Facebook.

Usando la propia interfaz de programación de Facebook, nuestra herramienta mostraba una lista de historias que aparecían en las noticias de uno en la mitad izquierda de la pantalla. A la derecha, los usuarios vieron una lista de historias publicadas por toda su red de amigos, es decir, vieron el feed sin adulterar, sin curación o manipulación algorítmica.

Un tercer panel mostró qué publicaciones de amigos estaban predominantemente ocultas y qué publicaciones de amigos aparecían con más frecuencia. Finalmente, la herramienta permitió a los usuarios elegir manualmente qué publicaciones deseaban ver y cuáles descartar.

Reclutamos a 40 personas, una muestra pequeña pero muy representativa de la demografía de los EE. UU., para participar en un estudio para ver cómo entendieron su fuente de noticias. Algunos se sorprendieron al saber que su alimentación fue manipulada en absoluto. Pero al final de nuestro estudio, cuando los participantes eligieron qué publicaciones querían ver, encontraron valor en el feed que seleccionaron.

Cuando hicimos un seguimiento meses después, muchos dijeron que se sentían empoderados. Algunos habían cambiado su configuración de Facebook para poder manipular el feed ellos mismos. De los 40 participantes, una persona dejó de usar Facebook por completo porque violaba una expectativa de cómo debería funcionar un feed.

La protesta pública por el estudio de emociones de Facebook mostró que pocas personas realmente comprenden la forma en que los algoritmos dan forma al mundo que experimentamos. Y nuestra investigación muestra la importancia de capacitar a las personas para que tomen el control de esa experiencia.

Merecemos entender el poder que los algoritmos tienen sobre nosotros, para bien o para mal.

Karrie Karahalios es profesora asociada de informática en la Universidad de Illinois.

esconder