Distopía de datos

Las distopías en el siglo XX se presentaron principalmente en dos sabores: el imponente estado de vigilancia, como se describe en Orwell's 1984 y la asombrosa cúpula del placer, como en la obra de Huxley Nuevo mundo valiente . ¿Y si no fueran pesadillas separadas? La verdadera amenaza podría ser la vigilancia al servicio de la seducción en lugar del castigo.

Facebook tiene tanto éxito porque nos ayuda a satisfacer la necesidad de permanecer conectados entre nosotros. Ese impulso ha llevado a unos mil millones de nosotros a proporcionar a una sola empresa las huellas de una parte considerable de nuestra vida social. (ver lo que Facebook sabe) .

Esta historia fue parte de nuestro número de julio de 2012

• Ver el resto del número
• Suscribir

Como científico social, estoy muy emocionado con este tesoro de datos, porque es un gran recurso para estudiar al animal humano. Las fuentes emergentes de macrodatos (Facebook es una de las mejores) tienen el potencial de contribuir a nuestra comprensión de la sociedad. Pero esta información tiene usos que van más allá de la segmentación de anuncios. Aunque la perspectiva no parece desconcertar a los usuarios de Facebook hasta ahora, podría usarse para dirigir mensajes cívicos, políticos y sociales de formas que no son saludables para la democracia.

Las campañas políticas, por ejemplo, ahora alientan a los votantes a conectarse con sus aplicaciones o páginas de Facebook, que pueden acceder a datos detallados no solo sobre una persona, sino también sobre sus redes sociales e interacciones. Esto crea oportunidades para crear perfiles con una precisión y una escala sin precedentes. Estoy esperando la primera ola de campañas políticas negativas viciosas en Facebook. (Es posible que la mayoría de nosotros ni siquiera lo notemos, ya que podría estar dirigido a un nicho receptivo o incluso a individuos).

La forma en que Facebook utiliza sus datos recopilados puede influir en nuestras interacciones sociales. El servicio de noticias de Facebook no muestra todas las actualizaciones, ni siquiera las más recientes, sino lo que Facebook cree que te hará hacer clic o comentar. Los algoritmos de suministro de noticias crean espirales de refuerzo para ciertos comportamientos. Los detalles son secretos, pero la ingeniería inversa muestra que Facebook cree que las fotos generan más participación que el texto; las actualizaciones con ellos se destacan de manera más destacada, lo que genera aún más participación. Incluso sin instrucciones explícitas, la gente sin duda captará estas señales y comenzará a publicar cada vez más fotos. También de otras formas, Facebook puede estar guiando cómo socializamos. Quizás las publicaciones alegres obtienen más prominencia. Quizás algún día sepamos de un suicidio luego de una breve y críptica actualización de estado a la que nadie respondió porque Facebook lo degradó en las noticias de las personas al juzgar que no es el tipo de publicación que genera clics.

No pretendo que haya respuestas fáciles a las preguntas que plantea Facebook. Cualquier algoritmo para el suministro de noticias tendría sus desventajas. Pero las preguntas son importantes porque Facebook ocupa un nicho cívico importante. Las decisiones sobre cómo utiliza su tesoro de datos, qué hace público y cuánto acceso da a las campañas políticas y corporativas nos afectarán a todos. Necesitamos hablar no solo sobre el potencial de este increíble almacén de datos, sino también sobre el poder que tiene la empresa y la ética que defiende.

Zeynep Tufekci es profesor asistente en la Universidad de Carolina del Norte y miembro del Berkman Center for Internet and Society de Harvard.

esconder