¿Quién necesita democracia cuando tienes datos?

Así es como China gobierna el uso de datos, inteligencia artificial y vigilancia en Internet. Por

• cristina larson página de archivo

20 de agosto de 2018

Foto de dos cámaras de vigilancia junto a un retrato de Mao Zedong.

En 1955, el escritor de ciencia ficción Isaac Asimov publicó un cuento sobre un experimento de democracia electrónica, en el que un solo ciudadano, seleccionado para representar a toda una población, respondía a preguntas generadas por una computadora llamada Multivac. La máquina tomó estos datos y calculó los resultados de una elección que, por lo tanto, nunca tuvo que ocurrir. La historia de Asimov se desarrolla en Bloomington, Indiana, pero hoy en día se está construyendo una aproximación de Multivac en China.

Para cualquier régimen autoritario, existe un problema básico para el centro de averiguar qué está pasando en los niveles más bajos y en toda la sociedad, dice Deborah Seligsohn, politóloga y experta en China de la Universidad de Villanova en Filadelfia. ¿Cómo se gobierna efectivamente un país que alberga a una de cada cinco personas en el planeta, con una economía y una sociedad cada vez más complejas, si no permite el debate público, el activismo civil y la retroalimentación electoral? ¿Cómo recopilas suficiente información para tomar decisiones? ¿Y cómo un gobierno que no invita a sus ciudadanos a participar aún genera confianza y modifica el comportamiento público sin poner a la policía en cada puerta?

Esta historia fue parte de nuestra edición de septiembre de 2018

• Ver el resto del número
• Suscribir

Hu Jintao, el líder de China de 2002 a 2012, había intentado resolver estos problemas permitiendo un deshielo democrático modesto, permitiendo vías para que las quejas llegaran a la clase dominante. Su sucesor, Xi Jinping, ha invertido esa tendencia. En cambio, su estrategia para comprender y responder a lo que sucede en una nación de 1.400 millones se basa en una combinación de vigilancia, IA y big data para monitorear la vida y el comportamiento de las personas en detalle.

Ayuda que un par de años tumultuosos en las democracias del mundo hayan hecho que la élite política china se sienta cada vez más justificada para excluir a los votantes. Acontecimientos como la elección de Donald Trump, el Brexit, el surgimiento de partidos de extrema derecha en toda Europa y el reinado del terror de Rodrigo Duterte en Filipinas subrayan lo que muchos críticos ven como los problemas inherentes a la democracia, especialmente el populismo, la inestabilidad y un liderazgo precariamente personalizado.

Desde que se convirtió en secretario general del Partido Comunista Chino en 2012, Xi ha presentado una serie de planes ambiciosos para el país, muchos de ellos basados ​​en tecnología, incluido el objetivo de convertirse en el líder mundial en inteligencia artificial para 2030. Xi ha pedido soberanía cibernética para mejorar la censura y afirmar el control total sobre el internet doméstico. En mayo, dijo en una reunión de la Academia de Ciencias de China que la tecnología era la clave para lograr el gran objetivo de construir una nación socialista y modernizada. En enero, cuando se dirigió a la nación por televisión, las estanterías a ambos lados contenían títulos clásicos como Das Kapital y algunas nuevas incorporaciones, incluidos dos libros sobre inteligencia artificial: Pedro Domingos's El algoritmo maestro y Brett King Aumentado: La vida en el Smart Lane .

Ningún gobierno tiene un plan más ambicioso y de mayor alcance para aprovechar el poder de los datos para cambiar la forma en que gobierna que el gobierno chino, dice Martin Chorzempa del Instituto Peterson de Economía Internacional en Washington, DC. Incluso algunos observadores extranjeros, que miran desde lejos, pueden verse tentados a preguntarse si esa gobernanza basada en datos ofrece una alternativa viable al modelo electoral que parece cada vez más disfuncional. Pero confiar demasiado en la sabiduría de la tecnología y los datos conlleva sus propios riesgos.

Datos en lugar de diálogo

Los líderes chinos han querido durante mucho tiempo aprovechar el sentimiento público sin abrir la puerta a un acalorado debate y críticas a las autoridades. Durante la mayor parte de la historia china imperial y moderna, ha existido una tradición de gente descontenta del campo que viaja a Beijing y organiza pequeñas manifestaciones como peticionarios públicos. La idea era que si las autoridades locales no entendían o no se preocupaban por sus quejas, el emperador podría mostrar un mejor juicio.

Bajo Hu Jintao, algunos miembros del Partido Comunista vieron una apertura limitada como una forma posible de exponer y solucionar ciertos tipos de problemas. Los blogs, los periodistas anticorrupción, los abogados de derechos humanos y los críticos en línea que destacan la corrupción local impulsaron el debate público hacia el final del reinado de Hu. Al principio de su mandato, Xi recibió un informe diario sobre las preocupaciones y los disturbios públicos extraídos de las redes sociales, según un exfuncionario estadounidense con conocimiento del asunto. En los últimos años, los peticionarios han venido a la capital para llamar la atención sobre escándalos como la toma ilegal de tierras por parte de las autoridades locales y la leche en polvo contaminada.

Pero la policía impide cada vez más que los peticionarios lleguen a Beijing. Ahora los trenes requieren identificaciones nacionales para comprar boletos, lo que facilita que las autoridades identifiquen a posibles 'alborotadores', como aquellos que protestaron contra el gobierno en el pasado, dice Maya Wang, investigadora principal de Human Rights Watch sobre China. Varios peticionarios nos dijeron que han sido detenidos en las plataformas del tren. Los blogueros, activistas y abogados también están siendo sistemáticamente silenciados o encarcelados, como si los datos pudieran darle al gobierno la misma información sin ninguno de los engorrosos problemas de la libertad.

Demostración de una startup de Shanghái de su sistema de reconocimiento facial.

La idea de utilizar la tecnología en red como una herramienta de gobierno en China se remonta al menos a mediados de la década de 1980. Como explica el historiador de Harvard Julian Gewirtz, cuando el gobierno chino vio que la tecnología de la información se estaba convirtiendo en parte de la vida diaria, se dio cuenta de que tendría una herramienta nueva y poderosa tanto para recopilar información como para controlar la cultura, para hacer que los chinos sean más 'modernos' y más 'gobernables'—que han sido obsesiones perennes de la dirigencia. Los avances posteriores, incluido el progreso en IA y procesadores más rápidos, han acercado esa visión.

Por lo que sabemos, no existe un plan maestro único que vincule la tecnología y la gobernanza en China. Pero hay varias iniciativas que comparten una estrategia común de recolectar datos sobre personas y empresas para informar la toma de decisiones y crear sistemas de incentivos y castigos para influir en el comportamiento. Estas iniciativas incluyen el Sistema de Crédito Social de 2014 del Consejo de Estado, la Ley de Ciberseguridad de 2016, varios experimentos a nivel local y de empresas privadas en crédito social, planes de ciudades inteligentes y vigilancia impulsada por la tecnología en la región occidental de Xinjiang. A menudo implican asociaciones entre el gobierno y las empresas tecnológicas de China.

El de mayor alcance es el Sistema de Crédito Social, aunque una mejor traducción al inglés podría ser el sistema de confianza o reputación. El plan de gobierno, que abarca tanto a las personas como a las empresas, tiene entre sus objetivos la construcción de la sinceridad en los asuntos gubernamentales, la sinceridad comercial y la credibilidad judicial. (Todo el mundo en China tiene una tía que ha sido estafada. Existe una necesidad legítima de abordar la ruptura de la confianza pública, dice Paul Triolo, jefe de la práctica de geotecnología en la consultora Eurasia Group). Hasta la fecha, es un trabajo en progreso, aunque varios pilotos anticipan cómo podría funcionar en 2020, cuando se supone que se implementará por completo.

Se cree que el algoritmo resalta comportamientos sospechosos, como visitar una mezquita o poseer demasiados libros.

Las listas negras son la primera herramienta del sistema. Durante los últimos cinco años, el sistema judicial de China ha publicado los nombres de las personas que no han pagado multas o cumplido sentencias. Bajo las nuevas regulaciones de crédito social, esta lista se comparte con varias empresas y agencias gubernamentales. Las personas en la lista se han visto bloqueadas para pedir dinero prestado, reservar vuelos y hospedarse en hoteles de lujo. Las empresas nacionales de transporte de China han creado listas negras adicionales para castigar a los pasajeros por comportamientos como bloquear las puertas del tren o buscar peleas durante un viaje; los infractores tienen prohibido comprar boletos en el futuro durante seis o 12 meses. A principios de este año, Beijing presentó una serie de listas negras para prohibir que las empresas deshonestas obtengan futuros contratos gubernamentales o concesiones de tierras.

Algunos gobiernos locales han experimentado con puntajes de crédito social, aunque no está claro si serán parte del plan nacional. La ciudad norteña de Rongcheng, por ejemplo, asigna una puntuación a cada uno de sus 740.000 residentes, informó Foreign Policy. Todo el mundo comienza con 1.000 puntos. Si dona a una organización benéfica o gana un premio del gobierno, gana puntos; si viola una ley de tránsito, como conducir ebrio o acelerar en un cruce de peatones, pierde puntos. Las personas con buenos puntajes pueden obtener descuentos en los suministros de calefacción para el invierno u obtener mejores términos en las hipotecas; aquellos con malas calificaciones pueden perder el acceso a préstamos bancarios o promociones en puestos gubernamentales. El Ayuntamiento exhibe carteles de modelos a seguir locales, que han exhibido virtud y obtenido puntajes altos.

La idea del crédito social es monitorear y administrar cómo se comportan las personas y las instituciones, dice Samantha Hoffman del Instituto Mercator para Estudios de China en Berlín. Una vez que se registra una infracción en una parte del sistema, puede desencadenar respuestas en otras partes del sistema. Es un concepto diseñado para apoyar tanto el desarrollo económico como la gestión social, y es inherentemente político. Ya existen algunos paralelismos con partes del modelo de China en los EE. UU.: un puntaje de crédito malo puede impedirle obtener un préstamo hipotecario, mientras que una condena por delito grave suspende o anula su derecho a votar, por ejemplo. Pero no todos están conectados de la misma manera: no hay un plan general, señala Hoffman.

Una de las mayores preocupaciones es que debido a que China carece de un poder judicial independiente, los ciudadanos no tienen ningún recurso para disputar acusaciones falsas o inexactas. Algunos han encontrado sus nombres agregados a listas negras de viajes sin notificación después de una decisión judicial. Los peticionarios y los periodistas de investigación son monitoreados de acuerdo con otro sistema, y ​​las personas que han ingresado a centros de rehabilitación de drogas son vigiladas por un sistema de monitoreo diferente. En teoría, se supone que las bases de datos de usuarios de drogas borran los nombres después de cinco o siete años, pero he visto muchos casos en los que eso no sucedió, dice Wang de Human Rights Watch. Es inmensamente difícil quitarse alguna vez de cualquiera de estas listas.

Los estallidos ocasionales de ira en línea apuntan al resentimiento público. La noticia de que una estudiante había sido rechazada por una universidad debido a la inclusión de su padre en una lista negra de crédito recientemente encendió un incendio forestal de ira en línea. La decisión de la universidad no había sido sancionada ni ordenada oficialmente por el gobierno. Más bien, en su entusiasmo por apoyar las nuevas políticas, los administradores escolares simplemente las llevaron a lo que vieron como la conclusión lógica.

La opacidad del sistema dificulta la evaluación de la eficacia de experimentos como el de Rongcheng. El partido ha eliminado casi todas las voces críticas desde 2012 y los riesgos de desafiar el sistema, incluso en formas relativamente pequeñas, han aumentado. La información disponible está profundamente defectuosa; la falsificación sistemática de datos sobre todo, desde el crecimiento del PIB hasta el uso de energía hidroeléctrica, impregna las estadísticas del gobierno chino. El investigador de la Universidad Nacional de Australia, Borge Bakken, estima que las cifras oficiales de delincuencia, que el gobierno tiene un claro incentivo para minimizar, pueden representar tan solo el 2,5 por ciento de todo el comportamiento delictivo.

En teoría, la gobernanza basada en datos podría ayudar a solucionar estos problemas, eludiendo las distorsiones para permitir que el gobierno central recopile información directamente. Esa ha sido la idea detrás, por ejemplo, de la introducción de monitores de calidad del aire que envían datos a las autoridades centrales en lugar de depender de los funcionarios locales que pueden estar en el bolsillo de las industrias contaminantes. Pero muchos aspectos del buen gobierno son demasiado complicados para permitir ese tipo de monitoreo directo y, en cambio, dependen de los datos ingresados ​​por esos mismos funcionarios locales.

Sin embargo, el gobierno chino rara vez publica datos de rendimiento que personas externas puedan usar para evaluar estos sistemas. Por ejemplo, las cámaras que se utilizan para identificar y avergonzar a los peatones imprudentes en algunas ciudades al proyectar sus rostros en vallas publicitarias públicas, así como para rastrear los hábitos de oración de los musulmanes en el oeste de China. Su precisión sigue en duda: en particular, ¿qué tan bien puede el software de reconocimiento facial entrenado en rostros chinos Han reconocer a miembros de grupos minoritarios euroasiáticos? Además, incluso si la recopilación de datos es precisa, ¿cómo utilizará el gobierno dicha información para dirigir o frustrar el comportamiento futuro? Los algoritmos policiales que predicen quién es probable que se convierta en delincuente no están abiertos al escrutinio público, ni tampoco las estadísticas que mostrarían si el crimen o el terrorismo han aumentado o disminuido. (Por ejemplo, en la región occidental de Xinjiang, la información disponible solo muestra que la cantidad de personas detenidas por la policía se ha disparado drásticamente, aumentando un 731 por ciento entre 2016 y 2017).

En la ciudad de Xiangyang, las cámaras conectadas a la tecnología de reconocimiento facial proyectan fotos de los peatones imprudentes, con nombres y números de identificación, en una valla publicitaria.

No es la tecnología la que creó las políticas, pero la tecnología amplía en gran medida los tipos de datos que el gobierno chino puede recopilar sobre las personas, dice Richard McGregor, miembro principal del Instituto Lowy y autor de El partido: el mundo secreto de los gobernantes comunistas de China . Internet en China actúa como un servicio de inteligencia digital de gestión privada en tiempo real.

Vigilancia algorítmica

escribiendo en el El Correo de Washington A principios de este año, Xiao Qiang, profesor de comunicaciones en la Universidad de California, Berkeley, calificó la gobernanza mejorada de datos de China como un estado digital totalitario. Los aspectos distópicos se muestran más obviamente en el oeste de China.

Xinjiang (Nuevo Territorio) es el hogar tradicional de una minoría musulmana china conocida como uigures. A medida que un gran número de inmigrantes chinos Han se establecieron en la región, algunos dicen que colonizaron, las oportunidades laborales y religiosas que se brindan a la población uigur local han disminuido. Uno de los resultados ha sido un repunte de la violencia en el que han sido atacados tanto los han como los uigures, incluido un motín de 2009 en la ciudad capital de Urumqi, en el que murieron unas 200 personas. La respuesta del gobierno al aumento de las tensiones no ha sido celebrar foros públicos para solicitar puntos de vista o asesoramiento sobre políticas. En cambio, el estado está utilizando la recopilación de datos y algoritmos para determinar quién es probable que cometa futuros actos de violencia o desafío.

El gobierno de Xinjiang contrató a una empresa privada para diseñar los algoritmos predictivos que evalúan varios flujos de datos. No existe un registro público o responsabilidad sobre cómo se construyen o ponderan estos cálculos. Las personas que viven bajo este sistema generalmente ni siquiera saben cuáles son las reglas, dice Rian Thum, un antropólogo de la Universidad de Loyola que estudia Xinjiang y que ha visto los avisos de adquisiciones gubernamentales que se emitieron en la construcción del sistema.

En la ciudad occidental de Kashgar, muchas de las casas familiares y tiendas en las calles principales ahora están tapiadas y las plazas públicas están vacías. Cuando la visité en 2013, estaba claro que Kashgar ya era una ciudad segregada: las poblaciones han y uigur vivían y trabajaban en distintas secciones de la ciudad. Pero por las noches, también era un lugar animado y, a menudo, ruidoso, donde los sonidos de la llamada a la oración se mezclaban con la música bailable de los clubes locales y las conversaciones de los ancianos sentados hasta tarde en sillas de plástico en los patios. Hoy la ciudad está inquietantemente tranquila; la vida pública del barrio prácticamente se ha desvanecido. Emily Feng, periodista de la Tiempos financieros , visitó Kashgar en junio y publicó fotos en Twitter de las calles recién desocupadas.

La razón es que, según algunas estimaciones, más de uno de cada 10 adultos uigures y kazajos en Xinjiang han sido enviados a campos de reeducación rodeados de alambre de púas, y los que siguen en libertad tienen miedo.

En los últimos dos años se han instalado miles de puntos de control en los que los transeúntes deben presentar tanto su rostro como su documento nacional de identidad para circular por una autopista, ingresar a una mezquita o visitar un centro comercial. Los uigures deben instalar aplicaciones de rastreo diseñadas por el gobierno en sus teléfonos inteligentes, que monitorean sus contactos en línea y las páginas web que han visitado. Los oficiales de policía visitan los hogares locales regularmente para recopilar más datos sobre cosas como cuántas personas viven en el hogar, cómo son sus relaciones con sus vecinos, cuántas veces la gente reza diariamente, si han viajado al extranjero y qué libros tienen.

Todos estos flujos de datos se introducen en el sistema de seguridad pública de Xinjiang, junto con otros registros que capturan información sobre todo, desde el historial bancario hasta la planificación familiar. El programa de computadora agrega todos los datos de estas diferentes fuentes y señala a aquellos que podrían convertirse en 'una amenaza' para las autoridades, dice Wang. Aunque se desconoce el algoritmo exacto, se cree que puede resaltar comportamientos como visitar una mezquita en particular, poseer muchos libros, comprar una gran cantidad de gasolina o recibir llamadas telefónicas o correos electrónicos de contactos en el extranjero. Las personas que señala son visitadas por la policía, que puede detenerlas y ponerlas en prisión o en campos de reeducación sin cargos formales.

Los visitantes de la Plaza de Tiananmen en Beijing escanean sus identificaciones en un puesto de control.

Adrian Zenz, politólogo de la Escuela Europea de Cultura y Teología en Korntal, Alemania, calcula que la tasa de internamiento de las minorías en Xinjiang puede llegar al 11,5 por ciento de la población adulta. Estos campamentos están diseñados para inculcar el patriotismo y hacer que las personas desaprendan las creencias religiosas. (Los nuevos avisos de adquisición para los guardias de seguridad de cremación parecen indicar que el gobierno también está tratando de erradicar las prácticas tradicionales musulmanas de entierro en la región).

Si bien Xinjiang representa un extremo draconiano, en otras partes de China los ciudadanos están comenzando a rechazar algunos tipos de vigilancia. Una compañía de Internet que transmitía en línea imágenes de circuito cerrado de televisión canceló esas transmisiones después de una protesta pública. La ciudad de Shanghai recientemente emitió regulaciones para permitir que las personas cuestionen la información incorrecta utilizada para compilar registros de crédito social. Hay una creciente demanda de privacidad por parte de los usuarios de Internet chinos, dice Samm Sacks, miembro principal del Programa de Políticas Tecnológicas de CSIS en Nueva York. No es tan gratis para todos como parece.

Christina Larson es una galardonada corresponsal extranjera y periodista científica que escribe principalmente sobre China y Asia.

esconder