Cómo censura WeChat las conversaciones privadas, automáticamente en tiempo real

Ilustración conceptual de la censura de imágenes de WeChat Sra. tecnología

WeChat es una ventana al futuro de Internet de muchas maneras diferentes.

Con sede en China y con más de 1100 millones de usuarios en todo el mundo, es una de las aplicaciones más avanzadas y populares del mundo. Lo que es notable es la forma en que llega a tantos rincones de la vida de una persona china: es la forma en que gran parte del país chatea, paga, juega, se mueve y mucho más. Mientras Mark Zuckerberg contempla el futuro de Facebook, es cada vez más WeChat lo que está tratando de emular .

Hay más en esta llamada súper aplicación que mensajes, comida, automóviles y pagos. La ambición global de WeChat incluye algunas de las tecnologías de censura más vanguardistas, de acción rápida y de mayor alcance del mundo.

Nueva investigación del CitizenLab de la Universidad de Toronto desvela cómo la censura automática de texto e imágenes en tiempo real de WeChat se utiliza para ejercer control sobre la discusión política sobre temas que van desde cuestiones internacionales como la guerra comercial con EE. UU. hasta escándalos internos como la desaparición de documentos judiciales en una disputa de 2018 entre dos empresas mineras chinas multimillonarias. Toda discusión está sujeta en última instancia a la aprobación del gobierno chino.

Los censores de WeChat enfrentan dos tipos de desafíos. Las grandes publicaciones públicas en WeChat Moments, una función pública similar a la línea de tiempo de Facebook, se examinan y filtran mediante algoritmos que a veces pueden tardar más de 10 segundos en ejecutarse, un ritmo glacial en las redes sociales. Pero los mensajes individuales y grupales son un problema completamente diferente, porque a menudo son conversaciones íntimas e instantáneas. Eso requiere censura en tiempo real.

El texto es relativamente fácil de buscar y censurar. El filtrado de imágenes es más difícil, especialmente cuando intenta examinar y censurar las imágenes casi al instante. Para llevar a cabo esta tarea, WeChat mantiene un índice masivo y en constante crecimiento de hash MD5, pequeñas firmas de datos criptográficos que son únicas para cada archivo. Cuando se envía una imagen censurada, el índice hash la capturará y la eliminará. Es probable que ni el remitente ni el destinatario sepan que algo fue censurado.

Si la imagen no se censura instantáneamente, se envía para su análisis automático. Mediante el reconocimiento óptico de caracteres, se examina la imagen en busca de texto (enviar capturas de pantalla de artículos periodísticos alguna vez fue una manera fácil de burlar a los censores). Luego se verifica la similitud visual de la imagen con otras imágenes censuradas. El llamado contenido dañino, incluido todo lo relacionado con la política internacional o nacional que el Partido Comunista Chino considere indeseable, se detectará, se eliminará de la conversación y luego se agregará a ese índice hash original, que lo marca para censura instantánea a partir de ese momento. . Es un sistema que se refuerza a sí mismo y crece con cada imagen enviada. Estos últimos sistemas también se utilizan en WeChat's Moments para verificar y crear la lista negra dinámica de la empresa.

El gigante tecnológico chino Tencent, propietario de WeChat, está bajo una gran presión de Beijing para implementar tecnología de censura efectiva, dice Adam Segal, director del programa de política digital y ciberespacial del Consejo de Relaciones Exteriores. Todas las empresas chinas son responsables del contenido y, si bien han confiado en decenas de miles de censores humanos, también han estado desarrollando nuevos enfoques [de aprendizaje automático] para eliminar contenido. Dentro de China, es parte de la tendencia más amplia bajo Xi Jinping de endurecer los controles en Internet y la sociedad china en general.

WeChat es tan omnipresente en China que la perspectiva de ser suspendido o prohibido puede trastornar vidas. La aplicación combina las características de Facebook, Uber, GrubHub y más. Puede programar citas médicas, pagar facturas de servicios públicos, hablar con contactos profesionales o contratar servicios gubernamentales.

Esto realmente se ha convertido en una megaaplicación, dice Sarah Cook, analista de investigación senior para Asia Oriental en el grupo de investigación prodemocracia Freedom House. Es realmente difícil funcionar en la sociedad china moderna sin usar WeChat, por lo que el efecto escalofriante es real.

Bajo la dirección de Beijing, los censores de Tencent responden hábilmente a los asuntos de actualidad. Además de eventos históricos mortales como las protestas de la Plaza de Tiananmen y la Revolución Cultural, rápidamente se agregan nuevos eventos.

Los investigadores descubrieron que eventos de interés periodístico como el arresto de un ejecutivo de Huawei por cargos de fraude y el escándalo de bebés CRISPR en el que un científico chino anunció el nacimiento de niñas con genomas editados desencadenaron oleadas de censura. También lo hicieron una serie de otros temas, como el conflicto con los EE. UU. y la corrupción interna u otros problemas.

Un evento desencadenó aún más imágenes censuradas: en diciembre de 2018, estalló un escándalo cuando la Corte Suprema de China admitió la desaparición de documentos en una disputa multimillonaria entre empresas mineras. Los investigadores encontraron que decenas de imágenes relacionadas con el presunto robo de los documentos fueron censuradas.

En los últimos años, ha tenido la combinación de restricciones de censura más estrictas y controles más estrictos, dice Cook. Hay menos tolerancia oficial para la conversación, la expresión y la creación de redes que antes. Ha visto a Tencent y WeChat, en particular, recibir multas. Así que ahora están tratando de emplear nuevos métodos para capturar el llamado 'contenido dañino' que el Partido Comunista Chino quiere detener. Ahí es donde entra la censura automatizada en tiempo real.

esconder