Arriesgó todo para exponer Facebook. Ahora ella está contando su historia.

Sophie Zhang, ex científica de datos de Facebook, reveló que permite la manipulación política global y ha hecho poco para detenerlo.

Christie There Klok

por

• karen hao página de archivo

29 de julio de 2021

El mundo supo por primera vez de Sophie Zhang en septiembre de 2020, cuando Noticias BuzzFeed obtuvo y publicó lo más destacado de una versión abreviada de su nota de salida de casi 8000 palabras de Facebook.

Antes de que la despidieran, Zhang estaba oficialmente empleada como científica de datos de bajo nivel en la empresa. Pero se había concentrado en una tarea que consideraba más importante: encontrar y eliminar cuentas falsas y me gusta que se usaban para influir en las elecciones a nivel mundial.

Su memorándum reveló que había identificado docenas de países, incluidos India, México, Afganistán y Corea del Sur, donde este tipo de abuso permitía a los políticos engañar al público y ganar poder. También reveló lo poco que había hecho la empresa para mitigar el problema, a pesar de los repetidos esfuerzos de Zhang para llamar la atención de los líderes.

ESCUCHA LA HISTORIA AQUÍ

Sé que ya tengo sangre en las manos, escribió.

En la víspera de su partida, Zhang todavía estaba debatiendo si escribir el memorándum. Quizás fue su última oportunidad de crear suficiente presión interna sobre el liderazgo para comenzar a tomar los problemas en serio. Antes de escribirlo, había rechazado un paquete de indemnización de casi $64,000 que habría implicado la firma de un acuerdo de no menosprecio. Quería conservar la libertad de hablar críticamente sobre la empresa.

Pero faltaban solo dos meses para las elecciones estadounidenses de 2020 y le inquietaba la idea de que el memorando podría erosionar la confianza del público en el proceso electoral si se divulgaba prematuramente a la prensa. Estaba aterrorizada de convertirme de alguna manera en el James Comey de 2020, dice, refiriéndose al exdirector del FBI que, días antes de las elecciones de 2016, le dijo al Congreso que la agencia había reabierto una investigación sobre el uso de un servidor de correo electrónico privado por parte de Hillary Clinton. Clinton pasó a culpar a Comey por su pérdida.

Para gran alivio de Zhang, eso no sucedió. Y después de que pasaron las elecciones, ella procedió con su plan original. En abril, se presentó en dos guardián artículos con su rostro, su nombre y documentación aún más detallada de la manipulación política que había descubierto y la negligencia de Facebook al tratar con ella.

Su cuenta proporcionó evidencia concreta para respaldar lo que los críticos han estado diciendo desde hace mucho tiempo: que Facebook facilita la interferencia electoral y que, a menos que dicha actividad perjudique los intereses comerciales de la empresa, no puede molestarse en solucionar el problema.

En un comunicado, Joe Osborne, un portavoz de Facebook, negó con vehemencia estas afirmaciones. En las innumerables entrevistas de prensa que ha realizado desde que dejó Facebook, no estamos de acuerdo fundamentalmente con la caracterización de la Sra. Zhang de nuestras prioridades y esfuerzos para erradicar el abuso en nuestra plataforma, dijo. Perseguimos agresivamente el abuso en todo el mundo y contamos con equipos especializados enfocados en este trabajo. Como resultado, ya hemos eliminado más de 150 redes de comportamiento inauténtico coordinado... Combatir el comportamiento inauténtico coordinado es nuestra prioridad.

Al hacerlo público y evitar el anonimato, Zhang se arriesgó a emprender acciones legales por parte de la empresa, dañar sus futuras perspectivas de carrera y tal vez incluso represalias de los políticos que expuso en el proceso. Lo que hizo fue muy valiente, dice Julia Carrie Wong, la reportera de The Guardian que publicó sus revelaciones.

Después de casi un año de evitar preguntas personales, Zhang ahora está lista para contar su historia. Ella quiere que el mundo entienda cómo se involucró tanto en tratar de proteger la democracia en todo el mundo y por qué le importaba tanto. También está cansada de estar en el armario como una mujer transgénero, un aspecto central de su identidad que informó sus acciones en Facebook y después de que se fue.

Su historia revela que es realmente pura suerte que ahora sepamos tanto sobre cómo Facebook permite la interferencia electoral a nivel mundial. Zhang no fue solo la única persona que luchó contra esta forma de manipulación política; ni siquiera era su trabajo. Había descubierto el problema debido a una confluencia única de habilidades y pasión, y luego lo asumió ella misma, impulsada por un extraordinario sentido de responsabilidad moral.

Para los reguladores de todo el mundo que están considerando cómo controlar a la empresa, esto debería ser una llamada de atención.

Zhang nunca planeó estar en esta posición. Es profundamente introvertida y odia estar en el centro de atención. Se unió a Facebook en 2018 después de que la tensión financiera de vivir con un contrato de trabajo a tiempo parcial en el Área de la Bahía la había agotado. Cuando recibió la oferta de Facebook, fue sincera con su reclutador: no creía que la empresa estuviera mejorando el mundo, pero se uniría para ayudar a solucionarlo.

Me dijeron: 'Te sorprendería saber cuántas personas en Facebook dicen eso', recuerda.

Era más fácil decirlo que hacerlo. Como muchos nuevos empleados, se unió sin haber sido asignada a un equipo específico. Quería trabajar en la integridad electoral, que busca formas de mitigar el abuso de la plataforma relacionada con las elecciones, pero sus habilidades no coincidían con sus oportunidades. En su lugar, se conformó con un nuevo equipo que abordara el compromiso falso.

El compromiso falso se refiere a cosas como me gusta, acciones y comentarios que se compraron o se generaron de manera no auténtica en la plataforma. El nuevo equipo se centró más estrechamente en la llamada actividad no auténtica con guión: me gusta y acciones falsas producidas por bots automatizados y utilizadas para aumentar la popularidad de alguien.

En la gran mayoría de estos casos, las personas simplemente obtenían gustos por vanidad. Pero medio año después, Zhang intuyó que los políticos podían hacer lo mismo para aumentar su influencia y alcance en la plataforma. No le tomó mucho tiempo encontrar ejemplos en Brasil e India, que se estaban preparando para las elecciones generales.

En el proceso de búsqueda de actividad programada, también encontró algo mucho más preocupante. El administrador de la página de Facebook del presidente hondureño, Juan Orlando Hernández, había creado cientos de páginas con nombres falsos y fotos de perfil para parecerse a los usuarios, y las estaba usando para inundar las publicaciones del presidente con 'me gusta', comentarios y acciones compartidas. (Facebook prohíbe a los usuarios crear múltiples perfiles, pero no aplica la misma restricción a las páginas, que generalmente están destinadas a empresas y figuras públicas).

La actividad no contaba como prevista, pero el efecto era el mismo. No solo podía engañar al observador casual haciéndole creer que Hernández era más querido y popular de lo que era, sino que también estaba impulsando sus publicaciones más arriba en las noticias de la gente. Para un político cuya victoria en la reelección de 2017 se consideraba fraudulenta, el descaro y las implicaciones fueron alarmantes.

Todos coincidieron en que fue terrible. Nadie podía ponerse de acuerdo sobre quién debería ser responsable, o incluso qué se debería hacer.

Pero cuando Zhang planteó el tema, dice, recibió una recepción tibia. El equipo de integridad de páginas, que maneja el abuso de y en las páginas de Facebook, no bloquearía la fabricación masiva de páginas para que parezcan usuarios. El equipo de integridad del suministro de noticias, que trata de mejorar la calidad de lo que aparece en los suministros de noticias de los usuarios, no eliminaría los 'me gusta' y los comentarios falsos de la consideración del algoritmo de clasificación. Todos estuvieron de acuerdo en que fue terrible, dice Zhang. Nadie podía ponerse de acuerdo sobre quién debería ser responsable, o incluso qué se debería hacer.

Después de que Zhang ejerció presión durante un año, finalmente se eliminó la red de páginas falsas. Unos meses más tarde, Facebook creó una nueva política de comportamiento no auténtico para prohibir las páginas falsas que se hacen pasar por usuarios. Pero este cambio de política no abordó un problema más fundamental: no se le pidió a nadie que lo hiciera cumplir.

Así que Zhang tomó la iniciativa ella misma. Cuando no estaba trabajando para eliminar los 'me gusta' vanidosos, examinaba diligentemente flujos de datos, buscando el uso de páginas falsas, cuentas falsas y otras formas de actividad falsa coordinada en las páginas de los políticos. Encontró casos en docenas de países, sobre todo en Azerbaiyán, donde la técnica de las páginas se utilizaba para hostigar a la oposición.

Pero encontrar y marcar nuevos casos no fue suficiente. Zhang descubrió que para eliminar cualquier red de páginas o cuentas falsas, tenía que presionar persistentemente a los equipos relevantes. En países donde dicha actividad representó poco riesgo de relaciones públicas para la empresa, la aplicación podría posponerse repetidamente . (Facebook cuestiona esta caracterización). La responsabilidad pesaba mucho sobre ella. ¿Era más importante impulsar un caso en Bolivia, con una población de 11,6 millones, o en Rajasthan, India, con una población cercana a los 70 millones?

Luego, en el otoño de 2019, estallaron semanas de protestas civiles mortales en Bolivia después de que el público impugnara los resultados de su elección presidencial. Solo unas semanas antes, Zhang había quitado prioridad al país para atender lo que parecían casos más urgentes. La noticia la consumió con culpa. Intelectualmente, sabía que no había forma de establecer una conexión directa entre su decisión y los acontecimientos. El compromiso falso había sido tan pequeño que el efecto probablemente fue insignificante. Pero psicológica y emocionalmente, no importaba. Fue entonces cuando comencé a perder el sueño, dice ella.

Mientras que alguien más podría haber optado por dejar un trabajo tan exigente o tal vez absolverse de la responsabilidad como un medio para hacer frente, Zhang se inclinó, a un gran costo personal, en un intento de corregir un error sin ayuda.

Durante el año transcurrido entre los acontecimientos en Bolivia y su despido, el esfuerzo hizo que su salud empeorara drásticamente. Ya sufría de ansiedad y depresión, pero empeoró significativa y peligrosamente. Siempre lectora voraz de noticias mundiales, ya no podía distanciarse de la agitación política en otros países. La presión la alejó de sus amigos y seres queridos. Se aisló cada vez más y rompió con su novia. Aumentó su medicación para la ansiedad y los antidepresivos hasta que su dosis se multiplicó por seis.

Historia relacionada

Cómo Facebook se volvió adicto a difundir información errónea

Los algoritmos de inteligencia artificial de la compañía le dieron un hábito insaciable de mentiras y discursos de odio. Ahora el hombre que los construyó no puede solucionar el problema.

Para Zhang, la explicación de por qué le importaba tanto está ligada a su identidad. Creció en Ann Arbor, Michigan, hija de padres que habían emigrado de China continental. Desde una edad temprana, se mantuvo en altos estándares académicos y demostró ser una erudita precoz. A los seis o siete años, leyó un libro de introducción a la física y quedó fascinada por los componentes básicos del universo. Su pasión la llevaría a estudiar cosmología en la Universidad de Michigan, donde publicó dos trabajos de investigación, uno como autora única.

Ella era increíblemente inteligente. Puede que sea la estudiante de pregrado más inteligente con la que he trabajado, recuerda Dragan Huterer, su asesor de pregrado. Diría que estaba más avanzada que una estudiante de posgrado.

Pero su infancia también estuvo marcada por un trauma severo. Ya a los cinco años, comenzó a darse cuenta de que era diferente. Leyó un libro infantil sobre un niño cuyos amigos le dijeron que si le besaba el codo se convertiría en una niña. Después de eso, pasé mucho tiempo tratando de besarme el codo, dice ella.

Hizo todo lo posible por ocultarlo, entendiendo que sus padres encontrarían intolerable su identidad transgénero. Pero recuerda vívidamente el momento en que su padre se enteró. Era primavera de octavo grado. Acababa de llover. Y ella estaba acurrucada en el baño, considerando si saltar por la ventana, mientras él derribaba la puerta.

Al final, ella optó por no saltar y dejar que él la golpeara hasta dejarla ensangrentada. Dice: Al final, decidí que yo era la persona que se quedaba en situaciones imperfectas para tratar de arreglarlas. Al día siguiente, usó una camisa de manga larga para cubrir los moretones y preparó una excusa en caso de que un maestro se diera cuenta. Ninguno lo hizo, dice ella.

(Cuando se le contactó por correo electrónico, su padre negó las acusaciones. Me entristece que ella alegue que la golpeé cuando era niña después de que descubrí su identidad transgénero, lo cual es completamente falso, escribió. Pero varias personas que conocieron a Zhang desde la escuela secundaria hasta hasta el día de hoy han corroborado su versión del comportamiento abusivo de su padre.)

Renunciar a ellos y abandonarlos sería una traición al núcleo mismo de mi identidad.

En la universidad, decidió hacer la transición, después de lo cual su padre la repudió. Pero pronto descubrió que finalmente ser percibida correctamente como mujer tenía sus propias consecuencias. Sabía exactamente cómo me trataba la gente cuando pensaban que era un tipo. Era muy diferente, dice ella.

Después de ser aceptada en todos los mejores programas de doctorado en física, decidió asistir a la Universidad de Princeton. Durante la orientación, la persona que hacía un recorrido por el taller de máquinas la destacó repetidamente frente al grupo con la falsa suposición de que no era competente. Fue mi presentación oficial a Princeton, y muy apropiada, dice ella.

CHRISTIE HAY UN RELOJ

A partir de ahí, el sexismo solo empeoró. Casi de inmediato, un estudiante de posgrado comenzó a acecharla y acosarla sexualmente. Para hacer frente, eligió a un asesor de tesis en el departamento de biofísica, lo que le permitió escapar de su acosador realizando investigaciones en otro edificio. El problema era que en realidad no estaba interesada en la biofísica. Y ya sea por esta u otras razones, su interés por la física se disolvió lentamente.

Tres años después, profundamente infeliz, decidió dejar el programa, aunque no sin finalmente denunciar el acoso a la universidad. Dijeron: 'Es tu palabra contra la de él'. Probablemente puedas adivinar ahora por qué documenté extensamente todo lo que le di a Julia, dice, refiriéndose a Julia Carrie Wong en The Guardian. No quería estar en otra situación de ‘él dijo/ella dijo’.

(Un portavoz de Princeton dijo que no podía comentar sobre situaciones individuales, pero afirmó el compromiso de la universidad de brindar un entorno educativo y laboral inclusivo y acogedor. Princeton busca apoyar a cualquier miembro de la comunidad del campus que haya experimentado una conducta sexual inapropiada, incluido el acoso sexual, él dicho.)

Lo que estas experiencias tienen en común es el hecho de que he experimentado repetidamente caer en las grietas de la responsabilidad, escribió Zhang en su memorándum. Nunca recibí el apoyo de las figuras de autoridad que necesitaba… En cada caso, cumplieron con la letra de su deber pero fallaron en el espíritu, y pagué el precio de sus decisiones.

Quizás entonces puedas entender por qué esto fue tan personal para mí desde el principio, por qué luché tan duro para evitar que la gente de Honduras y Azerbaiyán se escabullera por esas grietas, escribió. Renunciar a ellos y abandonarlos sería una traición al núcleo mismo de mi identidad.

fue durante el comienzo de su declive físico y mental en el otoño de 2019, Zhang comenzó a pensar si dar un paso al frente. Quería dar a los sistemas oficiales de Facebook la oportunidad de funcionar. Pero le preocupaba ser un único punto de falla. ¿Qué pasa si me atropella un autobús al día siguiente? ella dice. Necesitaba que alguien más tuviera acceso a la misma información.

Por coincidencia, recibió un correo electrónico de un periodista en su bandeja de entrada. Wong, entonces reportero técnico sénior en The Guardian, había estado enviando mensajes a los empleados de Facebook que buscaban cultivar nuevas fuentes. Zhang aprovechó la oportunidad y acordó reunirse para una conversación extraoficial. Ese día, dejó el teléfono y la computadora de la compañía en la casa de un antiguo compañero de casa como medida de precaución, sabiendo que Facebook tenía la capacidad de rastrear su ubicación. Cuando regresó, parecía un poco aliviada, la excompañera de casa, Ness Io Kain, recuerda: Se notaba que sentía que había logrado algo. Es bastante silencioso, pero definitivamente es palpable.

Por un momento, las cosas en Facebook parecieron progresar. Ella vio el cambio de política y el derribo de la red falsa del presidente hondureño como un impulso hacia adelante. La llamaron repetidamente para ayudar a manejar emergencias y la elogiaron por su trabajo, que le dijeron que era valioso e importante.

Pero a pesar de sus repetidos intentos de impulsar más recursos, el liderazgo citó diferentes prioridades. También rechazaron las sugerencias de Zhang de una solución más sostenible, como suspender o sancionar de otro modo a los políticos que reinciden. Eso la dejó enfrentándose a una interminable manguera contra incendios: las redes de manipulación que eliminó rápidamente regresaron, a menudo solo horas o días después. Se sentía cada vez más como si estuviera tratando de vaciar el océano con un colador, dice ella.

Nunca he odiado mi autismo más que cuando me uní a Facebook.

Luego, en enero de 2020, la marea cambió. Tanto su gerente como el gerente de su gerente le dijeron que dejara su trabajo político y se mantuviera en su trabajo asignado. Si no lo hiciera, sus servicios en la empresa ya no serían necesarios, recuerda que dijo este último. Pero sin un equipo asignado para continuar con su trabajo, Zhang siguió haciendo algunos en secreto.

A medida que aumentaba la presión y su salud empeoraba, Zhang se dio cuenta de que finalmente tendría que irse. Hizo un plan para partir después de las elecciones de EE. UU., considerándolo el último y más importante evento que debía enfrentar. Pero el liderazgo tenía otros planes. En agosto, se le informó que sería despedida por mal desempeño.

En su último día, horas después de que publicó su nota internamente, Facebook la eliminó (aunque luego restauraron una versión editada después de la ira generalizada de los empleados). Unas horas más tarde, una persona de recursos humanos la llamó y le pidió que también eliminara una copia protegida con contraseña que había publicado en su sitio web personal. Trató de negociar: lo haría si restauraban la versión interna. Al día siguiente, en cambio, recibió un aviso de su servidor de alojamiento de que había eliminado todo su sitio web después de una queja de Facebook. Unos días después de eso, también eliminó su dominio.

Incluso después de todo lo que Facebook le hizo pasar, Zhang se culpa a sí misma por defecto. En su memorándum, se disculpó con sus compañeros por los problemas que les haya podido causar y por dejarlos sin lograr más. En a Reddit AMA meses después, pidió disculpas a los ciudadanos de diferentes países por no actuar lo suficientemente rápido y por no haber logrado una solución a largo plazo.

Para mí, Zhang, que es autista, se pregunta en voz alta qué podría haber logrado si no lo fuera. No tengo talento para la persuasión y el convencimiento, dice. Si hubiera nacido con una lengua de plata, tal vez podría haber hecho cambios.

Nunca he odiado mi autismo más que cuando me uní a Facebook.

En preparación para salir a bolsa, Zhang hizo un último sacrificio: ocultar su identidad trans, no por miedo al acoso, sino por miedo a que distrajera su mensaje. En Estados Unidos, donde los derechos de las personas transgénero están muy politizados, no quería que proteger la democracia se convirtiera en un tema partidista. En el extranjero, donde algunos países tratan el hecho de ser transgénero como un delito punible con prisión o incluso con la muerte, no quería que la gente dejara de escuchar.

Estaba en consonancia con un sacrificio que había hecho repetidamente al vigilar la interferencia electoral a nivel mundial. Trató a todos los políticos por igual, incluso cuando eliminar la actividad falsa de uno en Azerbaiyán inevitablemente impulsó a un oponente que propugnaba la homofobia . Hice lo mejor que pude para proteger la democracia y el estado de derecho a nivel mundial para las personas, independientemente de si creían que era humana, dice con un profundo suspiro. Pero no creo que nadie deba tomar esa decisión.

Historia relacionada

Reseña: Por qué Facebook nunca podrá arreglarse solo

En An Ugly Truth, las reporteras Sheera Frenkel y Cecilia Kang revelan las fallas fundamentales de Facebook a través de un relato detallado de sus años entre dos elecciones estadounidenses.

La noche en que se publicaron los artículos de The Guardian, esperó ansiosamente la reacción del público, preocupada por si sería capaz de manejar la atención de los medios. Creo que en realidad se sorprendió a sí misma de lo buena que era en las entrevistas, dice su novia, Lisa Danz, con quien Zhang se reunió después de dejar Facebook. Descubrió que cuando hay material que conoce muy bien y solo le hacen preguntas al respecto, puede responder.

El impacto finalmente no alcanzó lo que Zhang imaginó. S eterno media salida t en los EE. UU. hicieron artículos de seguimiento, al igual que los medios extranjeros de países afectados por la actividad de manipulación. Pero hasta donde ella sabe, no logró lo que esperaba: un escándalo de relaciones públicas lo suficientemente grande como para que Facebook finalmente priorizara el trabajo que dejó atrás.

Facebook una vez más cuestiona esta caracterización, diciendo que el equipo de compromiso falso ha continuado con el trabajo de Zhang. Pero Zhang apunta a otra evidencia: la red de páginas falsas en Azerbaiyán todavía está allí. Está claro que no han tenido éxito, dice ella.

No obstante, Zhang no se arrepiente de su decisión de presentarse. Yo era la única en este puesto de responsabilidad desde el principio, dice, y alguien tenía que asumir la responsabilidad y hacer todo lo posible para proteger a las personas.

Sin perder el ritmo, luego enumera las consecuencias que otros han enfrentado por enfrentarse a los poderosos en países más hostiles: periodistas asesinados por investigar la corrupción del gobierno, manifestantes asesinados a tiros por registrar su disidencia.

Comparada con ellos, soy patata pequeña, dice ella.

Corrección: Una versión anterior del artículo perdió una 'e' en Joe Osborne. Lo siento, Joe.