Estuve allí cuando: Facebook antepuso las ganancias a la seguridad

El mes pasado, la fuente principal de la Archivos de Facebook del Wall Street Journal , reveló su identidad en un episodio de 60 minutos . Frances Haugen, exgerente de productos de la compañía, dice que se presentó después de ver que el liderazgo de Facebook priorizaba repetidamente las ganancias sobre la seguridad. Luego compareció ante legisladores en los EE. UU. y el Reino Unido para hablar sobre lo que había aprendido durante su tiempo en la firma.

Pero Haugen no fue el primer denunciante de Facebook en dar la alarma sobre la incapacidad, o falta de voluntad, de la empresa para abordar los graves problemas causados ​​por los algoritmos de la plataforma. En 2020 nos enteramos de Sophie Zhang, que había sido empleada oficialmente como científica de datos de bajo nivel en la empresa. Cuando renunció, su exitoso memorándum de salida de 8000 palabras reveló que había identificado docenas de países, incluidos India, México, Afganistán y Corea del Sur, donde las cuentas falsas y los 'me gusta' permitían a los políticos engañar al público y ganar poder. También reveló lo poco que había hecho la empresa para mitigar el problema, a pesar de los repetidos esfuerzos de Zhang para llamar la atención de los líderes.

En el último episodio de yo estaba alli cuando , un nuevo proyecto de historia oral del podcast In Machines We Trust, hablamos con Zhang sobre sus esfuerzos.

Créditos:

Este episodio fue producido por Jennifer Strong, Anthony Green y Emma Cillekens. Está editado por Michael Reilly y Mat Honan. Está mezclado por Garret Lang, con diseño de sonido y música de Jacob Gorski.

Transcripción completa:

[ID TR]

SOT: Frances Haugen: Durante mi tiempo en Facebook, me di cuenta de una verdad devastadora. Casi nadie fuera de Facebook sabe lo que sucede dentro de Facebook.

Jennifer: Frances Haugen es exgerente de productos en Facebook. Ella presentó quejas ante la policía federal alegando que el liderazgo del gigante de las redes sociales ha puesto repetidamente las ganancias por encima de la seguridad.

SOT: Frances Haugen: La empresa oculta intencionalmente información vital del público, del gobierno de los EE. UU. y de los gobiernos de todo el mundo.

Jennifer: Sus quejas llegaron con una gran cantidad de documentos que Haugen reunió antes de renunciar... en un intento de demostrar que la empresa había elegido deliberadamente no solucionar los problemas en su plataforma.

Entre ellos... que los algoritmos como el que está detrás de su fuente de noticias de Facebook amplifican el odio, la desinformación y el malestar político.

Y no es la única denunciante que acusa a la empresa de hacer la vista gorda ante las campañas de desinformación en la plataforma.

Sophie Zhang trabajó como científica de datos de Facebook... y hasta que la despidieron, se dedicó a encontrar y eliminar cuentas, comentarios y 'me gusta' falsos que se usaban para influir en las elecciones a nivel mundial. Su nota de salida de gran éxito fue de 8 mil palabras... y reveló lo poco que Facebook había hecho para mitigar el problema.

Soy Jennifer Strong, y esto es yo estaba alli cuando .

Es un proyecto de historia oral que presenta las historias de cómo ocurrieron momentos decisivos en la inteligencia artificial y la computación... según lo contado por las personas que los presenciaron.

[Mostrar identificación]

Sofía Zhang: Soy Sophie Zhang. En Facebook era científico de datos y trabajé en el equipo de participación. Por falso me refiero, por ejemplo, a cuentas falsas, pero también a cuentas hackeadas. Y por compromiso, me refiero a me gusta, comentarios, acciones, etcétera. Pero en mi tiempo libre, cuando comencé a trabajar como segundo en el área de encontrar actividad política no auténtica. Actividad política a menudo muy sofisticada y poco auténtica. Podría argumentar que esto también fue un compromiso falso, pero no era en lo que se esperaba que trabajara.

Cuando comencé a investigar las intersecciones entre el compromiso falso y la actividad cívica, rápidamente encontré resultados en todo el mundo. Encontré resultados en Brasil, India, Indonesia, en muchas naciones, pero también en Honduras, bastante en Honduras en relación con su tamaño. Y estaba preparando un informe para el liderazgo sobre el problema. Tenía la intención de tomar una captura de pantalla de la página del principal destinatario en Honduras, Juan Orlando Hernández, quien después de buscarlo resultó ser el presidente de Honduras.

Iba a su página para tomar una captura de pantalla cuando de repente se detuvieron, porque noté algo muy inusual porque las personas que estaban, que le estaban dando me gusta a su página y comentando, muchas de ellas no eran personas en absoluto. Eran páginas haciéndose pasar por usuarios. Y entonces, para dar un paso atrás aquí, ¿qué son las páginas? ¿Qué son los usuarios? Las páginas son una función de Facebook destinada a figuras públicas, organizaciones públicas, etc. Por ejemplo, MIT Tech Review tiene una página de Facebook. MIT Tech Review no es una persona. La página está a cargo de otra persona en Facebook.

Entonces, la intención de cómo son las páginas de Facebook es que se supone que deben reflejar entidades públicas y un solo usuario puede controlar muchas páginas. Entonces, por ejemplo, el mismo administrador puede controlar la página de CNN, así como CNN, Filipinas y CNN Europa, etcétera. Pero no había nada que impidiera que un usuario configurara cientos de páginas, dándoles nombres y fotos de perfil como personas reales y haciendo que actuaran como personas reales. De hecho, fue más fácil para ellos porque podían cambiar fácilmente entre estas páginas sin necesidad de iniciar y cerrar sesión cada vez.

Rápidamente se dio cuenta de que estas páginas falsas que se hacían pasar por usuarios, había miles de ellas en Honduras. Y unos cientos de ellos fueron dirigidos personalmente por el administrador de la página del presidente de Honduras. Era alguien que claramente tenía una gran confianza en las redes sociales del gobierno hondureño. Y ni siquiera estaban ocultando el hecho de que estaban usando miles de activos falsos para manipular a su propia ciudadanía.

Y así, desde el principio, fui muy ingenuo. Pensé que, está bien, encontré esto. Esta gente era estúpida. Los atrapamos. Los entregaré a otros. Ellos se harán cargo. Puedo reducir mi trabajo actual y todo estará bien. En cambio, fue el comienzo de una terrible experiencia de dos años, porque lo que sucedió cuando lo planteé fue que todos estuvieron de acuerdo en que esto era terrible. No fue controvertido que esto fuera malo. Todos estuvieron de acuerdo en que esto no debería permitirse, pero la pregunta era, ¿qué hacemos al respecto? ¿Tenemos la capacidad de actuar en consecuencia? ¿Está dentro de nuestras políticas actuar en consecuencia, etcétera? Desde el principio, hablé de ello con todos los que parecían relacionarse con él. Lo hablé con Pages Integrity, con Groups Integrity. Lo hablé con el equipo de integridad cívica. Traté de interesar a la inteligencia de amenazas. Eventualmente estaba hablando con todos los que querían escuchar. Hablé con todos, incluido el vicepresidente Guy Rosen. Esencialmente, era como hablarle al viento, como intentar vaciar el océano con un colador. Eventualmente, descubrí que la mejor manera de obtener resultados a menudo no era tratar de utilizar los canales adecuados, sino quejarme públicamente dentro de la empresa en Workplace, que es esencialmente Facebook para la oficina, y hacer publicaciones en Workplace sobre la situación que otros en la empresa podía ver. Y muchos de ellos, por supuesto, estaban molestos porque no era el tipo de empresa para la que pensaban que estaban trabajando y para la que querían trabajar. No sé si fue por este medio, por otros, pero finalmente Facebook finalmente derribó la operación del gobierno hondureño, que fue noticia internacional.

Unas semanas más tarde, la operación volvió con un método diferente. Cuando conseguimos el derribo en Honduras, todavía era ingenuo e idealista al principio. Pensé, está bien, antes de esto todos decían que no teníamos un precedente, que no sabíamos qué hacer, pero ahora sí tenemos un precedente. Ahora podemos decir que hemos creado este precedente de hacer esto. Podemos resolverlo en este método. Entonces, después de esto, pensé, está bien, puedo enviarlos a todos los demás que encontré. Ellos se encargarían de eso. No lo cuidaron. Cuando usé los canales apropiados para enviarlos, esencialmente fueron a parar a una trituradora de caja negra donde fueron ignorados.

En la segunda mitad de 2019, levanté y marqué unas tres docenas más de redes de actividades políticas no auténticas desde Afganistán hasta Albania, desde Brasil hasta Bolivia, desde India hasta Indonesia. Así que tomó un tiempo descubrir la forma correcta de obtener resultados y lograr que la gente respondiera. Dependía de si estaban atados a políticos y figuras prominentes, porque si algo estaba atado a una figura política, se hacía mucho más difícil derribarlo. Te voy a dar un número ahora que no salí cuando lo vieron por primera vez. Debido a que Azerbaiyán ciertamente tiene menos del 3% de la población mundial, mucho más pequeña, su red creaba quizás un millón de comentarios cada mes. Y esto constituyó algo así como el 3% de todos los comentarios de las páginas en las publicaciones de otras páginas en todo el mundo, globalmente, cívicas o no cívicas.

Pero incluso cuando atrapé al gobierno de Azerbaiyán con las manos en la masa, se tardó más de un año en desmantelar la operación. Cuando descubrí que el gobierno de Azerbaiyán había establecido una granja de peaje masivo de agentes pagados para hostigar a la oposición en grandes volúmenes. Esto fue muy claramente malo. Estaba muy claramente vinculado al gobierno de Azerbajiani. Y fue enorme en escala. Pero cuando lo eliminamos, estoy seguro de que en algún lugar de Facebook, había un equipo que estaba muy molesto porque los números cayeron repentinamente sin ninguna razón que pudieran entender. entre mi descubrimiento y el derribo, Azerbaiyán tomó medidas enérgicas contra la oposición, arrestó a figuras de la oposición no mejoradas y comenzó una guerra con Armenia.

Se volvió cada vez más estresante trabajar en el tema. Es difícil, individualmente, ver qué impacto tuvo todo esto, pero rápidamente quedó claro que estaba relacionado con la actividad en naciones que estaban luchando porque estaban sucediendo muchas cosas. Y yo era el que personalmente tomaba decisiones sobre lo que era importante. Esencialmente, dependía totalmente de mí lo que elegía seguir adelante, lo que elegía priorizar y tratar de llamar la atención. Y elegí no priorizar a Bolivia porque objetivamente era muy pequeña y no muy inteligente. Mucho después de las elecciones, hubo protestas masivas que se convirtieron en lo que se ha llamado alternativamente un golpe de estado o un levantamiento popular que resultó en la caída del gobierno boliviano. Sé que esto no debería haber sido personalmente mi responsabilidad, pero al final del día, no hubo nadie más que interviniera. Y por eso opté por hacerlo yo mismo. Y debido a que me puse en esta posición, dependía esencialmente de mí mismo, lo que era lo suficientemente importante como para enfocarme, y quiero ser claro. Siempre había otros que lo estaban, que estaban a cargo de refinar mis hallazgos y de eliminarlos al final.

Decidí desde el principio que solo sería el fiscal, esencialmente, haría todo lo posible para nunca ser juez, jurado y verdugo, porque ya tenía demasiado poder en mis manos. No creo que nadie deba estar en posición de decidir si Albania es más importante que Azerbaiyán o cuestiones como esa. Porque también encontraron en ese libro de cuentas que estaban vinculados a apoyar a miembros del gobierno albanés. Pero lo que encontré en Azerbaiyán fue objetivamente peor en términos de tamaño y escala. Y entonces supe que solo tenía el capital político para impulsar muy lentamente uno a la vez. Así que elegí centrarme en Azerbaiyán. Todavía está sucediendo en Albania. Albania tuvo elecciones generales a principios de este año, y todavía estaban en marcha en ese momento. Quiero decir, más de dos años después de que lo descubrí, Facebook todavía no ha hecho nada.

Y solo puedo disculparme profusamente con el pueblo albanés. No debería haber estado en una posición en la que tuviera que elegir si Albania o Azerbaiyán eran más importantes. Mantengo mi decisión porque lo que encontraron en Azerbaiyán era objetivamente peor, pero aún así, ninguna persona debería estar a cargo de preguntas como esta. Ha habido muchos informes de noticias sobre cómo Facebook tiene pocos recursos en el área de integridad. No he visto ningún informe de noticias que se queje de que Facebook tiene muy pocos recursos en marketing de anuncios. Y creo que eso dice mucho sobre las prioridades de la empresa al final.

Lo que encontré más difícil fue en ciertos países autoritarios. La oposición democrática se estaba beneficiando del empleo de tácticas sabrosas. Y pensé más en esos casos. Pero aun así los eliminé sin dudarlo porque creía firmemente que mi lealtad era a las ideas de la democracia y el estado de derecho. Y que, fundamentalmente, la democracia no puede pararse sobre un lecho de mentiras. Como empleado de muy bajo nivel en mi tiempo libre, sin ningún tipo de supervisión, tomaba decisiones personalmente que afectaban directamente a los gobiernos nacionales.

Es una pregunta difícil de responder lo que creo que debería suceder, porque en parte es como preguntar si pudieras hacer que el cielo fuera de cualquier color, ¿de qué color te gustaría que fuera? Porque es una pregunta principalmente teórica y su respuesta no tendrá un efecto real en el mundo real.

No puedo hacer que Mark cambie de opinión más de lo que pueden hacer que el cielo se vuelva rosa de la noche a la mañana. Esto depende de las personas que me escuchan, de personas como usted, porque yo mismo no puedo cambiar nada. Solo tengo tanto poder como otros me otorgan. Si desea que las cosas cambien, debe preguntar personalmente a sus representantes porque, en última instancia, este es un problema que no experimentan unas pocas personas. Este es el problema en el que los costos los asume la sociedad, la democracia, el discurso cívico en su conjunto. Y como empresa, Facebook no tiene ningún incentivo para arreglar esto más de lo que esperábamos que Philip Morris desarrollara cigarrillos no adictivos.

Jennifer: yo estaba alli cuando es un proyecto de historia oral que presenta las historias de personas que han presenciado o creado avances en inteligencia artificial y computación.

Tienes una historia que contar? ¿Conoces a alguien que lo haga? Envíenos un correo electrónico a podcasts en la revisión de tecnología punto com.

[A MEDIO ROLLO]

[CRÉDITOS]

Jennifer: Este episodio fue producido por mí con la ayuda de Anthony Green y Emma Cillekens. Estamos editados por Niall Firth y Mat Honan. Nuestro ingeniero de mezclas es Garret Lang... y nuestro tema musical es de Jacob Gorski.

Gracias por escuchar, soy Jennifer Strong.

[ID TR]

esconder