EmTech Stage: el CTO de Facebook sobre la desinformación

La desinformación y las redes sociales se han vuelto inseparables; a medida que plataformas como Twitter y Facebook han crecido hasta alcanzar un tamaño mundial, también lo ha hecho la amenaza que representa la difusión de contenido falso. En medio de una temporada electoral volátil en los EE. UU. y una pandemia mundial furiosa, el poder de la información para cambiar opiniones y salvar vidas (o ponerlas en peligro) está en plena exhibición. En la primera de dos entrevistas exclusivas con dos de las personas más poderosas del mundo de la tecnología, el editor en jefe de Technology Review, Gideon Lichfield, se sienta con el CTO de Facebook, Mike Schroepfer, para hablar sobre los desafíos de combatir el contenido falso y dañino en una plataforma en línea utilizada por miles de millones en todo el mundo. Esta conversación es de la conferencia virtual EmTech MIT y ha sido editada para mayor extensión y claridad.

Para obtener más información sobre este tema, consulte el episodio de esta semana de Deep Tech y nuestra cobertura de póliza de tecnología.

Créditos:

Este episodio de EmTech fue producido por Jennifer Strong y Emma Cillekens, con un agradecimiento especial a Brian Bryson y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción:

Fuerte: Hola a todos, soy Jennifer Strong. La semana pasada prometí elegir algo para ti de EmTech, la gran conferencia anual de nuestra sala de redacción. Asi que aqui esta. A solo unos días de las elecciones estadounidenses, vamos a sumergirnos directamente en uno de los temas más polémicos en el mundo de la tecnología y más allá: la desinformación.

Ahora, mucho de esto comienza en sitios web de conspiraciones, pero es en las redes sociales donde se amplifica y se difunde. Estas empresas están tomando medidas cada vez más audaces para prohibir ciertos tipos de noticias falsas y grupos extremistas, y están utilizando la tecnología para filtrar la información errónea antes de que los humanos puedan verla. Afirman que están mejorando cada vez más en eso, y un día dicen que podrán hacer que Internet sea seguro nuevamente para todos. Pero, ¿realmente pueden hacer eso?

En los próximos dos episodios conoceremos a los directores de tecnología de Facebook y Twitter. Ambos han adoptado enfoques MUY diferentes cuando se trata de información errónea, en parte porque mucho de lo que sucede en Facebook ocurre en grupos privados, lo que hace que sea un problema más difícil de abordar. Mientras que en Twitter, casi todo sucede en público. Entonces, primero, Facebook. Aquí está Gideon Lichfield, el editor en jefe de Tech Review. Está en el escenario principal virtual de EmTech para una sesión que pregunta: '¿Puede la IA limpiar Internet'? Esta conversación ha sido editada por su extensión y claridad.

Lichfield: Voy a referirme a nuestro primer orador, que es Mike Schroepfer. Conocido generalmente por todos sus colegas como Schrep. Es el CTO de Facebook. Ha trabajado en Facebook desde 2008 y cuando era mucho más pequeño y se convirtió en CTO en 2013. El año pasado, The New York Times escribió un gran perfil de él, que es una lectura muy interesante. Se tituló 'El genio de la IA de Facebook ahora se enfrenta a la tarea de limpiarlo'. A veces eso lo lleva a las lágrimas. Schrep, bienvenido. Gracias por unirse a nosotros en EmTech.

Schroepfer: Hola Gedeón, gracias. Feliz de estar aqui.

Lichfield: Facebook ha realizado algunos movimientos bastante agresivos, particularmente en los últimos meses. Ha tomado medidas contra QAnon, ha prohibido la negación del Holocausto y los anuncios contra la vacunación. Pero la gente ha estado advirtiendo sobre QAnon durante años, la gente ha estado advirtiendo sobre información errónea contra la vacunación durante años. Entonces, ¿por qué te tomó tanto tiempo? ¿Qué, qué cambió en tu forma de pensar para que tomaras esta acción?

Schroepfer: Sí, quiero decir, el mundo está cambiando todo el tiempo. Hay muchos datos recientes sobre el aumento de las creencias antisemitas o la falta de comprensión sobre el Holocausto. QAnon, como sabes, se ha convertido en una amenaza más violenta en los últimos años. Y la idea de que habría amenazas de violencia en torno a unas elecciones estadounidenses es algo nuevo. Y entonces, particularmente en lugares donde la sociedad y las cosas que son eventos críticos, como una elección, estamos haciendo todo lo posible para asegurarnos de que las personas se sientan seguras e informadas para tomar la decisión que tienen que tomar para elegir a quién. está en el gobierno. Y por eso estamos tomando medidas más agresivas.

Lichfield: Dijiste algo hace un momento, dijiste que había muchos datos. Y eso me resuena con algo que tenía Alex Stamos, el exdirector de seguridad de Facebook, dijo recientemente en un podcast, que en Facebook las decisiones realmente se toman sobre la base de los datos. Entonces, ¿es eso lo que necesita, necesitaba tener evidencia de datos abrumadora, pero, ya sabe, la negación del Holocausto está causando daño o QAnon está causando daño antes de tomar medidas contra eso?

Schroepfer: Lo que diría es que esto es. Operamos un servicio que utilizan miles de millones de personas en todo el mundo, por lo que un error que no quiero cometer es asumir que entiendo lo que otras personas necesitan, lo que otras personas quieren o lo que está sucediendo. Entonces, una forma de evitar eso es confiar en la experiencia donde la tenemos. Entonces, ya sabes, por ejemplo, para organizaciones peligrosas, tenemos muchas personas con experiencia en contraterrorismo, fueron a West Point, tenemos muchas personas con experiencia en aplicación de la ley donde hablas de interferencia electoral, tenemos expertos con antecedentes y votaciones y derechos.

Entonces, escuchas a los expertos, miras los datos y tratas de comprender ese tema en lugar de, ya sabes, no quieres que yo tome estas decisiones. Usted quiere una especie de expertos y quiere que los datos lo hagan. Y debido a que no es solo, ya sabes, este problema aquí, son problemas de privacidad, son problemas y lugares, y diría que tratamos de ser rigurosos en el uso de experiencia y datos donde podemos, así que no estamos haciendo suposiciones sobre lo que está sucediendo en el mundo o lo que creemos que la gente necesita.

Lichfield: Bueno, hablemos un poco más sobre QAnon específicamente por el enfoque que adoptas, obviamente, para manejar esta información, mientras intentas entrenar a tus IA para que reconozcan cosas que son dañinas. Y la dificultad con este enfoque es que la naturaleza de la desinformación sigue cambiando su contexto específico, ¿verdad? Y la desinformación sobre los musulmanes en Myanmar, que provocó disturbios allí. No sabes que eso es información errónea hasta que comienza a aparecer. El problema que me parece con Q Anon es que no es como ISIS o algo así. sus creencias siguen cambiando las cuentas, siguen cambiando. Entonces, ¿cómo abordas algo que está tan mal definido como una amenaza como esa?

Schroepfer: Bueno, ya saben, hablaré sobre esto y, y creo que uno de los, desde una perspectiva técnica, uno de los desafíos más difíciles en los que he estado muy concentrado en los últimos años, debido a problemas similares en términos de sutileza, lenguaje codificado y comportamiento adversario, que es discurso de odio. Hay un discurso de odio abierto, que es muy obvio y puedes usar frases que hayas acumulado o palabras clave. Pero las personas se adaptan y usan lenguaje codificado y lo hacen, ya sabes, diariamente, semanalmente. E incluso puedes hacer esto con memes en los que tienes una imagen y luego superpones algunas palabras encima, y ​​cambia completamente el significado. Hueles muy bien hoy. Y las imágenes de la mofeta son algo muy diferente a, ya sabes, una flor, y tienes que ponerlo todo junto.

Y así, um, y de manera similar, como dices, con QAnon y puede haber sutilezas y cosas así. Es por eso que me he centrado tanto en un par de tecnologías clave de IA. Una es que hemos aumentado drásticamente el poder de estos clasificadores para comprender y manejar información matizada. Ya sabes, hace cinco o diez años, las palabras clave eran probablemente lo mejor que podíamos hacer. Ahora estamos en el punto en el que nuestros clasificadores detectan errores en los datos de etiquetado o detectan errores que a veces cometen los revisores humanos. Porque son lo suficientemente poderosos como para captar sutilezas en temas como, ¿es esta una publicación que incita a la violencia contra un votante? ¿O simplemente están expresando su descontento con la votación o esta población? Esos son dos muy... desafortunadamente es una línea muy fina cuando miras cuán cuidadosa la gente trata de ser sobre la codificación del lenguaje para sortearlo.

Y entonces ves cosas similares con QAnon y otros. Y ahora tenemos clasificadores que, ya sabes, nuestro trabajo de vanguardia en varios idiomas y son realmente impresionantes en lo que han hecho a través de técnicas en las que podemos profundizar como la autosupervisión, um, para mirar, ya sabes, miles de millones de piezas de datos para entrenar. Y luego, la otra cosa que tenemos es que usamos una técnica similar como esta, que nos permite hacer, ya sabes, la mejor manera de describirlo como una especie de coincidencia aproximada. Que es como un revisor humano, pasa el tiempo y dice, ¿sabes qué? Creo que estas piezas de información errónea, o este es un grupo de QAnon, a pesar de que está codificado en diferentes idiomas, lo que podemos hacer es dispersarnos. y encuentra cosas que son semánticamente similares, no las palabras exactas, no las palabras clave, no las expresiones regulares, um, pero las cosas que están muy cerca en un espacio incrustado que son semánticamente similares. Y luego podemos tomar medidas sobre ellos.

Y esto permite lo que yo llamo reacción rápida. Entonces, incluso si no tenía idea de qué era esto ayer, hoy, si un grupo de revisores humanos lo encuentran, podemos amplificar su trabajo a través de la red e implementarlo de manera proactiva en cualquier momento con nueva información. Solo para poner esto en contexto, ya sabes, en el segundo trimestre eliminamos 7 millones de piezas de información errónea sobre el COVID. Obviamente, en el cuarto trimestre del año pasado, no existía la desinformación sobre el COVID. Así que tuvimos que construir un nuevo clasificador de técnicas para hacer esto. Y lo que he desafiado al equipo es como reducir el tiempo de construcción de nuestro clasificador de lo que solía ser muchos, muchos meses a, ya sabes, qué, a veces semanas, días, minutos. La primera vez que veo un ejemplo, o la primera vez que leo una nueva política, quiero poder crear un clasificador que sea funcional a una escala de miles de millones de usuarios. Y, ya sabes, todavía no hemos llegado, pero estamos progresando rápidamente.

Lichfield: Bien. Así que creo que esta es la pregunta, ¿qué tan rápido es el progreso, verdad? Eso, esa estadística de 7 millones de piezas de desinformación. Lo vi citado por un portavoz de Facebook en respuesta a un estudio que salió de Avaaz en agosto. Y analizó la información errónea de COVID que encontró que los 10 sitios web principales que difundían información errónea tenían cuatro veces más vistas estimadas en Facebook que el contenido equivalente de los sitios web de 10 instituciones de salud líderes, como la OMS, encontraron que solo el 16% de toda la información errónea sobre salud que analizaron tenía una etiqueta de advertencia de Facebook. Entonces, en otras palabras, obviamente estás haciendo mucho, estás haciendo mucho más de lo que estabas y todavía estás, en ese sentido, muy por detrás de la curva. Cómo, y esta es una crisis que está matando gente. Entonces, ¿cuánto tiempo te va a llevar llegar allí, crees?

Schroepfer: Sí, quiero decir, creo que, ya sabes, aquí es donde, ya sabes, me gustaría que publiquemos más datos sobre esto. Porque realmente lo que necesitabas para comparar manzanas con manzanas es el alcance general de esta información, y más o menos cuál es la información, más o menos, la dieta de exposición del usuario promedio de Facebook. Y creo que hay un par de piezas que la gente no entiende. La primera es que el suministro de noticias de la mayoría de las personas está lleno de contenido de sus amigos. Al igual que los enlaces de noticias, estos son una especie de minoría de las vistas en todas las fuentes de noticias y Facebook de las personas. Quiero decir, el objetivo de Facebook es conectarte con tus amigos y probablemente lo hayas experimentado tú mismo. Son, ya sabes, publicaciones e imágenes y cosas así.

En segundo lugar, en cosas como la desinformación de COVID, como con lo que realmente tienes que comparar eso, comparándolo, por ejemplo, con las vistas de nuestro centro de información de COVID, que literalmente colocamos en la parte superior de las noticias para que todos puedan obtener información. en ese. Estamos haciendo cosas similares, um, para votar. Hemos ayudado a registrar casi dos millones y medio de votantes en los EE. UU. Información similar, ya sabes, para cuestiones de justicia racial dados todos los eventos horribles que han sucedido este año. Entonces, lo que no tengo es el estudio exhaustivo de, ya sabes, ¿cuántas veces alguien vio el centro de información de COVID en comparación con estas otras cosas? Um, ya sabes, pero supongo que sería que ellos obtendrían mucha más de esa buena información de nosotros.

Pero mira, ya sabes, cada vez que algo de esto se me escapa, todavía no he terminado. Es por eso que todavía estoy aquí haciendo mi trabajo, es que queremos mejorar esto. Y, y, y sí, me gustaría que fuera 0%. Ojalá nuestros clasificadores tuvieran una precisión del 99,999 %. Ellos no están. Sabes, mi trabajo es llevarlos allí tan rápido como sea humanamente posible. Y cuando terminemos esta llamada, eso es en lo que voy a trabajar. Lo que puedo hacer es mirar la historia reciente y proyectar el progreso hacia adelante. Porque no puedo arreglar el pasado, pero puedo arreglar el hoy y el mañana. Cuando miro cosas como, ya sabes, el discurso de odio donde, en 2017, nuestros sistemas solo encontraron alrededor de una cuarta parte de los discursos de odio, primero. Casi las tres cuartas partes fueron encontradas primero por alguien en Facebook. Lo cual es horrible, lo que significa que estuvieron expuestos y tuvieron que informarnos. Y ahora el número sube a 99, 94,5%. Incluso en el último, ya sabes, entre el segundo trimestre de este año y el mismo período del año pasado, multiplicamos por cinco la cantidad de contenido que eliminamos por incitación al odio. Y puedo rastrear todo eso. Ahora, ese número debería ser 99.99 y ni siquiera deberíamos tener esta conversación porque deberías decir, nunca he visto nada de esto, y nunca escuché sobre eso, porque ya no está.

Ese es mi objetivo, pero no puedo llegar allí todavía. Pero si miras lo último, ya sabes, cada vez que digo algo 5X en un año, o pasa del 24 % al 94 % en dos años, y digo, tenemos un, no somos , no me faltan ideas, todavía estamos implementando cosas de última generación como esta semana, la semana que viene, la semana pasada, entonces es por eso que soy optimista en general, que vamos a mover esto problema a un lugar donde no es lo primero de lo que quieres hablarme pero todavía no he llegado.

Lichfield: Es un problema de tecnología. También es obviamente un problema de mano de obra. Obviamente, estarás familiarizado con el memorando que escribió Sophie Zhang, quien era una excientífica de datos de Facebook, cuando se fue. Y escribió sobre cómo estaba trabajando en uno de los equipos, hay varios equipos que trabajan tratando de identificar información dañina en todo el mundo. Y su principal queja, al parecer, fue que sentía que esos equipos no tenían suficiente personal y que tenía que priorizar las decisiones sobre si tratar, ya sabes, la información errónea sobre una elección en un país, por ejemplo, como peligrosa. Y cuando eso, esas decisiones que uno prioriza, a veces pueden pasar meses hasta que se soluciona un problema y eso puede tener consecuencias reales. Um, tienes, creo que 15,000 moderadores humanos en este momento, ¿crees que tienes suficientes personas?

Schroepfer: Nunca creo que tengamos suficientes personas en nada. Entonces, ya sabes, todavía tengo que estar en un proyecto en el que buscáramos cosas en las que trabajar y lo digo muy en serio. Y nosotros, ya sabes, 35.000 personas trabajando en esto desde, ya sabes, revisión y contenido y seguridad y protección. La otra cosa de la que creo que no hablamos mucho es, si vas a hablar con los jefes de mi equipo de IA y les preguntas qué nos ha estado pidiendo Schrep que hagamos durante los últimos tres años, es integridad, es moderación de contenido. . No es cool wizzy, cosas nuevas. Es como, ¿cómo luchamos contra este problema? Y llevamos años trabajando en ello.

Así que tomé a los mejores y más brillantes que tenemos en la empresa y dije, ya sabes, y no es como si tuviera que ordenarles que lo hicieran porque quieren trabajar en ello. Digo, tenemos este gran problema, podemos ayudar, vamos a terminar con esto. ¿Ya terminamos? No. ¿Estoy impaciente? Absolutamente. ¿Me gustaría que tuviéramos más gente trabajando en ello? Todo el tiempo. Ya sabes, tenemos que hacer nuestras concesiones en estas cosas, y así, ya sabes, um, pero mi trabajo, ya sabes, y lo que podemos hacer con la tecnología es eliminar algunas de esas concesiones. Ya sabes, cada vez que implementamos un clasificador nuevo y más poderoso, esto elimina una tonelada de trabajo de nuestros moderadores humanos, quienes luego pueden trabajar en problemas de nivel superior. Ya sabes, en lugar de ti, ya sabes, decisiones realmente fáciles, pasan a información errónea y cosas realmente vagas y evaluar grupos peligrosos y ese tipo de subir a las personas en la curva de dificultad también está mejorando las cosas. Y eso es lo que estamos tratando de hacer.

Fuerte: Vamos a tomar un breve descanso, pero primero, quiero sugerir otro programa que creo que te gustará. Brave New Planet sopesa los pros y los contras de una amplia gama de poderosas innovaciones en ciencia y tecnología. El Dr. Eric Lander, quien dirige el Instituto Broad del MIT y Harvard, explora preguntas difíciles como;

Lander: ¿Deberíamos alterar la atmósfera de la Tierra para prevenir el cambio climático? y ¿Pueden la verdad y la democracia sobrevivir al impacto de las falsificaciones profundas?

Fuerte: Brave New Planet es de Industrias Pushkin. Puede encontrarlo dondequiera que obtenga sus podcasts. Volveremos justo después de esto.

[Anuncio publicitario]

Fuerte: Bienvenido de nuevo a un episodio especial de In Machines We Trust. Esta es una conversación entre Mike Schroepfer de Facebook y el editor en jefe de Tech Review, Gideon Lichfield. Ocurrió en vivo en el escenario virtual de nuestra Conferencia EmTech, y ha sido editado por su extensión y claridad. Si desea obtener más información sobre este tema, incluido nuestro análisis, consulte las notas del programa o visítenos en Technology Review punto com.

Lichfield: Un par de preguntas que voy a lanzar de la audiencia, ¿cómo afecta la desinformación al flujo de ingresos de Facebook? Y otro es, eh, sobre, eh, ¿cómo afecta la confianza en Facebook? Bueno, parece haber una falta de confianza subyacente en Facebook y ¿cómo se mide la confianza? Y el brillo que queremos poner en estas preguntas es, claramente a usted le importa la desinformación, claramente a muchas de las personas que trabajan en Facebook les importa o les preocupa, pero hay, creo que una pregunta subyacente que tiene la gente es ¿Facebook como empresa se preocupa por ello? ¿Se ve afectado lo suficientemente negativamente como para abordar el problema con seriedad?

Schroepfer: Sí. Quiero decir, mira, yo también soy una persona en la sociedad. Me importa mucho la democracia y el futuro y hacer avanzar la vida de las personas de manera positiva. Y los desafío a encontrar, ya saben, a alguien que se sienta diferente dentro de nuestras oficinas. Y nosotros, sí, trabajamos en Facebook, pero somos personas en el mundo y me importa mucho el futuro de mis hijos. Y bueno, bueno, estás preguntando, ¿nos importa? Y la respuesta es sí. Um, ya sabes, ¿tenemos los incentivos? ¿De qué pasamos mucho tiempo hablando hoy? Hablamos de desinformación y otras cosas, ya sabes, honestamente, ¿de qué preferiría hablar? Prefiero hablar sobre la realidad virtual y los usos positivos de la realidad aumentada y toda la tecnología nueva e increíble que estamos construyendo, porque, ya sabes, eso es lo que normalmente hablaría un CTO.

Entonces, obviamente, es algo que desafía la confianza en la empresa, la confianza en nuestros productos, eso es un gran problema para nosotros, desde el punto de vista del interés propio. Entonces, incluso si cree que estoy lleno de eso, solo, desde un punto de vista práctico e interesado, como una marca, como un producto de consumo que las personas usan voluntariamente todos los días, cuando trato de vender un nuevo producto como Portal , que es una cámara para tu hogar, como la gente que confía en la empresa que está detrás de este producto y piensa que tenemos, ya sabes, sus mejores intenciones en el fondo. Si no lo hacen, va a ser un gran desafío para absolutamente todo lo que hago. Entonces, creo que los intereses aquí están bastante alineados. No creo que haya muchos buenos ejemplos de productos de consumo que sean gratuitos, que sobrevivan si a la gente no le gustan, no les gustan las empresas o piensan que son malos. Así que esto es desde un punto de vista egoísta, un tema crítico para nosotros.

[Créditos]

Fuerte: Esta conversación con el CTO de Facebook es el primero de dos episodios sobre desinformación y redes sociales. En la siguiente parte charlamos con el CTO de Twitter. Si desea escuchar el análisis de nuestra sala de redacción sobre este tema y las elecciones, he dejado un enlace en nuestras notas del programa. Espero que lo compruebes. Este episodio de EmTech fue producido por mí y por Emma Cillekens, con un agradecimiento especial a Brian Bryson y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield. Como siempre, gracias por escuchar. Soy Jennifer Strong.

[ID TR]

esconder