EmTech Stage: el CTO de Twitter sobre la desinformación

En la segunda de dos entrevistas exclusivas, el editor en jefe de Technology Review, Gideon Lichfield, se sentó con Parag Agrawal, director de tecnología de Twitter, para hablar sobre el aumento de la información errónea en la plataforma de redes sociales. Agrawal analiza algunas de las medidas que la empresa ha tomado para contraatacar, al tiempo que admite que Twitter está tratando de mitigar el daño causado por el contenido falso sin convertirse en árbitro de la verdad. Esta conversación es de la conferencia virtual EmTech MIT y ha sido editada para mayor claridad.

Para obtener más información sobre este tema, consulte el episodio de esta semana de Deep Tech y nuestra cobertura de póliza de tecnología.

Créditos:

Este episodio de EmTech MIT fue producido por Jennifer Strong y Emma Cillekens, con un agradecimiento especial a Brian Bryson y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción:

Fuerte: Hola a todos, soy Jennifer Strong de vuelta con la segunda parte de nuestra conversación sobre la desinformación y las redes sociales. Si Facebook es un lugar de encuentro donde vas para encontrar a tu comunidad, YouTube es una sala de conciertos o entre bastidores para algo de lo que eres fanático, entonces Twitter es un poco como la plaza pública donde vas para averiguar qué se dice sobre algo. Pero, ¿qué responsabilidad tienen estas plataformas a medida que se desarrollan estas conversaciones? Twitter ha dicho que una de sus responsabilidades es garantizar que la conversación pública sea saludable. ¿Qué significa eso y cómo lo mides?

Es una pregunta que le hicimos al director de tecnología de Twitter, Parag Agrawal. Aquí está, en una conversación con el editor en jefe de Tech Review, Gideon Lichfield. Fue grabado en nuestra conferencia EmTech y ha sido editado por su extensión y claridad.

Lichfield: Hace un par de años, hubo un proyecto en el que comenzaste a hablar sobre métricas que medirían lo que es una conversación pública saludable. No he visto mucho al respecto desde entonces. Entonces, ¿qué está pasando con eso? ¿Cómo mides esto?

Agrawal: Hace dos años, trabajando con algunas personas en el laboratorio de medios del MIT e inspirados por el pensamiento, comenzamos un proyecto para trabajar con académicos fuera de la empresa, para ver si podíamos definir algunas métricas o medidas simples para indicar el salud de la conversación pública. Lo que nos dimos cuenta al trabajar con expertos de muchos lugares es que es muy, muy desafiante reducir los matices y las complejidades de lo que consideramos una conversación pública saludable en unas pocas métricas fáciles de entender y medir en las que puede confiar. Y esta conversación ha informado un cambio en nuestro enfoque.

Lo que ha cambiado es si somos prescriptivos o no al tratar de reducir las cosas a unos pocos números. Pero lo que queda es que nos damos cuenta de que necesitamos trabajar con investigadores académicos fuera de Twitter, compartir más de nuestros datos en un entorno abierto, donde puedan usarlo para investigar, para avanzar en varios campos. Uh, y hay un montón de productos relacionados con API que enviaremos en los próximos meses. Y una de las cosas que condujo directamente a esa conversación fue en abril, cuando vimos, eh, COVID, eh, creamos un punto final para la conversación relacionada con COVID a la que los investigadores académicos podrían tener acceso. Uh, hemos visto investigaciones en cuatro 20 países, acceda a ella.

Entonces, en cierto sentido, me alegro de que hayamos emprendido ese viaje. Y todavía tengo la esperanza de que con este enfoque abierto, habrá académicos y nuestra colaboración con ellos, lo que finalmente nos llevará a comprender la conversación pública y la conversación pública saludable lo suficiente como para poder reducir la medición a unas pocas métricas. . Pero también estoy entusiasmado con todas las otras vías de investigación que este enfoque nos abre.

Lichfield: ¿Tiene una idea de cómo sería un ejemplo de tal métrica?

Agrawal: Entonces, cuando nos dispusimos a hablar sobre esto, planteamos la hipótesis, había algunas métricas, ¿comparte la gente un sentido de la realidad? ¿Las personas tienen diversas perspectivas y pueden estar expuestas a diversas perspectivas? Pensamos en si la conversación es civilizada, ¿verdad? Entonces, conceptualmente, estas son todas las propiedades que deseamos en una conversación pública saludable. El desafío radica en poder medirlos de una manera que pueda evolucionar a medida que evoluciona la conversación, de una manera que sea confiable y pueda resistir el paso del tiempo, ya que la conversación de hace dos años era muy diferente a la conversación de hoy. Los desafíos hace dos años, tal como los entendíamos, son muy diferentes hoy. Uh, y ahí es donde algunos de los desafíos y nuestra comprensión de lo que significa una organización pública saludable aún es emergente para que podamos reducirlo a estas métricas simples.

Lichfield: Hablemos un poco sobre algunas de las cosas que has hecho en los últimos años. Quiero decir, ha habido mucha atención, obviamente, sobre las decisiones de marcar algunos de los tuits de Donald Trump. Creo que el trabajo más sistemático que ha estado haciendo en los últimos años contra la desinformación, ¿puede resumir los puntos principales de lo que ha estado haciendo?

Agrawal: Nuestro enfoque no es tratar de identificar o marcar toda la información errónea potencial. Pero nuestro enfoque se basa en tratar de evitar el daño específico que puede causar la información engañosa. Nos hemos centrado en nuestro enfoque y nos hemos centrado en el daño que se puede causar con la información errónea sobre COVID-19, que tiene que ver con la salud pública, donde unas pocas personas mal informadas pueden tener implicaciones para todos. De manera similar, nos enfocamos en la desinformación sobre lo que llamamos integridad cívica, que se trata de que las personas tengan la capacidad de saber cómo participar en las elecciones.

Entonces, un ejemplo, solo para aclarar esto, es sobre la integridad cívica, nos preocupamos y tomamos medidas sobre el contenido que podría desinformar a las personas que dicen que debe votar el 5 de noviembre, cuando el día de las elecciones es el 3 de noviembre. Y, no tratamos de determinar qué es verdadero o falso cuando alguien toma una posición política o cuando alguien dice que el cielo es púrpura o azul, o rojo para el caso. Nuestro enfoque para la desinformación tampoco se centra en eliminar el contenido como la única medida, que es el régimen en el que todos hemos operado durante muchos años. Pero es un enfoque cada vez más matizado con una variedad de intervenciones, donde pensamos si cierto contenido debe amplificarse o no sin contexto, o si es nuestra responsabilidad brindar algo de contexto para que las personas puedan ver un montón de información, pero también tienen la capacidad y facilidad para descubrir toda la conversación y el contexto a su alrededor, para informarse sobre aquello en lo que eligen creer.

Lichfield: ¿Cómo evalúa si algo es dañino sin tratar de averiguar si es cierto, en otras palabras, COVID específicamente, por ejemplo?

Agrawal: Esa es una gran pregunta y creo que en algunos casos confías en fuentes creíbles para proporcionar ese contexto. Por lo tanto, no siempre tiene que determinar si algo es verdadero o falso, pero si existe la posibilidad de daño, elegimos no marcar algo como verdadero o falso, pero elegimos agregar un enlace a fuentes confiables o a una conversación adicional sobre ese tema, para proporcionar a las personas un contexto en torno a la pieza de contenido para que puedan estar mejor informados, incluso cuando estos datos para la comprensión y el conocimiento están evolucionando. Y la conversación pública es fundamental para esa evolución. Vimos a la gente aprender a través de Twitter, por la forma en que se informaban. Y los expertos también tienen conversaciones a través de Twitter para avanzar en el estado de nuestra comprensión sobre esta enfermedad.

Lichfield: La gente ha estado advirtiendo sobre QAnon durante años. Comenzaste a eliminar cuentas de QAnon en julio. ¿Qué te tomó tanto tiempo? ¿Por qué… qué cambió en su forma de pensar?

Agrawal: La forma en que pensamos en QAnon o pensamos en QAnon es que tenemos una política de manipulación coordinada que hemos tenido durante un tiempo, y la forma en que funciona es que trabajamos con servicios civiles y grupos de derechos humanos en todo el mundo para tratar de entender qué grupos, o qué organizaciones, o qué tipo de actividad se eleva a un nivel de daño donde requiere acción de nosotros. En retrospectiva, desearía haber actuado antes, pero dado que entendíamos bien la amenaza, al trabajar con estos grupos, tomamos medidas y nuestras acciones han implicado una especie de disminución de la amplificación de este contenido y marcar este contenido de una manera que condujo a Disminución muy rápida en la cantidad de alcance de QAnon y contenido relacionado en la plataforma en más del 50 %. Y desde entonces, hemos visto disminuciones sostenidas como resultado de este movimiento.

Lichfield: Estoy recibiendo bastantes preguntas de la audiencia, y todas están preguntando lo mismo. Y básicamente están preguntando, bueno, los leeré. ¿Quién decide qué es la desinformación? ¿Puede dar una definición clínica clara de desinformación? ¿Algo tiene que tener una intención maliciosa para ser información errónea? ¿Cómo sabes si tus fuentes creíbles son veraces, qué está midiendo la credibilidad de esas fuentes y si alguien incluso dice que he visto información errónea en las llamadas fuentes creíbles? Entonces, ¿cómo defines esa frase?

Agrawal: Creo que esa es la cuestión existencial de nuestro tiempo. Definir la desinformación es muy, muy difícil. A medida que aprendemos a través del tiempo, nuestra comprensión de la verdad también evoluciona. Intentamos no adjudicar la verdad, nos enfocamos en el daño potencial. Y cuando decimos que nos apoyamos en fuentes creíbles, también nos apoyamos en toda la conversación en la plataforma que también habla sobre estas fuentes creíbles y señala posibles brechas como resultado de las cuales las fuentes creíbles también desarrollan su pensamiento o lo que hablan. acerca de.

Entonces, nos enfocamos mucho menos en lo que es verdadero y lo que es falso. Nos enfocamos mucho más en el potencial de daño como resultado de que cierto contenido se amplifique en la plataforma sin el contexto apropiado. Y el contexto a menudo es solo una conversación adicional que brinda un punto de vista diferente sobre un tema para que las personas puedan ver la amplitud de la conversación en nuestra plataforma y fuera de ella y tomar sus propias decisiones en un mundo donde todos aprendemos juntos.

Lichfield: ¿Aplica un estándar diferente a las cosas que provienen de los líderes mundiales?

Agrawal: Tenemos una política sobre el contenido público de interés público, está en nuestro marco de políticas. Entonces, sí, aplicamos diferentes estándares. Y esto se basa en la comprensión y el conocimiento de que hay cierto contenido de los funcionarios electos que es importante que el público vea y escuche. Y que todo el contenido de Twitter no está solo en Twitter. Está en las salas de redacción, está en las conferencias de prensa, pero muchas veces el contenido original está en Twitter. La política de interés público existe para garantizar que el contenido de origen sea accesible. Sin embargo, señalamos muy claramente a todos cuando dicho contenido viola alguna de nuestras políticas. Tomamos la decisión audaz de marcarlo, etiquetarlo para que las personas tengan el contexto apropiado de que este es de hecho un ejemplo de una violación, para que las personas puedan ver ese contenido a la luz de esa comprensión.

Lichfield: Si toma al presidente Trump, hubo un estudio de Cornell que lo demostró: midieron que el 38% de la información errónea sobre COVID lo menciona. Los llamaron el mayor impulsor de información errónea sobre COVID. Marcaste algunos de sus tuits, pero hay muchas cosas que publica que no se ajustan a la definición estricta de desinformación y, sin embargo, engañan a las personas sobre la naturaleza de la pandemia. Entonces, ¿esto, esta excepción para los funcionarios públicos, no socava toda la estrategia?

Agrawal: Cada funcionario público tiene acceso a múltiples formas de llegar a las personas. Twitter es uno de ellos. Existimos en un gran ecosistema. Nuestro enfoque en el etiquetado del contenido en realidad nos permite, en la fuente, marcar el contenido que podría dañar a las personas y también brindarles un contexto adicional y una conversación adicional al respecto. Así que muchos de estos estudios y no estoy familiarizado con el que citaste, en realidad son más amplios que Twitter. Y si se trata de Twitter, hablan de alcance e impresiones, sin hablar de que las personas también estén expuestas a otras informaciones sobre el tema. Ahora, no podemos decidir lo que la gente elige creer, pero podemos mostrar contenido y una diversidad de puntos de vista sobre cualquier tema, para que las personas puedan tomar sus propias determinaciones.

Lichfield: Eso suena un poco como si estuvieras tratando de decir, bueno, no es solo culpa nuestra. Es culpa de todos. Y por lo tanto no hay mucho que podamos hacer al respecto.

Agrawal: No creo que esté diciendo eso. A lo que me refiero, los temas de desinformación siempre han existido en la sociedad. Ahora somos una parte fundamental del tejido de la conversación pública, y ese es nuestro papel en el mundo. Estos no son temas de los que nos liberamos. Estos son temas que seguirán siendo relevantes hoy y seguirán siendo relevantes dentro de cinco años. No vivo en la ilusión de que podemos hacer algo que mágicamente hace desaparecer el problema de la información engañosa. No tenemos ese tipo de poder o control. Y honestamente me gustaría no querer ese poder o control. Pero tenemos el privilegio de escuchar a la gente, de tener un conjunto diverso de personas en nuestra plataforma, expresando un conjunto diverso de puntos de vista, las cosas que realmente importan a todos, y para que podamos mostrarlas con el contexto adecuado para que la sociedad pueda aprender unos de otros y avanzar.

Lichfield: Cuando hablas de dejar que las personas vean el contenido y saquen sus propias conclusiones o lleguen a sus propias opiniones, ese es el tipo de lenguaje asociado, creo que la forma en que las plataformas de redes sociales se presentan tradicionalmente. “Somos solo un espacio neutral, la gente viene y nos usa, no tratamos de adjudicar”. Y parece un poco en desacuerdo con lo que decías antes sobre el deseo de promover una conversación pública saludable, que claramente implica muchos juicios de valor sobre lo que es saludable. Entonces, ¿cómo estás reconciliando a esos dos?

Agrawal: Oh, no estoy diciendo que seamos una parte neutral en toda esta conversación. Como dije, somos una parte fundamental del tejido de la conversación pública. Y, no querrás que estemos adjudicando lo que es verdadero o falso en el mundo. Y honestamente, no podemos hacer eso globalmente en todos los países en los que trabajamos a través de todas las culturas y todos los matices que existen. Sin embargo, tenemos el privilegio de que todos en la plataforma puedan cambiar las cosas, dar a las personas más control y tener que dirigir la conversación de una manera que sea más receptiva y permita que se escuchen más voces y para todos. de nosotros para estar mejor informados.

Lichfield: Una de las cosas que algunos observadores dicen que podría hacer que marcaría una gran diferencia sería abolir la función de temas de moda, porque ahí es donde termina saliendo a la superficie mucha información errónea. Cosas como el hashtag QAnon salvan a los niños, o hubo una teoría de conspiración sobre el personal de Hillary Clinton manipulando el caucus de Iowa. A veces, cosas como esa se abren paso en los temas de moda y luego tienen una gran influencia. ¿Qué piensas sobre eso?

Agrawal: No sé si lo viste, pero esta semana hicimos un cambio en la forma en que funcionan las tendencias y los temas de moda en la plataforma. Y una de las cosas que hicimos fue mostrar el contexto de todo lo que está de moda, para que las personas estén mejor informadas cuando vean de qué está hablando la gente.

Fuerte: Vamos a tomar un breve descanso, pero primero... Quiero sugerir otro programa que creo que te gustará. Brave New Planet sopesa los pros y los contras de una amplia gama de poderosas innovaciones en ciencia y tecnología. El Dr. Eric Lander, quien dirige el Instituto Broad del MIT y Harvard, explora preguntas difíciles como

Lander: ¿Deberíamos alterar la atmósfera de la Tierra para prevenir el cambio climático? Y, ¿pueden la verdad y la democracia sobrevivir al impacto de las falsificaciones profundas?

Fuerte: Brave New Planet es de Industrias Pushkin. Puede encontrarlo dondequiera que obtenga sus podcasts. Volveremos justo después de esto.

[Anuncio publicitario]

Fuerte: Bienvenido de nuevo a un episodio especial de In Machines We Trust. Esta es una conversación entre el director de tecnología de Twitter, Parag Agrawal, y el editor en jefe de Tech Review, Gideon Lichfield. Si desea obtener más información sobre este tema, incluido nuestro análisis, consulte las notas del programa o visítenos en Technology Review punto com.

Lichfield: La elección obviamente está muy reñida. Y creo que mucha gente se pregunta qué va a pasar, especialmente el día de las elecciones, a medida que comienzan a llegar informes de las urnas, existe la preocupación de que algunos políticos difundan rumores de violencia o fraude electoral u otros, otros problemas. , que a su vez podría desencadenar manifestaciones y violencia. Y eso es algo a lo que todas las plataformas sociales necesitarán reaccionar muy rápidamente en tiempo real. ¿Qué estarás haciendo?

Agrawal: Hemos trabajado en elecciones en muchos países durante los últimos cuatro años. India, Brasil, las grandes democracias aprendieron a través de cada uno de ellos, y hemos estado trabajando a lo largo de los años para estar mejor preparados para lo que está por venir. El año pasado hicimos un cambio en la política para prohibir toda la publicidad política en Twitter, anticipándonos a su potencial para hacer daño. Y queríamos que nuestra atención se centrara, no en la publicidad, sino en la conversación pública que se produce de forma orgánica para poder protegerla y mejorarla, especialmente en lo que se refiere a las conversaciones sobre las elecciones.

Trabajamos mucho en tecnología para mejorar la detección y comprensión de los malos actores del estado y sus intentos de manipular las elecciones, y hemos sido muy transparentes al respecto. Hemos publicado cientos de operaciones de este tipo en más de 10 países, con decenas de miles de cuentas cada una y terabytes de datos que permiten que personas ajenas a la empresa las analicen y comprendan los patrones de manipulación en juego. Y hemos seguido adelante con los cambios de productos para que haya más consideración y consideración sobre cómo las personas comparten contenido y cómo las personas amplifican el contenido.

Entonces, hemos hecho mucho de este trabajo en preparación y a través de aprendizajes en el camino. Para llegar a una respuesta sobre la noche de las elecciones. También hemos fortalecido las políticas sobre nuestra integridad cívica para no permitir que nadie, ningún candidato o persona de todas las razas pueda reclamar una elección cuando no se ha declarado un ganador. También contamos con estrictas medidas para evitar la incitación a la violencia. Y tenemos un equipo listo, que trabajará 24/7 para ponernos en un estado ágil.

Dicho esto, hemos trabajado mucho para anticipar lo que podría suceder, pero una cosa que sabemos con certeza es que lo que probablemente sucederá no es algo que hayamos anticipado exactamente. Entonces, ¿qué va a ser importante para nosotros en esa noche y más allá, e incluso antes de ese momento para estar preparados, ser ágiles, responder a los comentarios que recibimos en la plataforma, responder a la conversación que ven en y fuera de la plataforma, eh, y tratar de hacer todo lo posible para servir a la conversación pública en este momento importante en este país.

Lichfield: Alguien en, eh, en la audiencia preguntó algo que no creo que esté de acuerdo, que fue, dijeron, ¿deberían cerrarse Facebook y Twitter durante tres días antes de las elecciones? Pero tal vez una versión más modesta de eso sería, ¿hay algún tipo de contenido que cree que debería cerrarse justo antes de una elección?

Agrawal: Solo esta semana, uno de los cambios destacados sobre los que vale la pena hablar en detalle es que hicimos que las personas tuvieran más consideración, más pensamiento cuando retuitean. Entonces, en lugar de poder simplemente retuitear contenido sin comentarios adicionales, ahora por defecto las personas agregan un comentario cuando retuitean. Y esto es por dos razones, una para agregar consideraciones adicionales cuando retuiteas y amplificas cierto contenido y dos, para que el contenido se comparta con más contexto sobre lo que piensas al respecto para que las personas entiendan por qué lo estás compartiendo y cuál es el el contexto en torno al conjunto de la conversación es. También hicimos el cambio de tendencias que describí anteriormente. Estos son cambios que están destinados a que la conversación en Twitter sea más reflexiva.

Dicho esto, Twitter va a ser una herramienta muy, muy poderosa durante el tiempo de las elecciones para que la gente entienda lo que está pasando, para que la gente obtenga información realmente importante. Tenemos etiquetas en todos los candidatos. Tenemos información en la plataforma sobre cómo pueden votar. Tenemos comentarios en tiempo real provenientes de personas de todo el país, diciéndoles a las personas lo que está sucediendo sobre el terreno. Y todo esto es información importante que todos en este país deben conocer en ese momento. Es un momento en el que cada uno de nosotros busca información y nuestra plataforma cumple un papel particularmente importante ese día.

Lichfield: Estás atrapado en un lugar un poco difícil ya que alguien en la audiencia también está señalando que estás tratando de combatir la desinformación, también quieres proteger la libertad de expresión como un valor central, y también en los EE. UU. como el primero enmienda. ¿Cómo equilibras esos dos?

Agrawal: Nuestro papel no es estar sujeto a la Primera Enmienda, pero nuestro papel es servir a una conversación pública saludable y nuestros movimientos reflejan cosas que creemos que conducen a una conversación pública más saludable. El tipo de cosas que hacemos al respecto es centrarnos menos en pensar en la libertad de expresión, y pensar en cómo han cambiado los tiempos. Uno de los cambios que vemos hoy es que el habla es fácil en Internet. La mayoría de la gente puede hablar. Donde nuestro papel se enfatiza particularmente es en quién puede ser escuchado. El bien escaso hoy en día es la atención. Hay mucho contenido por ahí. Hay muchos tweets, no todos llaman la atención, algunos subconjuntos llaman la atención. Y así, cada vez más, nuestro papel se está moviendo hacia la forma en que recomendamos contenido y ese tipo de, es, es, una lucha en la que estamos trabajando en términos de cómo nos aseguramos de que estos sistemas de recomendación que estamos construyendo, cómo dirigimos la atención de las personas está conduciendo a una conversación pública saludable que es más participativa.

Lichfield: Bueno, se nos acabó el tiempo, pero gracias por una visión realmente interesante de cómo piensa sobre estos temas tan complicados.

Agrawal: Gracias Gedeón por recibirme.

[Música]

Fuerte: Si desea escuchar el análisis de nuestra sala de redacción sobre este tema y las elecciones... He dejado un enlace en nuestras notas del programa. Espero que lo compruebes. Este episodio de EmTech fue producido por mí y por Emma Cillekens, con un agradecimiento especial a Brian Bryson y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield. Como siempre, gracias por escuchar. Soy Jennifer Strong.

[ID TR]

esconder