Estamos luchando contra los bots de IA de noticias falsas mediante el uso de más IA. Eso es un error.

foto de la portada del libro

• Samuel Woolley es profesor asistente en la Escuela de Comunicación Moody de la Universidad de Texas-Austin. Este es un extracto adaptado de su próximo libro. El juego de la realidad .

Cada vez que inicia sesión en Twitter y mira una publicación popular, es probable que encuentre cuentas de bots que le gusten o la comenten. Al hacer clic, puede ver que han twitteado muchas veces, a menudo en un corto período de tiempo. A veces, sus publicaciones venden basura o propagan virus digitales. Otras cuentas, especialmente los bots que publican vitriolo confuso en respuesta a artículos de noticias particulares o declaraciones oficiales, son completamente políticas.

Es fácil asumir que todo este fenómeno está impulsado por la informática avanzada. De hecho, he hablado con muchas personas que piensan que los algoritmos de aprendizaje automático impulsados ​​por el aprendizaje automático o la inteligencia artificial están brindando a los bots políticos la capacidad de aprender de su entorno e interactuar con las personas de una manera sofisticada.

Durante los eventos en los que los investigadores ahora creen que los bots políticos y la desinformación jugaron un papel clave (el referéndum Brexit, la contienda Trump-Clinton en 2016, la crisis de Crimea), existe una creencia generalizada de que las herramientas inteligentes de IA permitieron que las computadoras se hicieran pasar por humanos y ayudaran a manipular la conversación pública.

Los expertos y los periodistas han alimentado esto: Ha habido historias extremadamente provocativas sobre el surgimiento de una máquina de propaganda de IA armada e historias reclamando que la inteligencia artificial conquistó la democracia. Incluso mi propia investigación sobre cómo se utilizan las redes sociales para moldear la opinión pública, hackear la verdad y silenciar las protestas (lo que se conoce como propaganda computacional) ha sido citada en artículos que sugieren que nuestros amos robóticos ya están aquí.

Sin embargo, la realidad es que los mecanismos complejos como la inteligencia artificial jugaron un papel pequeño en las campañas de propaganda informática hasta la fecha. Toda la evidencia que he visto en Cambridge Analytica sugiere que la empresa nunca lanzó las herramientas de marketing psicográfico que afirmó poseer durante las elecciones estadounidenses de 2016, aunque dijo que podría dirigirse a personas con mensajes específicos basados ​​en perfiles de personalidad derivados de su controvertida base de datos de Facebook.

Mientras tanto, cuando estaba en el Instituto de Internet de Oxford, investigamos cómo y si se usaron los bots de Twitter durante el debate sobre el Brexit. Descubrimos que, si bien muchas se usaron para difundir mensajes sobre la campaña Leave, la gran mayoría de las cuentas automatizadas eran muy simples. Fueron creados para alterar la conversación en línea con bots que se habían creado simplemente para aumentar los Me gusta y los seguidores, para difundir enlaces, para tendencias de juegos o para trolear a la oposición. Fue jugado por pequeños grupos de usuarios humanos que entendieron la magia de los memes y la viralidad, de sembrar conspiraciones en línea y verlas crecer. Las conversaciones fueron bloqueadas por spam y ruido básicos generados por bots, adheridos deliberadamente a hashtags particulares para desmovilizar las conversaciones en línea. Los enlaces a artículos de noticias que mostraban a un político bajo una luz particular fueron promocionados por cuentas falsas o proxy creadas para publicar y volver a publicar la misma basura una y otra vez. Estas campañas se manejaron de manera bastante directa: estos bots no fueron diseñados para ser funcionalmente conversacionales. No aprovecharon la IA.

No más tonto

Sin embargo, hay señales de que la propaganda computacional y la desinformación habilitadas por IA están comenzando a usarse. Los piratas informáticos y otros grupos ya han comenzado a probar la eficacia de los bots de IA más peligrosos en las redes sociales. Una pieza de 2017 de Gizmodo informaron que dos científicos de datos enseñaron a una inteligencia artificial a diseñar su propia campaña de phishing: en las pruebas, el hacker artificial fue sustancialmente mejor que sus competidores humanos, componiendo y distribuyendo más tweets de phishing que los humanos y con una tasa de conversión sustancialmente mejor.

El contenido problemático no se difunde solo mediante bots políticos habilitados para el aprendizaje automático. Los usos o diseños problemáticos de la tecnología tampoco son generados únicamente por empresas de redes sociales. Los investigadores han señalado que el aprendizaje automático puede verse afectado por ataques de envenenamiento (actores maliciosos que influyen en los datos de entrenamiento para cambiar los resultados de un algoritmo determinado) incluso antes de que la máquina se haga pública.

Kalev Leetaru, miembro sénior de la Universidad George Washington, sugiere que los primeros ataques impulsados ​​por bots de IA pueden no estar dirigidos a las redes sociales, sino que involucrarían lo que se conoce como un ataque de denegación de servicio distribuido, que implica cerrar servidores web específicos. al inundarlos con tráfico.

Imagine por un momento que entregó esa red de bots al control de un sistema de aprendizaje profundo y le dio a ese algoritmo de IA control total sobre cada perilla y dial de esa red de bots. Leetaru escribe .

Estos esfuerzos no están orientados a ayudar a las organizaciones de noticias a examinar los montones de contenido. Más bien, ayudan a una empresa multimillonaria a mantener limpia su propia casa.

También le brinda información en vivo sobre el estado global de Internet de los principales proveedores de monitoreo y seguridad cibernética de todo el mundo para que pueda observar segundo a segundo cómo la víctima y el resto de Internet en general están respondiendo al ataque. Tal vez todo esto ocurra después de que el algoritmo haya pasado varias semanas monitoreando el objetivo con exquisito detalle para comprender la totalidad y los matices de sus patrones de tráfico y comportamientos y abrirse camino a través de sus capas exteriores de defensa.

Más allá de la defensa

En abril de 2018, Mark Zuckerberg compareció ante el Congreso: estuvo bajo el microscopio político por el mal manejo de la información de los usuarios durante las elecciones de 2016. En su testimonio de dos partes, mencionó la inteligencia artificial más de 30 veces, sugiriendo que la IA sería la solución al problema de la desinformación digital al proporcionar programas que combatirían el gran volumen de propaganda computacional. Predijo que en la próxima década, la IA sería el salvador de los enormes problemas de escala a los que se enfrentan Facebook y otros cuando se trata de la propagación global del contenido basura y la manipulación.

Entonces, ¿hay alguna manera de que podamos usar la IA o la tecnología de bots automatizados para abordar la manipulación de la opinión pública en línea? ¿Podemos usar la IA para luchar contra la IA?

El Observatorio de Redes Sociales de la Universidad de Indiana ha construido herramientas públicas que aprovechan el aprendizaje automático para detectar bots al observar 1200 características para determinar si es más probable que sea un humano o un bot.

Y la gerente de producto de Facebook, Tessa Lyons. dijo en un anuncio de 2018 que el aprendizaje automático nos ayuda a identificar duplicados de historias desacreditadas. Por ejemplo, un verificador de datos en Francia desacreditó la afirmación de que se puede salvar a una persona que sufre un derrame cerebral si se pincha el dedo con una aguja y se le extrae sangre. Esto nos permitió identificar más de 20 dominios y más de 1400 enlaces que difundían ese mismo reclamo.

En tales casos, las empresas de redes sociales pueden aprovechar el aprendizaje automático para recoger, e incluso verificar, verificaciones de hechos de todo el mundo y usar estas correcciones basadas en evidencia para señalar contenido falso.

Sin embargo, existe un gran debate en la comunidad académica sobre si la identificación pasiva de información potencialmente falsa para los usuarios de las redes sociales es realmente efectiva. algunos investigadores sugieren que los esfuerzos de verificación de hechos, tanto en línea como fuera de línea, no funcionan de manera muy efectiva en su forma actual. A principios de 2019, el sitio web de verificación de hechos Snopes, que se había asociado con Facebook en tales esfuerzos correctivos, rompió la relación . en un entrevista con el Instituto Poynter, el vicepresidente de operaciones de Snopes, Vinny Green, dijo: No parece que nos estemos esforzando por hacer que la verificación de datos de terceros sea más práctica para los editores; parece que nos estamos esforzando por hacerlo más fácil para Facebook.

Organizaciones como Facebook continúan confiando en pequeñas organizaciones, generalmente sin fines de lucro, para examinar el contenido. Los artículos o videos potencialmente falsos a menudo se pasan a estos grupos sin información de fondo sobre cómo o por qué se marcaron en primer lugar.

Estos esfuerzos no están orientados a ayudar a las organizaciones de noticias a examinar los montones de contenido o pistas que reciben todos los días para ayudar a los reporteros de escasos recursos a hacer un mejor trabajo. Más bien, ayudan a una empresa multimillonaria a mantener limpia su propia casa de manera post hoc. Es hora de que Facebook asuma la responsabilidad interna de la verificación de hechos, en lugar de pasar la tarea de verificar o desacreditar las noticias a otros grupos. Facebook y otras empresas de redes sociales también deben dejar de depender de verificaciones de hechos después de los hechos, es decir, solo después de que un artículo falso se haya vuelto viral. Estas empresas necesitan generar algún tipo de sistema de alerta temprana para la propaganda computacional.

Facebook, Google y otros como ellos emplean a personas para encontrar y eliminar contenido que contenga violencia o información de grupos terroristas. Sin embargo, son mucho menos entusiastas en sus esfuerzos por deshacerse de la desinformación. La plétora de diferentes contextos en los que fluye información falsa en línea, desde una elección en India hasta un evento deportivo importante en Sudáfrica, hace que sea difícil para la IA operar por sí sola, sin el conocimiento humano. Pero en los próximos meses y años, se necesitarán hordas de personas en todo el mundo para examinar de manera efectiva las cantidades masivas de contenido en las innumerables circunstancias que surgirán.

Simplemente no existe una solución fácil para el problema de la propaganda computacional en las redes sociales. Sin embargo, es responsabilidad de las empresas encontrar una manera de solucionarlo. Hasta ahora, Facebook parece mucho más enfocado en las relaciones públicas que en regular el flujo de propaganda computacional o contenido gráfico. Según The Verge , la empresa dedica más tiempo a celebrar sus esfuerzos por deshacerse de determinadas muestras de vitriolo o violencia que a revisar sistemáticamente sus procesos de moderación.

Más allá de la verificación de hechos

Será una combinación de trabajo humano e IA lo que eventualmente logre combatir la propaganda computacional, pero cómo sucederá esto simplemente no está claro. La verificación de hechos mejorada por IA es solo una ruta a seguir. El aprendizaje automático y el aprendizaje profundo, junto con los trabajadores humanos, pueden combatir la propaganda computacional, la desinformación y el acoso político de varias otras maneras.

Jigsaw, la incubadora de tecnología basada en Google donde trabajé durante un año como becario de investigación, diseñó y creó una herramienta basada en IA llamada Perspective para combatir el troleo en línea y el discurso de odio. Esta herramienta (en la que no trabajé yo mismo) es una API que permite a los desarrolladores detectar automáticamente lenguaje tóxico.

Es controvertido porque no solo corre el riesgo de falsos positivos (señalar publicaciones que en realidad no contienen trolling o abuso), sino que también modera el discurso. De acuerdo a cableado , la herramienta se entrenó con aprendizaje automático, pero cualquier herramienta de este tipo también se entrena con aportes de humanos, que tienen sus propios sesgos. Entonces, ¿podría fallar una herramienta creada para detectar lenguaje racista u odioso debido a una capacitación defectuosa?

En 2016, Facebook lanzó Deeptext, una herramienta de IA similar a Perspective de Google. la empresa dice ayudó a eliminar más de 60,000 publicaciones de odio a la semana. Sin embargo, Facebook admitió que la herramienta todavía dependía de un gran grupo de moderadores humanos para deshacerse realmente del contenido dañino. Mientras tanto, Twitter finalmente tomó medidas a fines de 2017 para trabajar con más cuidado para prohibir publicaciones igualmente amenazantes o violentas. Pero aunque ha comenzado a frenar este material problemático, y también está eliminando hordas de cuentas de bots políticos, Twitter no ha dado indicaciones claras de cómo está detectando y eliminando cuentas. Mis colaboradores de investigación y yo continuamos encontrando botnets manipuladores masivos en Twitter casi todos los meses.

Más allá del horizonte

No sorprende que un tecnólogo como Zuckerberg proponga una solución tecnológica, pero la IA no es perfecta por sí sola. El enfoque miope de los líderes tecnológicos en las soluciones basadas en computadoras refleja la ingenuidad y la arrogancia que hicieron que Facebook y otros dejaran a los usuarios vulnerables en primer lugar.

Todavía no hay ejércitos de bots inteligentes de IA que trabajen para manipular la opinión pública durante las elecciones disputadas. ¿Habrá en el futuro? Quizás. Pero es importante tener en cuenta que incluso los ejércitos de bots políticos inteligentes no funcionarán por sí solos: aún requerirán la supervisión humana para manipular y engañar. No estamos ante una versión online de Terminator aquí. Luminarias de los campos de la informática y la inteligencia artificial, incluido el ganador del Premio Turing Ed Feigenbaum y Geoff Hinton, el padrino del aprendizaje profundo, han argumentado enérgicamente contra los temores de que la singularidad, la era imparable de las máquinas inteligentes, llegue pronto. En una encuesta de miembros de la Asociación Estadounidense de Inteligencia Artificial, más del 90% dijo que la superinteligencia está más allá del horizonte previsible. La mayoría de estos expertos también estuvieron de acuerdo en que cuando lleguen las computadoras súper inteligentes, si es que llegan, no serán una amenaza para la humanidad.

Investigadores de Stanford trabajando para rastrear el estado del arte en IA sugerir que nuestros señores de la máquina, en la actualidad, todavía no pueden exhibir el sentido común o la inteligencia general de incluso un niño de 5 años. Entonces, ¿cómo subvertirán estas herramientas el gobierno humano o, digamos, resolverán problemas sociales extremadamente humanos como la polarización política y la falta de pensamiento crítico? El periodico de Wall Street decirlo sucintamente en 2017 : Sin humanos, la inteligencia artificial sigue siendo bastante estúpida.

Grady Booch, un destacado experto en sistemas de inteligencia artificial, también se muestra escéptico sobre el surgimiento de máquinas deshonestas súper inteligentes, pero por una razón diferente. En una charla TED en 2016 , dijo que preocuparse ahora por el surgimiento de una superinteligencia es, en muchos sentidos, una distracción peligrosa porque el surgimiento de la informática en sí nos trae una serie de problemas humanos y sociales a los que ahora debemos atender.

Más importante, enfatizó Booch, los sistemas de IA actuales pueden hacer todo tipo de cosas asombrosas, desde conversar con humanos en lenguaje natural hasta reconocer objetos, pero estas cosas las deciden los humanos y las codifican con valores humanos. No están programados, pero se les enseña cómo comportarse.

En términos científicos, esto es lo que llamamos verdad fundamental, dice Booch, y aquí está el punto importante: al producir estas máquinas, les estamos enseñando un sentido de nuestros valores. Para ello, confío tanto, si no más, en una inteligencia artificial que en un humano bien entrenado.

Llevaría la idea de Booch aún más lejos. Para abordar el problema de la propaganda computacional, debemos concentrarnos en las personas detrás de las herramientas.

Sí, la tecnología en constante evolución puede automatizar la difusión de desinformación y el troleo. Puede permitir que los perpetradores operen de forma anónima y sin temor a ser descubiertos. Pero este conjunto de herramientas como modo de comunicación política se centra en última instancia en lograr el objetivo humano de control. La propaganda es una invención humana, y es tan antigua como la sociedad. Como me dijo una vez un experto en robótica, no debemos temer a las máquinas que son inteligentes como los humanos, tanto como a los humanos que no son inteligentes acerca de cómo construyen las máquinas.

Extraído de El juego de la realidad: cómo la próxima ola de tecnología romperá la verdad, por Samuel Woolley. Copyright 2020. Disponible en PublicAffairs, un sello de Hachette Book Group, Inc.

esconder