Las elecciones futuras pueden verse influenciadas por chatbots inteligentes armados

Magoz

La batalla contra los bots de propaganda es una carrera armamentista por nuestra democracia. Es uno que podemos estar a punto de perder. Los bots, simples scripts de computadora, se diseñaron originalmente para automatizar tareas repetitivas como organizar contenido o realizar el mantenimiento de la red, ahorrando así a los humanos horas de tedio. Las empresas y los medios de comunicación también usan bots para operar cuentas de redes sociales, para alertar instantáneamente a los usuarios sobre noticias de última hora o promocionar material recién publicado.

Pero también pueden usarse para operar un gran número de cuentas falsas, lo que las hace ideales para manipular a las personas. Nuestra investigación en Computational Propaganda Project estudia las innumerables formas en que los bots políticos que emplean big data y automatización se han utilizado para difundir desinformación y distorsionar el discurso en línea.

Esta historia fue parte de nuestra edición de septiembre de 2018

• Ver el resto del número
• Suscribir

Los bots han demostrado ser una de las mejores formas de transmitir puntos de vista extremistas en las redes sociales, pero también de amplificar dichos puntos de vista de otras cuentas genuinas al dar me gusta, compartir, retuitear, recibir mensajes de corazón y seguir, tal como lo haría un ser humano. Al hacerlo, están jugando con los algoritmos y recompensando las publicaciones con las que han interactuado dándoles más visibilidad.

Esto parecerá manso en comparación con lo que está en camino.

Fuerza en números

A raíz de la interferencia de Rusia en las elecciones estadounidenses de 2016, surgió una ola de debate sobre cómo proteger la política de la propaganda. Twitter eliminó decenas de millones de cuentas sospechosas, incluidos bots, este año, mientras que los reguladores propusieron prohibiciones de bots y medidas de transparencia, y pidieron una mejor cooperación con las plataformas de Internet.

Así que puede parecer que estamos ganando ventaja. Y eso es en parte cierto: las tácticas de los bots han perdido su novedad y nunca tuvieron delicadeza. Su fuerza solía residir en los números. Los propagandistas movilizarían ejércitos de ellos para inundar Internet con publicaciones y respuestas en un intento de abrumar el discurso democrático genuino. Como hemos creado contramedidas técnicas que son mejores para detectar comportamientos similares a los de los bots, ahora es más fácil cerrarlos. La gente también se ha vuelto más alerta y efectiva para detectarlos. El bot promedio hace poco para ocultar su carácter robótico, y una mirada rápida a sus patrones de twittear, o incluso a su foto de perfil, puede revelarlo.

Sin embargo, la próxima generación de bots está evolucionando rápidamente. Debido en gran parte a los avances en el procesamiento del lenguaje natural, la misma tecnología que hace posibles las interfaces operadas por voz como Alexa de Amazon, el Asistente de Google y Cortana de Microsoft, estos bots se comportarán mucho más como personas reales.

Es cierto que estas interfaces conversacionales todavía tienen baches, pero están mejorando y los beneficios de poder decodificar con éxito el lenguaje humano son tremendos. Los asistentes digitales son solo uno de sus usos: las marcas operan chatbots conversacionales para el servicio al cliente y los editores como CNN los usan para distribuir contenido multimedia personalizado.

Dichos chatbots declaran abiertamente que están automatizados, pero los bots de propaganda no lo harán. Se presentarán como usuarios humanos que participan en conversaciones en línea en secciones de comentarios, chats grupales y tableros de mensajes.

Contrariamente a la creencia popular, esto aún no está sucediendo. La mayoría de los bots simplemente reaccionan a las palabras clave que desencadenan una respuesta repetitiva, que rara vez encaja en el contexto o la sintaxis de una conversación determinada. Estas respuestas son a menudo fáciles de detectar.

Pero cada vez es más difícil. Algunos scripts de bot preprogramados simples ya han tenido éxito en engañar a los usuarios. A medida que los bots aprenden a comprender el contexto y la intención, se vuelven más hábiles para entablar conversaciones sin revelar su identidad.

En unos años, los bots conversacionales podrían buscar usuarios susceptibles y acercarse a ellos a través de canales de chat privados. Navegarán con elocuencia en las conversaciones y analizarán los datos de un usuario para ofrecer propaganda personalizada. Los bots señalarán a las personas puntos de vista extremistas y contraargumentarán de manera conversacional.

En lugar de transmitir propaganda a todos, estos bots dirigirán su actividad a personas influyentes o disidentes políticos. Atacarán a las personas con un discurso de odio escrito, las abrumarán con spam o cerrarán sus cuentas al informar que su contenido es abusivo.

Genial para Google, genial para bots

Vale la pena echar un vistazo a cómo están mejorando exactamente las técnicas de inteligencia artificial que impulsan este tipo de bots, porque los métodos empleados por las empresas de tecnología también son excelentes para aumentar las capacidades de los bots políticos.

Para funcionar, el procesamiento del lenguaje natural requiere cantidades sustanciales de datos. Las empresas tecnológicas como Google y Amazon obtienen dichos datos al abrir sus algoritmos de procesamiento de lenguaje al público a través de interfaces de programación de aplicaciones o API. Los terceros, como un banco, por ejemplo, que desean automatizar las conversaciones con sus clientes pueden enviar datos sin procesar, como los guiones de audio o texto de las llamadas telefónicas, a estas API. Los algoritmos procesan el lenguaje y devuelven datos legibles por máquina listos para activar comandos. A cambio, las empresas de tecnología que proporcionan estas API obtienen acceso a una gran cantidad de ejemplos conversacionales, que pueden usar para mejorar sus algoritmos y aprendizaje automático.

Además, casi todas las principales empresas de tecnología ponen a disposición de los desarrolladores algoritmos de código abierto para el procesamiento del lenguaje natural. Los desarrolladores pueden usarlos para crear nuevas aplicaciones propietarias, por ejemplo, software para un robot controlado por voz. A medida que los desarrolladores avanzan y refinan los algoritmos originales, las empresas de tecnología se benefician de sus comentarios.

El problema es que tales servicios son ampliamente accesibles para casi cualquier persona, incluidas las personas que construyen bots políticos. Al proporcionar un conjunto de herramientas para automatizar la conversación, las empresas de tecnología, sin saberlo, están enseñando propaganda para hablar.

Lo peor está por venir

Los bots versados ​​en el lenguaje humano siguen siendo atípicos por ahora. Todavía se requiere una experiencia sustancial, poder de cómputo y datos de entrenamiento para equipar a los bots con algoritmos de procesamiento de lenguaje de última generación. Pero no está fuera de alcance. Desde 2010, los partidos políticos y los gobiernos han gastado más de 500 millones de dólares en la manipulación de las redes sociales, convirtiéndolas en un sector altamente profesionalizado y bien financiado.

Todavía queda un largo camino por recorrer antes de que un bot pueda suplantar a un humano en una conversación uno a uno. Sin embargo, a medida que los algoritmos evolucionen, esas capacidades surgirán.

Al igual que con cualquier otra innovación, una vez que estas técnicas de IA estén listas para usar, inevitablemente se liberarán del conjunto limitado de aplicaciones para las que fueron diseñadas originalmente.

Lisa-Maria Neudert es candidata a doctorado en el Oxford Internet Institute e investigadora del Computational Propaganda Project.

esconder