¿Puede la IA ganar la guerra contra las noticias falsas?

Diseño Selman

Puede haber sido la primera noticia falsa en la historia de Internet: en 1984, alguien publicó en Usenet que la Unión Soviética se uniría a la red. era un inofensivo Broma del Día de los Inocentes , muy lejos de las campañas de desinformación armadas de hoy en día y las fabricaciones sin escrúpulos diseñadas para obtener ganancias rápidas. En 2017, el contenido en línea engañoso y maliciosamente falso es tan prolífico que los humanos tenemos pocas esperanzas de salir del atolladero. En cambio, parece cada vez más probable que las máquinas tengan que salvarnos.

Un algoritmo destinado a brillar una luz en la oscuridad es AdVerif.ai , que está a cargo de una startup del mismo nombre. El software de inteligencia artificial está diseñado para detectar historias falsas, desnudos, malware y una gran cantidad de otros tipos de contenido problemático. AdVerif.ai, que lanzó una versión beta en noviembre, actualmente trabaja con plataformas de contenido y redes publicitarias en los Estados Unidos y Europa que no quieren ser asociadas con historias falsas o potencialmente ofensivas.

La empresa vio la oportunidad de centrarse en un producto para empresas en lugar de algo para un usuario promedio, según Or Levi, fundador de AdVerif.ai. Si bien es posible que los consumidores individuales no se preocupen por la veracidad de cada historia en la que hacen clic, los anunciantes y las plataformas de contenido tienen algo que perder al alojar o publicitar contenido inadecuado. Y si hacen cambios en sus servicios, pueden ser efectivos para cortar las fuentes de ingresos de las personas que ganan dinero creando noticias falsas. Sería un gran paso en la lucha contra este tipo de contenido, dice Levi.

AdVerif.ai analiza el contenido para detectar signos reveladores de que algo anda mal, como títulos que no coinciden con el cuerpo, por ejemplo, o demasiadas letras mayúsculas en un título. También verifica cada historia con su base de datos de miles de historias legítimas y falsas, que se actualiza semanalmente. Los clientes ven un informe para cada pieza que consideró el sistema, con puntajes que evalúan la probabilidad de que algo sea una noticia falsa, contenga malware o contenga cualquier otra cosa que le hayan pedido al sistema que busque, como desnudez. Eventualmente, Levi dice que planea agregar la capacidad de detectar imágenes manipuladas y tener un complemento de navegador.

Al probar una versión de demostración de AdVerif.ai, la IA reconoció el Cebolla como sátira (que tiene engañó a muchas personas en el pasado). Las historias de Breitbart se clasificaron como poco confiables, correctas, políticas, sesgadas, mientras que Cosmopolita se consideraba de izquierda. Podía saber cuándo una cuenta de Twitter usaba un logotipo, pero los enlaces no estaban asociados con la marca que representaba. AdVerif.ai no solo descubrió que una historia en Natural News con el titular Evidencia apunta a que Bitcoin es una operación psicológica diseñada por la NSA para implementar una moneda digital de un mundo que provenía de un sitio en la lista negra, sino que la identificó como una noticia falsa que aparece en otros sitios en la lista negra sin ninguna referencia en organizaciones de noticias legítimas.

Algunas historias dudosas aún se transmiten. En un sitio llamado Action News 3, una publicación titulada ¡Jugador de la NFL fotografiado quemando una bandera estadounidense en el vestuario! no fue atrapado, aunque ha sido resultó ser una invención . Para ayudar al sistema a aprender sobre la marcha, su lista negra de historias falsas se puede actualizar manualmente, historia por historia.

AdVerif.ai no es la única startup que ve una oportunidad en proporcionar un suero de la verdad impulsado por IA para empresas en línea. Empresas de ciberseguridad en particular, se han apresurado a agregar operaciones de detección de noticias falsas y bots a su repertorio, señalando cuán similares se ven muchos de los métodos para piratear. facebook es ajustando sus algoritmos para restar importancia a las noticias falsas en sus fuentes de noticias, y Google se asoció con un sitio de verificación de hechos — hasta aquí con resultados desiguales . El Fake News Challenge, una competencia dirigida por voluntarios de la comunidad de IA, se lanzó a fines del año pasado con el objetivo de fomentar el desarrollo de herramientas que podrían ayudar a combatir los informes de mala fe.

Historia relacionada

Historia relacionada Gracias al aprendizaje automático, cada vez es más fácil generar videos realistas y hacerse pasar por alguien.

Delip Rao, uno de sus organizadores y fundador de Joostware, una empresa que crea sistemas de aprendizaje automático, dijo que detectar noticias falsas tiene tantas facetas que el desafío en realidad se realizará en varios pasos. El primer paso es la detección de la postura, o tomar una historia y averiguar qué tienen que decir otros sitios de noticias sobre el tema. Esto permitiría a los verificadores de hechos humanos confiar en historias para validar otras historias y pasar menos tiempo revisando piezas individuales.

El Fake News Challenge lanzó conjuntos de datos para que los equipos los usen, con 50 equipos enviando entradas. Talos Intelligence, una división de seguridad cibernética de Cisco, ganó el desafío con un algoritmo que acertó más del 80 por ciento; no estaba del todo listo para el horario de máxima audiencia, pero aún así fue un resultado alentador. El próximo desafío podría ser imágenes con texto superpuesto (piense en memes, pero con noticias falsas), un formato que a menudo se promociona en las redes sociales, ya que su formato es más difícil de descifrar y comprender para los algoritmos.

Básicamente, queremos construir las mejores herramientas para los verificadores de hechos para que puedan trabajar muy rápido, dijo Rao. Como verificadores de datos con esteroides.

Incluso si se desarrolla un sistema que sea efectivo para combatir la marea de contenido falso, es poco probable que sea el final de la historia. Los sistemas de inteligencia artificial ya pueden crear texto falso, así como imágenes y videos increíblemente convincentes. (ver ¿Real o falso? La IA hace que sea muy difícil saberlo). Quizás por esto, un reciente estudio gartner predijo que para 2022, la mayoría de las personas en las economías avanzadas verán más información falsa que verdadera. El mismo informe encontró que incluso antes de que eso suceda, el contenido falso superará la capacidad de AI para detectarlo, cambiando la forma en que confiamos en la información digital.

Lo que AdVerif.ai y otros representan, entonces, se parece menos a la última palabra en la guerra contra el contenido falso que a la ronda inicial de una carrera armamentista, en la que los creadores de contenido falso obtienen su propia IA que puede superar a las buenas IA (ver AI podría Hacernos retroceder 100 años cuando se trata de cómo consumimos noticias). Como sociedad, es posible que aún tengamos que reevaluar cómo obtenemos nuestra información.

esconder