La mayor amenaza de los deepfakes no son los deepfakes en sí mismos

Una imagen de Hitler dando un discurso con su rostro reemplazado por un signo de interrogación. Sra. tecnología

Era finales de 2018 y la gente de Gabón no había visto a su presidente, Ali Bongo, en público durante meses. Algunos empezaron a sospechar que estaba enfermo, o incluso muerto, y el gobierno lo estaba encubriendo. Para detener las especulaciones, el gobierno anunció que Bongo había sufrido un derrame cerebral pero se mantenía en buen estado de salud. Poco después, se lanzó un video de él pronunciando su habitual discurso de Año Nuevo.

Sin embargo, en lugar de calmar las tensiones, el video hizo precisamente lo contrario. Como descubrió la organización de derechos digitales Internet Sin Fronteras, muchas personas, pensando Bongo miró hacia otro lado en las imágenes. , sospechó de inmediato que se trataba de un deepfake, un elemento multimedia falsificado o alterado con la ayuda de IA. La creencia alimentó sus sospechas de que el gobierno estaba ocultando algo. Una semana después, los militares lanzaron un golpe fallido, citando el video como parte de la motivación.

El análisis forense posterior nunca encontró nada alterado o manipulado en el video. Eso no importó. La mera idea de los deepfakes había sido suficiente para acelerar el desmoronamiento de una situación ya precaria.

En el período previo a las elecciones presidenciales de EE. UU. de 2020, la tecnología cada vez más convincente de falsificación profunda ha generado temores sobre cómo estos medios falsos podrían influir en la opinión política. pero un nuevo reporte de Deeptrace Labs, una empresa de ciberseguridad enfocada en detectar este engaño, no encontró instancias conocidas en las que los deepfakes se hayan utilizado realmente en campañas de desinformación. Lo que ha tenido un efecto más poderoso es el conocimiento de que pudo ser usado de esa manera.

Deepfakes plantea un riesgo para la política en términos de medios falsos que parecen ser reales, pero en este momento la amenaza más tangible es cómo se puede invocar la idea de deepfakes para hacer que lo real parezca falso, dice Henry Ajder, uno de los autores de la reporte. La publicidad exagerada y bastante sensacionalista que especula sobre el impacto político de las falsificaciones profundas ha eclipsado los casos reales en los que las falsificaciones profundas han tenido un impacto.

La documentación ya no es evidencia

Los activistas de derechos humanos y los expertos en desinformación han hecho sonar la alarma sobre estas amenazas separadas pero entrelazadas desde que aparecieron los deepfakes. En los últimos dos años, las empresas tecnológicas y los legisladores estadounidenses se han centrado casi exclusivamente en el primer problema que menciona Ajder: la facilidad con la que la tecnología puede hacer que las cosas falsas parezcan reales. Pero es el segundo lo que preocupa más a los expertos. Si bien las barreras para crear deepfakes pueden estar cayendo rápidamente, cuestionar la veracidad de algo no requiere ninguna tecnología.

Da otra arma a los poderosos: decir 'Es una falsificación profunda' sobre cualquier cosa que las personas que están fuera del poder estén tratando de usar para mostrar la corrupción.

Desde el principio, ha sido mi mayor preocupación en este espacio, dice Aviv Ovadya, un experto en desinformación que ahora dirige la organización sin fines de lucro Thoughtful Technology Project.

Socavar la confianza en los medios puede tener profundas repercusiones, particularmente en entornos políticos frágiles. Sam Gregory, el director del programa de Witness, una organización sin fines de lucro que ayuda a las personas a documentar los abusos de los derechos humanos, ofrece un ejemplo. En Brasil, que ha sufrido una historia de violencia policial, los ciudadanos y activistas ahora temen que cualquier video que filmen de un oficial matando a un civil ya no sea motivo suficiente para la investigación. Este temor de que la evidencia real pueda descartarse plausiblemente como falsa, dice Gregory, se ha convertido en un tema recurrente en los talleres que organiza en todo el mundo.

Es una evolución de la afirmación de que algo es una 'noticia falsa', dice. Da otra arma a los poderosos: decir 'Es una falsificación profunda' sobre cualquier cosa que las personas que están fuera del poder estén tratando de usar para mostrar corrupción, para mostrar abusos contra los derechos humanos.

Demostrando que lo real es real y lo falso es falso

Resolver estos problemas requerirá comprender ambos tipos de amenazas. En un nivel alto, desea que sea lo más fácil posible para mostrar que una cosa real es real. y que una cosa falsa es falsa, dice Ovadya.

En los últimos meses, muchos grupos de investigación y empresas tecnológicas como Facebook y Google se han centrado en herramientas para exponer falsificaciones, como bases de datos para entrenar algoritmos de detección y marcas de agua que se pueden integrar en archivos de fotos digitales para revelar si se han manipulado. Varias nuevas empresas también han estado trabajando en formas de generar confianza a través de aplicaciones de consumo que verifican fotos y videos cuando se toman, para formar una base de comparación si las versiones del contenido circulan más adelante. Gregory dice que los gigantes tecnológicos deberían integrar ambos tipos de cheques directamente en sus plataformas para que estén ampliamente disponibles.

Pero las empresas de tecnología también deben emplear moderadores de contenido humano, y las organizaciones de medios también deben capacitar a los periodistas y verificadores de datos tanto en la detección como en la verificación. Los informes sobre el terreno pueden confirmar si un video refleja o no la realidad y agregar una capa importante de matices. Los modelos técnicos no pueden interpretar el contenido del video falsificado a través de contextos culturales o imaginar cómo podría recontextualizarse aún más, dice Britt Paris, un experto en estudios de información que recientemente publicó un informe sobre falsificaciones profundas.

Lo que [los actores de la desinformación] realmente quieren no es que cuestionen más, sino que cuestionen todo.

Como ejemplo, Paris señala videos alterados de Nancy Pelosi y Jim Acosta que se volvieron virales durante el año pasado. Ambos eran llamados falsificaciones baratas en lugar de falsificaciones profundas: su velocidad simplemente había sido manipulada para engañar a los espectadores. No habría forma de atrapar estas falsificaciones con métodos técnicos para detectar falsificaciones profundas, dice Paris. En cambio, los periodistas tenían que desacreditarlos, lo que significaba que la gente tenía que confiar en los periodistas.

Finalmente, todos los expertos coinciden en que el público necesita una mayor alfabetización mediática. Hay una diferencia entre demostrar que algo real es real y hacer que el público en general crea que lo real es real, dice Ovadya. Él dice que las personas deben ser conscientes de que falsificar contenido y poner en duda la veracidad del contenido son tácticas que pueden usarse para sembrar confusión intencionalmente.

Sin embargo, Gregory advierte contra colocar una carga demasiado grande sobre los consumidores de noticias. Los investigadores, las plataformas y los periodistas deben hacer todo el trabajo posible para ayudar a aclarar qué es real y qué es falso antes de que las noticias lleguen al público.

El objetivo final, dice Ovadya, no es inculcar el escepticismo general, sino construir una infraestructura social, educativa y de inoculación para neutralizar el impacto de las falsificaciones profundas. ¿Qué debemos tratar de evitar? él pide. Es valioso cuestionar la evidencia. Pero lo que [los actores de la desinformación] realmente quieren no es que cuestionen más, sino que cuestionen todo.

Agrega, Esa es la antítesis de lo que estamos buscando.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder