211service.com
El ejército de EE. UU. está financiando un esfuerzo para detectar falsificaciones profundas y otros trucos de IA
¿Crees que la IA ayudará a poner fin a las noticias falsas? El ejército estadounidense no está tan seguro.
El Departamento de Defensa está financiando un proyecto que intentará determinar si el video y el audio falsos cada vez más reales generados por la inteligencia artificial podrían pronto ser imposibles de distinguir de los reales, incluso para otro sistema de IA.
Este verano, en el marco de un proyecto financiado por el Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) , los principales expertos forenses digitales del mundo se reunirán para un concurso de falsificación de IA. Competirán para generar el video, las imágenes y el audio falsos generados por IA más convincentes, y también intentarán desarrollar herramientas que puedan detectar estas falsificaciones automáticamente.
El concurso incluirá los llamados deepfakes, videos en los que la cara de una persona se cose al cuerpo de otra persona. Como era de esperar, la tecnología ya se ha utilizado para generar una serie de videos pornográficos de celebridades falsificados. Pero el método también podría usarse para crear un clip de un político diciendo o haciendo algo escandaloso.
Los tecnólogos de DARPA están especialmente preocupados por una técnica de IA relativamente nueva que podría hacer que la falsificación de IA sea casi imposible de detectar automáticamente. Usando lo que se conoce como redes antagónicas generativas, o GAN, es posible generar imágenes artificiales asombrosamente realistas.
Teóricamente, si le diera a un GAN todas las técnicas que conocemos para detectarlo, podría pasar todas esas técnicas, dice David Gunning, el gerente del programa DARPA a cargo del proyecto. No sabemos si hay un límite. No está claro.
Una GAN consta de dos componentes. El primero, conocido como el actor, trata de aprender los patrones estadísticos en un conjunto de datos, como un conjunto de imágenes o videos, y luego generar datos sintéticos convincentes. El segundo, llamado crítico, trata de distinguir entre ejemplos reales y falsos. La retroalimentación del crítico permite al actor producir ejemplos cada vez más realistas. Y debido a que las GAN ya están diseñadas para burlar a un sistema de inteligencia artificial, no está claro si algún sistema automatizado podría atraparlas.
Las GAN son relativamente nuevas, pero han tomado por asalto la escena del aprendizaje automático (consulte El padre de las GAN: El hombre que le ha dado a las máquinas el don de la imaginación). Ya se pueden utilizar para soñar con personajes imaginarios muy realistas o para modificar imágenes de forma convincente cambiar un ceño fruncido en una sonrisa o convertir la noche en día.
La detección de una falsificación digital suele implicar tres pasos. El primero es examinar el archivo digital en busca de signos de que dos imágenes o videos se hayan empalmado. El segundo es observar la iluminación y otras propiedades físicas de las imágenes en busca de signos de que algo anda mal. La tercera, que es la más difícil de hacer automáticamente y probablemente la más difícil de vencer, es considerar las inconsistencias lógicas, como el clima incorrecto para la supuesta fecha o el fondo incorrecto para la supuesta ubicación.
walter scheirer , un experto en análisis forense digital de la Universidad de Notre Dame que está involucrado en el proyecto DARPA, dice que la tecnología ha recorrido un camino sorprendentemente largo desde que se lanzó la iniciativa hace un par de años. Definitivamente estamos en una carrera armamentista, dice.
Si bien durante mucho tiempo ha sido posible que un experto en gráficos habilidoso produzca falsificaciones de apariencia convincente, la IA hará que la tecnología sea mucho más accesible. Ha pasado de actores patrocinados por el estado y Hollywood a alguien en Reddit, dice hany farid , profesor de Dartmouth que se especializa en análisis forense digital. La urgencia que sentimos ahora es proteger la democracia.
Deepfakes utiliza una técnica popular de aprendizaje automático conocida como aprendizaje profundo para incorporar automáticamente una nueva cara en un video existente. Cuando se introducen grandes cantidades de datos en una red neuronal simulada muy grande o profunda, una computadora puede aprender a realizar todo tipo de tareas útiles, como el reconocimiento facial muy preciso. Pero el mismo enfoque también facilita la manipulación de videos maliciosos. Una herramienta lanzada en línea permite que cualquier persona con experiencia técnica modesta genere nuevos deepfakes. Y el creador de esa herramienta. dijo tarjeta madre que se está trabajando en una versión aún más fácil de usar.
El problema, por supuesto, se extiende mucho más allá del intercambio de caras. Los expertos dicen cada vez más que en poco tiempo puede ser mucho más difícil saber si una máquina generó una foto, un video o un clip de audio. Google incluso ha desarrollado una herramienta llamada Duplex que usa IA para falsificar una llamada telefónica.
Aviv Ovadya , tecnólogo jefe del Centro para la Responsabilidad de las Redes Sociales de la Universidad de Michigan, teme que las tecnologías de inteligencia artificial que se están desarrollando ahora puedan usarse para dañar la reputación de alguien, influir en una elección o algo peor. Estas tecnologías se pueden usar de maneras maravillosas para el entretenimiento, y también de muchas maneras muy aterradoras, dijo Ovadya en una reunión el 15 de mayo. evento organizado por Bloomberg . Ya tiene imágenes modificadas que se utilizan para causar violencia real en el mundo en desarrollo, dijo. Ese es un peligro real y presente.
Si la tecnología no se puede utilizar para detectar falsificaciones e información errónea, puede haber un impulso para utilizar la ley en su lugar. De hecho, Malasia introdujo leyes contra las noticias falsas este abril. Sin embargo, Farid de Dartmouth dice que esto en sí mismo puede resultar problemático porque la verdad es, en sí misma, un tema resbaladizo. ¿Cómo defines las noticias falsas? No es tan fácil como crees, dice. Puedo recortar una imagen y cambiar fundamentalmente una imagen. y que haces con el Cebolla ?