211service.com
Falso Estados Unidos genial otra vez
Dentro de la carrera para atrapar las falsificaciones preocupantemente reales que se pueden hacer usando inteligencia artificial. 17 de agosto de 2018
bruce peterson
¿Adivina qué? Acabo de conseguir un video vergonzoso del senador de Texas Ted Cruz cantando y girando a Tina Turner. Sus enemigos políticos se divertirán mucho mostrándolo durante los exámenes parciales. Donald Trump lo llamará Bailarín Ted.
Está bien, lo admito: creé el video yo mismo. Pero aquí está lo preocupante: hacerlo requirió muy poca habilidad de edición de video. Descargué y configuré un software que utiliza el aprendizaje automático para realizar un intercambio de caras digital convincente. El video resultante, conocido como deepfake, muestra los ojos claramente caídos de Cruz cosidos en las facciones del actor Paul Rudd haciendo karaoke con sincronización de labios. No es perfecto, hay algo un poco fuera de lugar, pero podría engañar a algunas personas.
Esta historia fue parte de nuestra edición de septiembre de 2018
- Ver el resto del número
- Suscribir
La falsificación de fotos está lejos de ser nueva, pero la inteligencia artificial cambiará completamente el juego. Hasta hace poco, solo un estudio de cine de gran presupuesto podía realizar un intercambio de caras de video, y probablemente habría costado millones de dólares. La IA ahora hace posible que cualquier persona con una computadora decente y algunas horas libres pueda hacer lo mismo. Más avances en el aprendizaje automático harán posible un engaño aún más complejo y harán que la falsificación sea más difícil de detectar.
Estos avances amenazan con desdibujar aún más la línea entre la verdad y la ficción en la política. Internet ya acelera y refuerza la difusión de desinformación a través de cuentas falsas en las redes sociales. Los hechos alternativos y las teorías de la conspiración son comunes y ampliamente creídos. Las noticias falsas, además de su posible influencia en las últimas elecciones presidenciales de EE. UU., han provocado violencia étnica en Myanmar y Sri Lanka durante el año pasado. Ahora imagine agregar nuevos tipos de videos falsos que parecen reales a la mezcla: políticos diciendo tonterías o insultos étnicos, o siendo atrapados comportándose de manera inapropiada en el video, excepto que nunca sucedió realmente.
Los deepfakes tienen el potencial de descarrilar el discurso político, dice Charles Seife, profesor de la Universidad de Nueva York y autor de Irrealidad virtual: solo porque Internet te lo dijo, ¿cómo sabes que es verdad? Seife confiesa estar asombrado por lo rápido que han progresado las cosas desde que se publicó su libro, en 2014. La tecnología está alterando nuestra percepción de la realidad a un ritmo alarmante, dice.
¿Estamos a punto de entrar en una era en la que no podemos confiar en nada, ni siquiera en videos de aspecto auténtico que parecen capturar noticias reales? ¿Cómo decidimos qué es creíble? ¿En quién confiamos?
Estas imágenes fijas de Ted Cruz y Paul Rudd se tomaron de las imágenes que se enviaron a un programa de intercambio de rostros.
Una verdadera falsedad
Varias tecnologías han convergido para facilitar la falsificación y son fácilmente accesibles: los teléfonos inteligentes permiten que cualquiera capture secuencias de video y las poderosas herramientas de gráficos por computadora se han vuelto mucho más baratas. Agregue software de inteligencia artificial, que permite que las cosas se distorsionen, remezclen y sinteticen de formas nuevas y alucinantes. AI no es solo una mejor versión de Photoshop o iMovie. Permite que una computadora aprenda cómo se ve y suena el mundo para que pueda evocar simulacros convincentes.
Creé el clip de Cruz usando OpenFaceSwap, uno de varios programas de cambio de cara que puedes descargar gratis. Necesita una computadora con un chip de gráficos avanzado, y esto puede costarle unos miles de dólares. Pero también puede alquilar el acceso a una máquina virtual por unos pocos centavos por minuto utilizando una plataforma de aprendizaje automático en la nube como Paperspace. Luego, simplemente introduce dos clips de video y se sienta durante unas horas mientras un algoritmo descubre cómo se ve y se mueve cada rostro para que pueda mapear uno sobre el otro. Hacer que las cosas funcionen es un poco un arte: si elige clips que son demasiado diferentes, el resultado puede ser una mezcla de pesadilla de narices, orejas y barbillas.
Pero el proceso es bastante fácil.
Hacer que las cosas funcionen es un poco un arte: si elige clips que son demasiado diferentes, los resultados pueden ser una mezcla de narices, orejas y barbillas.
Como era de esperar, el intercambio de caras se adoptó por primera vez para hacer porno. En 2017, un usuario anónimo de Reddit conocido como Deepfakes usó el aprendizaje automático para intercambiar rostros de actrices famosas en escenas con estrellas de cine para adultos y luego publicó los resultados en un subreddit dedicado a la filtración de pornografía de celebridades. Luego, otro usuario de Reddit lanzó una interfaz fácil de usar, lo que condujo a una proliferación de pornografía falsa y, por alguna extraña razón, a un sinfín de clips del actor Nicolas Cage en películas en las que realmente no estaba. Incluso Reddit, un lugar de reunión notoriamente despreocupado, prohibió tal pornografía no consensuada. Pero el fenómeno persiste en los rincones más oscuros de Internet.
OpenFaceSwap utiliza una red neuronal artificial, ahora la herramienta de referencia en IA. Las redes neuronales muy grandes o profundas que reciben enormes cantidades de datos de entrenamiento pueden hacer todo tipo de cosas útiles, incluida la búsqueda de la cara de una persona entre millones de imágenes. También se pueden utilizar para manipular y sintetizar imágenes.
OpenFaceSwap entrena una red profunda para codificar una cara (un proceso similar a la compresión de datos), creando así una representación que se puede decodificar para reconstruir la cara completa. El truco consiste en introducir los datos codificados de una cara en el decodificador de la otra. Luego, la red neuronal evocará, a menudo con una precisión sorprendente, una cara que imita las expresiones y movimientos de la otra. El video resultante puede parecer torcido, pero OpenFaceSwap desenfocará automáticamente los bordes y ajustará el color de la cara recién trasplantada para que las cosas se vean más genuinas.
Izquierda: OpenFaceSwap muestra una vista previa de los intentos de intercambio de rostros durante el entrenamiento. Los primeros intentos a menudo pueden ser un poco extraños y grotescos.
Derecha: el software tarda varias horas en producir un buen intercambio de caras. Cuantos más datos de entrenamiento, mejor será el resultado final.
También se puede usar una tecnología similar para recrear la voz de alguien. Una startup llamada Lyrebird ha publicado demostraciones convincentes de Barack Obama y Donald Trump diciendo cosas completamente inventadas. Lyrebird dice que en el futuro limitará sus duplicaciones de voz a las personas que hayan dado su permiso, pero seguramente no todos serán tan escrupulosos.
Una startup ha publicado demostraciones convincentes de Barack Obama y Donald Trump diciendo cosas completamente inventadas.
Existen métodos bien establecidos para identificar imágenes y videos manipulados. Una opción es buscar en la web imágenes que podrían haberse combinado. Una solución más técnica es buscar cambios reveladores en un archivo digital o en los píxeles de una imagen o un cuadro de video. Un experto puede buscar inconsistencias visuales: una sombra que no debería estar allí o un objeto que tiene el tamaño incorrecto.
Hany Farid de la Universidad de Dartmouth, uno de los principales expertos del mundo, ha demostrado cómo se puede reconstruir una escena en 3-D para descubrir rarezas físicas. También demostró que los cambios sutiles en la intensidad de los píxeles en un video, que indican la frecuencia del pulso de una persona, se pueden usar para detectar la diferencia entre una persona real y una generada por computadora. Recientemente, uno de los exalumnos de Farid, ahora profesor en la Universidad Estatal de Nueva York en Albany, demostró que el parpadeo irregular puede revelar una cara que ha sido manipulada por la IA.
Aún así, la mayoría de las personas no pueden hacer este tipo de trabajo de detective y no tienen tiempo para estudiar cada imagen o clip que aparece en Facebook. Entonces, a medida que la falsificación visual se ha vuelto más común, ha habido un impulso para automatizar el análisis. Y resulta que el aprendizaje profundo no solo es excelente para inventar cosas, sino que es ideal para examinar imágenes y videos en busca de signos de falsificación. Sin embargo, este esfuerzo acaba de comenzar y, en última instancia, puede verse obstaculizado por cuán realistas podrían llegar a ser las falsificaciones automatizadas.
Redes de engaño
Una de las últimas ideas en la investigación de la IA implica volver las redes neuronales contra sí mismas para producir falsificaciones aún más realistas. Una red antagónica generativa, o GAN, utiliza dos redes neuronales profundas: una que ha sido entrenada para identificar imágenes o videos reales y otra que aprende con el tiempo cómo burlar a su contraparte. Las GAN se pueden entrenar para producir imágenes falsas sorprendentemente realistas.
Más allá de copiar e intercambiar caras, las GAN pueden hacer posible sintetizar escenas completas y personas que parecen bastante reales, convirtiendo una escena diurna en una nocturna e imaginando celebridades imaginarias. Las GAN no funcionan a la perfección, pero están mejorando todo el tiempo, y esta es un área de investigación candente ( Revisión de tecnología del MIT nombró a GAN como una de sus 10 tecnologías innovadoras para 2018).
Las GAN pueden convertir las escenas diurnas en nocturnas y soñar con rostros imaginarios de celebridades.
Lo más preocupante es que la técnica también podría usarse para evadir el análisis forense digital. La Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. invitó a los investigadores a participar en un concurso este verano en el que algunos desarrollaron videos falsos usando GAN y otros intentaron detectarlos. Los GAN son un desafío particular para nosotros en la comunidad forense porque pueden volverse contra nuestras técnicas forenses, dice Farid. Queda por ver de qué lado prevalecerá.
Esto es el fin
Si no tenemos cuidado, esto podría resultar en el fin del mundo, o al menos lo que parece.
En abril, un supuesto reportaje de noticias de la BBC anunció las salvas iniciales de un conflicto nuclear entre Rusia y la OTAN. El clip, que comenzó a circular en la plataforma de mensajería WhatsApp, mostraba imágenes de misiles despegando mientras un presentador de noticias les decía a los espectadores que la ciudad alemana de Mainz había sido destruida junto con partes de Frankfurt.
Era, por supuesto, completamente falso, y la BBC se apresuró a denunciarlo. El video no se generó con IA, pero mostró el poder del video falso y cómo puede difundir rumores a gran velocidad. La proliferación de programas de inteligencia artificial hará que estos videos sean mucho más fáciles de hacer y aún más convincentes.
Incluso si las noticias falsas no nos engañan, podrían tener consecuencias nefastas para el debate político. Así como ahora estamos acostumbrados a cuestionar si una fotografía podría haber sido modificada con Photoshop, las falsificaciones generadas por IA podrían hacernos sospechar más sobre los eventos que vemos compartidos en línea. Y esto podría contribuir a una mayor erosión del debate político racional.
En La muerte de la verdad , publicado este año, el crítico literario Michiko Kakutani sostiene que los hechos alternativos, las noticias falsas y la locura general de la política moderna representan la culminación de corrientes culturales que se remontan a décadas. Kakutani ve las falsificaciones hiperrealistas de IA como el último golpe al concepto de realidad objetiva.
Incluso antes de que la tecnología sea buena, el hecho de que exista y sea una forma de erosionar la confianza en el material legítimo es profundamente problemático, dice Renee DiResta, investigadora de Data for Democracy y una de las primeras personas en identificar el fenómeno de Twitter con motivaciones políticas. campañas de desinformación.
Quizás el mayor riesgo con esta nueva tecnología, entonces, no es que sea mal utilizada por piratas informáticos estatales, saboteadores políticos o Anonymous, sino que socavará aún más la verdad y la objetividad en sí mismas. Si no puedes distinguir una falsificación de la realidad, entonces es fácil cuestionar la autenticidad de cualquier cosa. Esto ya sirve como una forma para que los políticos evadan la rendición de cuentas.
Quizás el mayor riesgo es que la tecnología socave aún más la verdad y la objetividad.
El presidente Trump ha invertido la idea de las noticias falsas al usar el término para atacar cualquier informe de los medios que critique a su administración. También sugirió que un clip incriminatorio de él denigrando a las mujeres, publicado durante la campaña de 2016, podría haber sido falsificado digitalmente. Este abril, el gobierno ruso acusó a Gran Bretaña de falsificar pruebas en video de un ataque químico en Siria para justificar la acción militar propuesta. Ninguna de las acusaciones era cierta, pero la posibilidad de una falsificación sofisticada está disminuyendo cada vez más la credibilidad de la información real. En Myanmar y Rusia, la nueva legislación busca prohibir las noticias falsas, pero en ambos casos las leyes pueden servir simplemente como una forma de reprimir las críticas al gobierno.
A medida que los poderosos se vuelven cada vez más conscientes de la falsificación de la IA, será fácil descartar incluso la evidencia clara en video de irregularidades como nada más que un engaño digital hecho por GAN.
La verdad seguirá estando ahí fuera. Pero, ¿lo sabrás cuando lo veas?
Will Knight es editor sénior en Revisión de tecnología del MIT que cubre la inteligencia artificial.