211service.com
¿Real o falso? AI está haciendo que sea muy difícil saberlo
Los titulares de noticias pueden no ser las únicas cosas falsas en el futuro.
Las poderosas técnicas de aprendizaje automático (consulte El oscuro secreto en el corazón de la IA) hacen que sea cada vez más fácil manipular o generar videos y audios realistas, y suplantar a cualquier persona que desee con una precisión asombrosa.
Una aplicación para teléfonos inteligentes llamada FaceApp , lanzado recientemente por una empresa con sede en Rusia, puede modificar automáticamente la cara de alguien para agregar una sonrisa, sumar o restar años o intercambiar géneros. La aplicación también puede aplicar efectos embellecedores que incluyen suavizar las arrugas y, lo que es más controvertido, aclarar la piel.
Y la semana pasada una empresa llamó Ave lira , que surgió de la Universidad de Montreal, demostró una tecnología que, según dice, se puede usar para hacerse pasar por la voz de otra persona. La compañía publicó videos de demostración de Barack Obama, Donald Trump y Hillary Clinton, todos respaldando la tecnología.
Estos son solo dos ejemplos de cómo se pueden usar los algoritmos de IA más poderosos para generar contenido en lugar de simplemente analizar datos.
El potente hardware y software de gráficos, así como las nuevas tecnologías de captura de video, también impulsan esta tendencia. El año pasado, investigadores de la Universidad de Stanford demostraron un programa de intercambio de rostros llamado cara2cara . Este sistema puede manipular imágenes de video para que las expresiones faciales de una persona coincidan con las de alguien que está siendo rastreado usando una cámara de detección de profundidad. El resultado es a menudo inquietantemente realista.
La capacidad de manipular voces y rostros de manera tan realista podría plantear una serie de problemas, como reconocen los creadores de Lyrebird.
Las grabaciones de voz se consideran actualmente pruebas sólidas en nuestras sociedades y, en particular, en las jurisdicciones de muchos países, se lee en una declaración de ética publicada en el sitio web de la empresa. Nuestra tecnología cuestiona la validez de dicha evidencia, ya que permite manipular fácilmente las grabaciones de audio. Esto podría tener consecuencias potencialmente peligrosas.
Tanto FaceApp como Lyrebird usan redes convolucionales generativas profundas para habilitar estos trucos. Esto significa que la compañía está aplicando una técnica que ha surgido en los últimos años como una forma de lograr que los algoritmos vayan más allá de aprender a clasificar cosas y generar datos plausibles por sí mismos.
Como muchas tareas en inteligencia artificial hoy en día, esto implica el uso de redes neuronales muy grandes o profundas. Estas redes normalmente se alimentan con datos de entrenamiento y se modifican para que respondan de la manera deseada a la nueva entrada. Por ejemplo, se les puede entrenar para que reconozcan caras u objetos en imágenes con una precisión asombrosa.
Pero luego se puede hacer que las mismas redes generen sus propios datos en función de lo que pudieron internalizar sobre el conjunto de datos en el que fueron entrenados.
Es posible entrenar tal red para generar imágenes desde cero que parecen casi reales. En el futuro, usando las mismas técnicas, también puede ser mucho más fácil manipular el video. En algún momento, es probable que sea posible generar videos completos con redes neuronales, dice Alejandro de Brebisson , cofundador de Lyrebird. Es más desafiante porque hay mucha variabilidad en el espacio de alta dimensión que representa los videos, y los modelos actuales aún no son perfectos.
Dadas las tecnologías que están surgiendo ahora, puede volverse cada vez más importante poder detectar videos y audios falsos.
Justo Thies , un estudiante de doctorado en la Universidad Friedrich Alexander en Alemania y uno de los investigadores detrás de Face2Face, la aplicación de intercambio de rostros en tiempo real, dice que ha comenzado un proyecto destinado a detectar la manipulación de videos. Los resultados intermedios parecen prometedores, dice.