Dentro del mundo de la IA que forja bellas artes y terroríficos deepfakes

nvidia





En las últimas tres semanas, establecimos los conceptos básicos de la IA. Recordar:

  • La mayoría de los avances y aplicaciones de IA se basan en un tipo de algoritmo conocido como aprendizaje automático que encuentra y vuelve a aplicar patrones en los datos.
  • El aprendizaje profundo, un poderoso subconjunto del aprendizaje automático, utiliza redes neuronales para encontrar y amplificar incluso los patrones más pequeños.
  • Las redes neuronales son capas de nodos computacionales simples que trabajan juntos para analizar datos, algo así como las neuronas en el cerebro humano.

Ahora llegamos a la parte divertida. Usar una red neuronal es realmente excelente para aprender patrones; usar dos es realmente genial para crearlos. Bienvenido al mundo mágico y aterrador de las redes antagónicas generativas, o GAN.

Las GAN están teniendo un momento cultural. Ellos son los responsables de la primera obra de arte generada por IA vendida en Christie's , así como la categoría de imágenes digitales falsas conocida como deepfakes .



Su secreto radica en la forma en que dos redes neuronales trabajan juntas, o más bien, una contra la otra. Comienza alimentando ambas redes neuronales con una gran cantidad de datos de entrenamiento y asignando a cada una una tarea separada. La primera red, conocida como generador, debe producir salidas artificiales, como escritura a mano, videos o voces, observando los ejemplos de entrenamiento e intentando imitarlos. El segundo, conocido como discriminador, determina si las salidas son reales comparando cada una con los mismos ejemplos de entrenamiento.

Historia relacionada

Historia relacionada Al enfrentar las redes neuronales entre sí, Ian Goodfellow ha creado una poderosa herramienta de IA. Ahora él, y el resto de nosotros, debemos enfrentar las consecuencias.

Cada vez que el discriminador rechaza con éxito la salida del generador, el generador vuelve a intentarlo de nuevo. Tomando prestada una metáfora de mi colega Martin Giles, el proceso imita el tira y afloja entre un falsificador de imágenes y un detective de arte que repetidamente intentan burlarse el uno del otro. Eventualmente, el discriminador no puede notar la diferencia entre la salida y los ejemplos de entrenamiento. En otras palabras, el mimetismo es indistinguible de la realidad.

Puede ver por qué un mundo con GAN es igual de hermoso y feo. Por un lado, la capacidad de sintetizar medios e imitar otros patrones de datos puede ser útil en la edición de fotografías, animación y medicamento (como para mejorar la calidad de las imágenes médicas y superar la escasez de datos de pacientes). También nos trae creaciones alegres como esta:



Y esto:

Por otro lado, las GAN también se pueden usar de formas éticamente objetables y peligrosas: para superponer caras de celebridades en los cuerpos de estrellas porno , para hacer que Barack Obama diga lo que quiera, o para falsificar la huella dactilar de alguien y otros datos biométricos, una habilidad que investigadores de la Universidad de Nueva York y el estado de Michigan recientemente presentado en un papel .



Afortunadamente, las GAN todavía tienen limitaciones que imponen algunas medidas de protección. Necesitan bastante poder computacional y datos de alcance limitado para producir algo realmente creíble. Para producir una imagen realista de una rana, por ejemplo, dicho sistema necesita cientos de imágenes de ranas de una especie en particular, preferiblemente orientadas en una dirección similar. Sin esas especificaciones, obtienes algo realmente resultados extravagantes , como esta criatura de tus más oscuras pesadillas:

(Deberías agradecerme por no mostrarte las arañas).



Pero a los expertos les preocupa que solo hayamos visto la punta del iceberg. A medida que los algoritmos se refinan cada vez más, los videos con fallas y los animales de Picasso serán cosa del pasado. Como me dijo una vez Hany Farid, un experto en análisis forense de imágenes digitales, estamos mal preparados para resolver este problema.

Esto apareció originalmente en nuestro boletín de AI The Algorithm. Para recibirlo directamente en su bandeja de entrada, suscríbase aquí de forma gratuita.

esconder