El padre de GAN: el hombre que le ha dado a las máquinas el don de la imaginación

Christie There Klok

Una noche de 2014, Ian Goodfellow fue a beber para celebrar con un estudiante de doctorado que acababa de graduarse. En Les 3 Brasseurs (Los tres cerveceros), un abrevadero favorito de Montreal, algunos amigos le pidieron ayuda con un proyecto espinoso en el que estaban trabajando: una computadora que podía crear fotos por sí misma.

Los investigadores ya estaban utilizando redes neuronales, algoritmos modelados libremente en la red de neuronas del cerebro humano, como modelos generativos para crear nuevos datos plausibles propios. Pero los resultados a menudo no eran muy buenos: las imágenes de un rostro generado por computadora tendían a ser borrosas o tenían errores como orejas faltantes. El plan que proponían los amigos de Goodfellow era utilizar un análisis estadístico complejo de los elementos que componen una fotografía para ayudar a las máquinas a generar imágenes por sí mismas. Esto habría requerido una gran cantidad de cálculos numéricos, y Goodfellow les dijo que simplemente no iba a funcionar.

Esta historia fue parte de nuestra edición de marzo de 2018

• Ver el resto del número
• Suscribir

Pero mientras reflexionaba sobre el problema con su cerveza, se le ocurrió una idea. ¿Qué pasa si enfrentas dos redes neuronales entre sí? Sus amigos se mostraron escépticos, así que una vez que llegó a casa, donde su novia ya estaba profundamente dormida, decidió intentarlo. Goodfellow codificó en las primeras horas y luego probó su software. Funcionó la primera vez.

Lo que inventó esa noche ahora se llama GAN, o red adversarial generativa. La técnica ha despertado un gran entusiasmo en el campo del aprendizaje automático y convirtió a su creador en una celebridad de la IA.

Christie There Klok

En los últimos años, los investigadores de IA han logrado un progreso impresionante utilizando una técnica llamada aprendizaje profundo. Proporcione suficientes imágenes a un sistema de aprendizaje profundo y aprenderá, por ejemplo, a reconocer a un peatón que está a punto de cruzar una calle. Este enfoque ha hecho posible cosas como los autos sin conductor y la tecnología conversacional que impulsa a Alexa, Siri y otros asistentes virtuales.

Pero si bien las IA de aprendizaje profundo pueden aprender a reconocer cosas, no han sido buenas para crearlas. El objetivo de las GAN es dar a las máquinas algo parecido a la imaginación.

En el futuro, las computadoras serán mucho mejores para darse un festín con los datos sin procesar y descubrir lo que necesitan aprender de ellos.

Hacerlo no solo les permitiría hacer dibujos bonitos o componer música; los haría menos dependientes de los humanos para instruirlos sobre el mundo y la forma en que funciona. Hoy en día, los programadores de IA a menudo necesitan decirle a una máquina exactamente qué hay en los datos de entrenamiento que está recibiendo: cuáles de un millón de imágenes contienen un peatón cruzando una calle y cuáles no. Esto no solo es costoso y requiere mucha mano de obra; limita la eficacia con la que el sistema se enfrenta incluso a ligeras desviaciones de aquello en lo que se entrenó. En el futuro, las computadoras serán mucho mejores para darse un festín con los datos sin procesar y resolver lo que necesitan aprender de ellos sin que se les diga.

Eso marcará un gran salto adelante en lo que se conoce en IA como aprendizaje no supervisado. Un automóvil autónomo podría aprender sobre muchas condiciones diferentes de la carretera sin salir del garaje. Un robot podría anticipar los obstáculos que podría encontrar en un almacén ocupado sin necesidad de que lo rodeen.

Eso marcará un gran salto adelante en lo que se conoce en IA como aprendizaje no supervisado.

Nuestra capacidad de imaginar y reflexionar sobre muchos escenarios diferentes es parte de lo que nos hace humanos. Y cuando los futuros historiadores de la tecnología miren hacia atrás, es probable que vean las GAN como un gran paso hacia la creación de máquinas con una conciencia similar a la humana. Yann LeCun, científico jefe de IA de Facebook, ha llamado a las GAN la mejor idea en aprendizaje profundo en los últimos 20 años. Otra luminaria de IA, Andrew Ng, ex científico jefe de Baidu de China, dice que las GAN representan un avance significativo y fundamental que inspiró a una creciente comunidad mundial de investigadores.

El GANfather, Parte II: club de lucha de IA

Goodfellow ahora es científico investigador en el equipo de Google Brain, en la sede de la compañía en Mountain View, California. Cuando lo conocí allí recientemente, todavía parecía sorprendido por su estatus de superestrella, llamándolo un poco surrealista. Quizás no menos sorprendente es que, después de haber hecho su descubrimiento, ahora pasa gran parte de su tiempo trabajando contra aquellos que desean usarlo para fines malvados.

La magia de las GAN radica en la rivalidad entre las dos redes neuronales. Imita el tira y afloja entre un falsificador de imágenes y un detective de arte que repetidamente intentan burlar al otro. Ambas redes están entrenadas en el mismo conjunto de datos. El primero, conocido como generador, se encarga de producir resultados artificiales, como fotos o escritura a mano, que sean lo más realistas posible. El segundo, conocido como discriminador, los compara con imágenes genuinas del conjunto de datos original e intenta determinar cuáles son reales y cuáles son falsas. Sobre la base de esos resultados, el generador ajusta sus parámetros para crear nuevas imágenes. Y así continúa, hasta que el discriminador ya no puede distinguir qué es genuino y qué es falso.

Un GAN entrenado con fotos de celebridades reales ideó su propio conjunto de estrellas imaginarias. En la mayoría de los casos, las falsificaciones parecían bastante realistas. nvidia

En un ejemplo ampliamente publicitado el año pasado, los investigadores de Nvidia, una empresa de chips que invirtió mucho en IA, entrenaron una GAN para generar imágenes de celebridades imaginarias mediante el estudio de las reales. No todas las estrellas falsas que produjo fueron perfectas, pero algunas fueron impresionantemente realistas. A diferencia de otros enfoques de aprendizaje automático que requieren decenas de miles de imágenes de entrenamiento, las GAN pueden volverse competentes con unos pocos cientos.

Historia relacionada

Historia relacionada

Este poder de la imaginación es todavía limitado. Una vez que se ha entrenado con muchas fotos de perros, una GAN puede generar una imagen falsa convincente de un perro que tiene, por ejemplo, un patrón diferente de manchas; pero no puede concebir un animal completamente nuevo. La calidad de los datos de entrenamiento originales también tiene una gran influencia en los resultados. En un ejemplo revelador, una GAN comenzó a producir imágenes de gatos con letras aleatorias integradas en las imágenes. Debido a que los datos de entrenamiento contenían memes de gatos de Internet, la máquina se había enseñado a sí misma que las palabras eran parte de lo que significaba ser un gato.

Hacer que GANS funcione bien puede ser complicado. Si hay fallas, los resultados pueden ser extraños. Alec Radford

Las GAN también son temperamentales, dice Pedro Domingos, investigador de aprendizaje automático de la Universidad de Washington. Si el discriminador es demasiado fácil de engañar, la salida del generador no parecerá realista. Y calibrar las dos redes neuronales en duelo puede ser difícil, lo que explica por qué las GAN a veces escupen cosas extrañas, como animales con dos cabezas.

Aún así, los desafíos no han disuadido a los investigadores. Desde que Goodfellow y algunos otros publicaron el primer estudio sobre su descubrimiento, en 2014, se han escrito cientos de artículos relacionados con GAN. Un fanático de la tecnología incluso creó una página web llamada GAN zoo, dedicada a realizar un seguimiento de las diversas versiones de la técnica que se han desarrollado.

Las aplicaciones inmediatas más obvias se encuentran en áreas que involucran muchas imágenes, como los videojuegos y la moda: ¿cómo se vería, por ejemplo, el personaje de un juego corriendo bajo la lluvia? Pero de cara al futuro, Goodfellow cree que las GAN impulsarán avances más significativos. Hay muchas áreas de la ciencia y la ingeniería en las que necesitamos optimizar algo, dice, citando ejemplos como medicamentos que deben ser más efectivos o baterías que deben volverse más eficientes. Esa va a ser la próxima gran ola.

En la física de alta energía, los científicos usan poderosas computadoras para simular las probables interacciones de cientos de partículas subatómicas en máquinas como el Gran Colisionador de Hadrones en el CERN en Suiza. Estas simulaciones son lentas y requieren una enorme potencia informática. Investigadores de la Universidad de Yale y el Laboratorio Nacional Lawrence Berkeley han desarrollado una GAN que, después de entrenarse con los datos de simulación existentes, aprende a generar predicciones bastante precisas de cómo se comportará una partícula en particular, y lo hace mucho más rápido.

La creación de Goodfellow se puede utilizar para imaginar todo tipo de cosas, incluidos nuevos diseños de interiores. Ian Goodfellow

La investigación médica es otro campo prometedor. Las preocupaciones de privacidad significan que los investigadores a veces no pueden obtener suficientes datos reales de pacientes para, por ejemplo, analizar por qué un medicamento no funcionó. Las GAN pueden ayudar a resolver este problema al generar registros falsos que son casi tan buenos como los reales, dice Casey Greene de la Universidad de Pensilvania. Estos datos podrían compartirse más ampliamente, ayudando a avanzar en la investigación, mientras que los registros reales están estrictamente protegidos.

El GANfather, Parte III: Malos compañeros

Sin embargo, hay un lado más oscuro. Una máquina diseñada para crear falsificaciones realistas es un arma perfecta para los proveedores de noticias falsas que quieren influir en todo, desde los precios de las acciones hasta las elecciones. Las herramientas de IA ya se están utilizando para poner imágenes de rostros de otras personas en los cuerpos de estrellas porno y poner palabras en la boca de los políticos. Las GAN no crearon este problema, pero lo empeorarán.

Hany Farid, que estudia ciencia forense digital en Dartmouth College, está trabajando en mejores formas de detectar videos falsos, como detectar cambios leves en el color de las caras causados ​​por la inhalación y la exhalación que las GAN encuentran difíciles de imitar con precisión. Pero advierte que las GAN se adaptarán a su vez. Estamos fundamentalmente en una posición débil, dice Farid.

Este juego del gato y el ratón también se desarrollará en la ciberseguridad. Los investigadores ya están destacando el riesgo de los ataques de caja negra, en los que las GAN se utilizan para descubrir los modelos de aprendizaje automático con los que muchos programas de seguridad detectan el malware. Habiendo adivinado cómo funciona el algoritmo de un defensor, un atacante puede evadirlo e insertar código malicioso. El mismo enfoque también podría usarse para esquivar los filtros de spam y otras defensas.

Hay muchas áreas de la ciencia y la ingeniería en las que necesitamos optimizar algo. Esa va a ser la próxima gran ola.

Goodfellow es muy consciente de los peligros. Ahora, al frente de un equipo en Google que se enfoca en hacer que el aprendizaje automático sea más seguro, advierte que la comunidad de IA debe aprender la lección de las oleadas de innovación anteriores, en las que los tecnólogos trataron la seguridad y la privacidad como una idea de último momento. Cuando se dieron cuenta de los riesgos, los malos tenían una ventaja significativa. Claramente, ya estamos más allá del comienzo, dice, pero esperamos que podamos lograr avances significativos en seguridad antes de que nos adentremos demasiado.

Sin embargo, no cree que haya una solución puramente tecnológica para la falsificación. En su lugar, cree, tendremos que depender de las sociales, como enseñar a los niños el pensamiento crítico al hacer que tomen cosas como clases de oratoria y debate. En oratoria y debate, estás compitiendo contra otro estudiante, dice, y estás pensando en cómo elaborar afirmaciones engañosas o cómo elaborar afirmaciones correctas que sean muy persuasivas. Puede que tenga razón, pero su conclusión de que la tecnología no puede curar el problema de las noticias falsas no es algo que muchos quieran escuchar.

esconder