AlphaGo Zero muestra que las máquinas pueden convertirse en superhumanas sin ninguna ayuda

www.alphagomovie.com





AlphaGo no fue el mejor jugador de Go del planeta durante mucho tiempo. Ha surgido una nueva versión del magistral programa de IA, y es un monstruo. En un enfrentamiento cara a cara, AlphaGo Zero derrotó al programa original por 100 juegos a cero.

Lo que es realmente genial es cómo lo hizo AlphaGo Zero. Mientras que el AlphaGo original aprendió al ingerir datos de cientos de miles de juegos jugados por expertos humanos, AlphaGo Zero, también desarrollado por la subsidiaria de Alphabet Mente profunda , comenzó con nada más que un tablero en blanco y las reglas del juego. Aprendió simplemente jugando millones de juegos contra sí mismo, usando lo que aprendió en cada juego para mejorar.

El nuevo programa representa un paso adelante en la búsqueda de construir máquinas verdaderamente inteligentes. Esto se debe a que las máquinas necesitarán encontrar soluciones a problemas difíciles incluso cuando no haya una gran cantidad de datos de entrenamiento de los que aprender.



Historia relacionada

Lo más sorprendente es que ya no necesitamos datos humanos, dice Demis Hassabis, CEO y cofundador de DeepMind. Hassabis dice que las técnicas utilizadas para construir AlphaGo Zero son lo suficientemente poderosas como para aplicarse en situaciones del mundo real donde es necesario explorar un vasto panorama de posibilidades, incluido el descubrimiento de fármacos y la ciencia de los materiales. La investigación detrás de AlphaGo Zero se publica hoy en la revista Naturaleza.

Sorprendentemente, durante este proceso de autoaprendizaje, AlphaGo Zero descubrió muchos de los trucos y técnicas que los jugadores humanos de Go han desarrollado durante los últimos miles de años. Unos días después, redescubre las mejores obras conocidas, y en los últimos días va más allá de esas obras para encontrar algo aún mejor, dice Hassabis. Es bastante genial de ver.

DeepMind, con sede en Londres, fue adquirida por Google en 2014. La empresa se centra en lograr grandes avances en IA mediante juegos, simulación y aprendizaje automático; ha contratado a cientos de investigadores de IA para lograr este objetivo. El desarrollo de AlphaGo Zero involucró a unas 15 personas y probablemente millones de dólares en recursos informáticos, dice Hassabis.



Tanto AlphaGo como AlphaGo Zero utilizan un enfoque de aprendizaje automático conocido como aprendizaje por refuerzo (consulte 10 Tecnologías innovadoras 2017: Aprendizaje por refuerzo), así como redes neuronales profundas. El aprendizaje por refuerzo está inspirado en la forma en que los animales parecen aprender a través de la experimentación y la retroalimentación, y DeepMind ha utilizado la técnica para lograr un rendimiento sobrehumano en juegos de Atari más simples.

El número de configuraciones posibles en el tablero Go es mayor que el número de átomos en el universo. www.alphagomovie.com

Sin embargo, dominar el juego de mesa Go fue especialmente importante porque el juego es muy complejo y porque los mejores jugadores hacen sus movimientos de manera tan instintiva. Las reglas del buen juego, en otras palabras, no pueden ser explicadas o escritas en código fácilmente.



El aprendizaje por refuerzo también se muestra prometedor para automatizar la programación de máquinas en muchos otros contextos, incluidos aquellos en los que no sería práctico programarlos a mano. Ya se está probando como una forma de enseñar a los robots a agarrar objetos incómodos, por ejemplo, y como un medio para conservar energía en los centros de datos mediante la reconfiguración del hardware sobre la marcha. Sin embargo, en muchas situaciones del mundo real, es posible que no haya una gran cantidad de ejemplos de los que aprender, lo que significa que las máquinas tendrán que aprender por sí mismas. Eso es lo que hace que AlphaGo Zero sea interesante.

Al no utilizar datos humanos o experiencia humana, en realidad hemos eliminado las limitaciones del conocimiento humano, dice david plata , investigador principal de DeepMind y profesor del University College London. Es capaz de crear conocimiento por sí mismo a partir de primeros principios.

Para lograr la supremacía de Go, AlphaGo Zero simplemente jugó contra sí mismo, aleatoriamente al principio. Al igual que el original, utilizó una red neuronal profunda y un poderoso algoritmo de búsqueda para elegir el siguiente movimiento. Pero en AlphaGo Zero, una sola red neuronal se encargó de ambas funciones.



Martín Müller , profesor de la Universidad de Alberta en Canadá que ha realizado un trabajo importante en el software de juego Go, está impresionado con el diseño de AlphaGo Zero y dice que promueve el aprendizaje por refuerzo. La arquitectura es más simple, pero más poderosa que las versiones anteriores, dice.

DeepMind ya es el favorito de la industria de la IA, y su último logro seguramente ocupará los titulares y generará debate sobre el progreso hacia formas de IA mucho más poderosas.

Sin embargo, hay razones para tomar el anuncio con cautela. Pedro Domingos , profesor de la Universidad de Washington, señala que el programa aún necesita jugar muchos millones de juegos para dominar el Go, muchos más de los que necesita un jugador humano experto. Esto sugiere que la inteligencia que emplea el programa es fundamentalmente diferente de alguna manera.

Es una buena ilustración del progreso reciente en el aprendizaje profundo y el aprendizaje por refuerzo, pero no le daría demasiada importancia como una señal de lo que las computadoras pueden aprender sin el conocimiento humano, dice Domingos. Lo que sería realmente impresionante sería si AlphaGo venciera [al legendario campeón de Corea del Sur] Lee Sedol después de jugar aproximadamente tantos juegos como jugó en su carrera antes de convertirse en campeón. No estamos ni cerca de eso.

De hecho, tanto Silver como Hassabis admiten que encontrar formas para que las máquinas aprendan a partir de muchos menos datos será importante en su búsqueda continua por dominar la inteligencia. Esto puede implicar el desarrollo de enfoques novedosos para permitir que las máquinas transfieran lo que han aprendido en un dominio a otro, o que aprendan observando a otros (tanto humanos como otras IA).

Pero a pesar del trabajo que aún queda por hacer, Hassabis tiene la esperanza de que dentro de 10 años la IA desempeñe un papel importante en la resolución de problemas importantes en la ciencia, la medicina u otros campos. Espero que este tipo de algoritmos, y las versiones futuras, trabajen de manera rutinaria con nosotros avanzando las fronteras de la ciencia y la medicina, dice. Tal vez todo tipo de cosas hayan sido parcialmente diseñadas y descubiertas por este tipo de algoritmos, trabajando en conjunto con humanos muy inteligentes.

esconder