211service.com
Esta supercomputadora intentará encontrar inteligencia en Reddit
¿Es posible que el secreto para construir inteligencia artificial resida en pasar horas interminables leyendo Reddit?
Esa es una pregunta que un equipo de investigadores de IA abierta , una organización sin fines de lucro respaldada por varias luminarias de Silicon Valley, espera responder con un nuevo tipo de supercomputadora desarrollada por el fabricante de chips Nvidia. Los investigadores también están entrenando robots que lavan los platos a través de la experimentación, y están construyendo algoritmos capaces de aprender a jugar una amplia variedad de juegos de computadora diferentes.
La nueva máquina, llamada DGX-1, está optimizada para la forma de aprendizaje automático conocida como aprendizaje profundo, que implica alimentar datos a una gran red de neuronas simuladas crudamente y ha resultado en grandes avances en inteligencia artificial en los últimos años. El DGX-1 permitirá a los investigadores de IA entrenar sistemas de aprendizaje profundo más rápidamente utilizando más datos. Como comparación aproximada, los cálculos que tomarían 250 horas en una computadora convencional toman alrededor de 10 horas en el DGX-1.
El CEO de Nvidia, Jen-Hsun Huang, entrega el primer DGX-1 a OpenAI de Elon Musk.
En OpenAI, el aumento de rendimiento logrado con el nuevo hardware puede verse de manera más inmediata en la comprensión del idioma. Los investigadores de OpenAI están alimentando hilos de mensajes del popular sitio web Reddit a algoritmos que construyen una comprensión probabilística de la conversación. Si se alimenta con suficientes ejemplos, el modelo de lenguaje subyacente será lo suficientemente bueno para mantener una conversación, esperan los investigadores. Y el hardware permitirá introducir muchos más fragmentos de texto en el modelo y aplicar más potencia informática al problema.
andrej karpatia , un científico investigador de OpenAI, dice que las técnicas modernas de aprendizaje automático tienden a volverse más inteligentes a medida que crecen. El aprendizaje profundo es una clase muy especial de modelos porque, a medida que aumenta la escala de los modelos, siempre funcionan mejor, dice Karpathy en un video publicado hoy por Nvidia.
El idioma sigue siendo un problema muy complicado para la inteligencia artificial, pero en los últimos años los investigadores han logrado avances en la aplicación del aprendizaje profundo al problema (consulte el Problema del idioma de la IA). Los investigadores de Google, por ejemplo, alimentaron el diálogo de la película a un sistema de aprendizaje profundo diseñado originalmente para realizar la traducción y luego presentado que podría responder a algunas preguntas notablemente bien.
Los investigadores de OpenAI también planean explorar si un robot podría aprender a usar el lenguaje interactuando con personas y el mundo real. Sin embargo, esta investigación se encuentra en una etapa inicial y será más fácil ampliar el trabajo que involucra a Reddit. Karpathy dice que los modelos entrenados con datos de Reddit podrían pasar de consumir meses de conversación a años gracias al nuevo hardware.
Nvidia, que fabrica unidades de procesamiento de gráficos para juegos, se ha beneficiado del auge del aprendizaje profundo porque su hardware se adapta bien a los cálculos paralelos requeridos. En los últimos años, la empresa ha buscado explotar esta ventaja, y el DGX-1, desarrollado a un costo de alrededor de $ 2 mil millones, es esencialmente un banco de chips gráficos optimizados para el aprendizaje profundo. Los chips pueden procesar datos muy rápidamente (en un pico de alrededor de 170 teraflops, o mil millones de cálculos aritméticos por segundo) y pueden compartir datos más fácilmente.
Andrew Ng, científico jefe de la compañía china de Internet Baidu, ha examinado de cerca el DGX-1, que Baidu planea usar. Las capacidades que proporciona nos permitirán probar nuevas formas de escalar nuestro proceso de capacitación, dice Ng. Esto nos permitirá entrenar modelos en conjuntos de datos más grandes, lo que, según hemos descubierto, conduce al progreso en IA.
OpenAI participa en una variedad de investigaciones de IA de última generación. Además del aprendizaje profundo, sus investigadores se centran en desarrollar algoritmos capaces de aprender a través de una amplia prueba y error, un campo de investigación conocido como aprendizaje por refuerzo.
OpenAI espera utilizar el aprendizaje por refuerzo para construir robots capaces de realizar tareas útiles en el hogar, aunque esto puede resultar un desafío que requiere mucho tiempo (consulte This Is the Robot Maid Elon Musk Is Funding y The Robot You Want Most Is Far from Reality).
Los investigadores de OpenAI también están explorando formas para que los algoritmos de IA aprendan de manera mucho más eficiente al generar sus propios modelos o teorías sobre lo que significa un conjunto de datos. Un algoritmo podría aprender a jugar una variedad de juegos de computadora, por ejemplo, al determinar que recolectar monedas generalmente ayuda a aumentar la puntuación.
Ilya Sutskever , director de investigación de OpenAI y una figura prominente en IA, dice que el trabajo en esta área podría conducir en última instancia a mejores algoritmos que pueden aprender de manera más efectiva. Una vez que se realicen todas estas mejoras, debería ser posible crear agentes que puedan lograr objetivos más sofisticados usando mucha menos experiencia, dice.
OpenAI se fundó en 2015 con $ 1 mil millones en fondos de VIP de la industria tecnológica, incluidos Elon Musk, director ejecutivo de Tesla y SpaceX, y Sam Altman, presidente de Y Combinator. El objetivo de la organización sin fines de lucro es realizar investigaciones abiertas de IA y ayudar a garantizar que la IA beneficie a la humanidad.
Jen-Hsun Huang, CEO de Nvidia, dice que la decisión de entregar el primer DGX-1 a OpenAI refleja la creencia en los objetivos de OpenAI. La estrategia de Nvidia es democratizar la IA, dijo Huang en una entrevista. Nos gustaría que esta tecnología, por poderosa que sea, se mueva en una dirección que sea buena para la sociedad.