Director de IA de Apple: así es como potenciar el aprendizaje profundo

El director de inteligencia artificial de Apple, Ruslan Salakhutdinov, cree que las redes neuronales profundas que han producido resultados espectaculares en los últimos años podrían potenciarse en los próximos años con la incorporación de la memoria, la atención y el conocimiento general.





Hablando en Revisión de tecnología del MIT En la conferencia EmTech Digital de San Francisco el martes, Salakhutdinov dijo que estos atributos podrían ayudar a resolver algunos de los problemas pendientes de la inteligencia artificial.

Salakhutdinov, que conserva un puesto como profesor asociado en la Universidad Carnegie Mellon en Pittsburgh, señaló en su charla las limitaciones de la visión artificial impulsada por el aprendizaje profundo y la comprensión del lenguaje natural.

El aprendizaje profundo, una técnica que implica el uso de un gran número de neuronas simuladas en forma aproximada dispuestas en muchas capas interconectadas, ha producido un progreso espectacular en la percepción de las máquinas en los últimos años, pero hay muchas formas en las que estas redes están limitadas.

Salakhutdinov mostró, por ejemplo, cómo los sistemas de subtítulos de imágenes basados ​​en la tecnología pueden etiquetar las imágenes incorrectamente porque tienden a enfocarse en todo lo que hay en la imagen. Luego señaló una solución en forma de los llamados mecanismos de atención, una modificación del aprendizaje profundo que se ha desarrollado en los últimos años. El enfoque puede remediar estos errores al tener un sistema que se enfoca en partes específicas de una imagen al aplicar diferentes palabras en un pie de foto. El mismo enfoque también puede ayudar a mejorar la comprensión del lenguaje natural, al permitir que una máquina se centre en la parte relevante de una oración para inferir su significado.

Una técnica llamada redes de memoria , desarrollado por investigadores de Facebook, puede mejorar la forma en que las máquinas hablan con las personas. Como sugiere el nombre, el enfoque agrega un componente de memoria a largo plazo a las redes neuronales para que recuerden el historial de un chat.

Se ha demostrado que las redes de memoria también mejoran otro tipo de IA, conocido como aprendizaje por refuerzo. Por ejemplo, dos investigadores de CMU demostraron recientemente cómo esto podría crear un sistema más inteligente algoritmo de juego . Los investigadores de DeepMind, una subsidiaria de Alphabet centrada en la IA, también han demostrado Formas para que los sistemas de aprendizaje profundo construyan y accedan una forma de memoria.

El aprendizaje por refuerzo está emergiendo rápidamente como una forma valiosa de resolver problemas difíciles de programar en robótica y conducción automatizada. fue uno de Revisión de tecnología del MIT Las 10 tecnologías innovadoras de 2017 de .

Otra área emocionante de investigación futura, dijo Salakhutdinov, sería encontrar formas de combinar fuentes de conocimiento construidas a mano con aprendizaje profundo. Señaló bases de datos de conocimiento general como base libre y repositorios de significado de palabras como WordNet .

Así como los humanos dependen en gran medida del conocimiento general cuando analizan el lenguaje o interpretan una escena visual, esto podría ayudar a que los sistemas de IA sean más inteligentes, dijo Salakhutdinov. ¿Cómo podemos incorporar todo ese conocimiento previo al aprendizaje profundo? dijo durante su charla. Ese es un gran desafío.

Salakhutdinov habló durante una sesión que reunió a investigadores de varias escuelas diferentes de IA. Un tema común entre los oradores fue la necesidad de diferentes enfoques para llevar la IA al siguiente nivel.

Durante la sesión Pedro Domingos , profesor de la Universidad de Washington que estudia diferentes enfoques de aprendizaje automático, dijo que también es necesario seguir buscando enfoques completamente nuevos para la IA. Hay una escuela de pensamiento en el aprendizaje automático de que no necesitamos nuevos algoritmos sofisticados, solo necesitamos más datos, dijo. Creo que hay ideas realmente profundas y fundamentales que deben descubrirse antes de que realmente podamos resolver la IA.

esconder