¿Está AI montando un caballo de un solo truco?

Casi todos los avances de IA de los que ha oído hablar dependen de un avance que tiene tres décadas. Mantener el ritmo del progreso requerirá enfrentar las serias limitaciones de la IA. Por

• james somers página de archivo

29 de septiembre de 2017

adam desvío

Estoy parado en lo que pronto será el centro del mundo, o tal vez sea solo una habitación muy grande en el séptimo piso de una torre reluciente en el centro de Toronto. Me muestra Jordan Jacobs, cofundador de este lugar: el naciente Vector Institute, que abre sus puertas este otoño y que aspira a convertirse en el epicentro mundial de la inteligencia artificial.

Estamos en Toronto porque Geoffrey Hinton está en Toronto, y Geoffrey Hinton es el padre del aprendizaje profundo, la técnica detrás del entusiasmo actual por la IA. En 30 años miraremos hacia atrás y diremos que Geoff es Einstein, de IA, aprendizaje profundo, lo que llamamos IA, dice Jacobs. De los investigadores en la cima del campo del aprendizaje profundo, Hinton tiene más citas que los tres siguientes juntos. Sus estudiantes y posdoctorados han pasado a dirigir los laboratorios de IA en Apple, Facebook y OpenAI; El mismo Hinton es un científico líder en el equipo de inteligencia artificial de Google Brain. De hecho, casi todos los logros de la última década de la IA (en traducción, reconocimiento de voz, reconocimiento de imágenes y juegos) se remontan de alguna manera al trabajo de Hinton.

Esta historia fue parte de nuestra edición de noviembre de 2017

• Ver el resto del número
• Suscribir

El Vector Institute, este monumento al ascenso de las ideas de Hinton, es un centro de investigación donde empresas de todo EE. UU. y Canadá, como Google, Uber y Nvidia, patrocinarán esfuerzos para comercializar tecnologías de inteligencia artificial. El dinero ha llegado más rápido de lo que Jacobs podría pedir; dos de sus cofundadores encuestaron a empresas en el área de Toronto y la demanda de expertos en IA terminó siendo 10 veces mayor que la que produce Canadá cada año. Vector es, en cierto sentido, la zona cero para el intento ahora mundial de movilizarse en torno al aprendizaje profundo: sacar provecho de la técnica, enseñarla, refinarla y aplicarla. Se están construyendo centros de datos, las torres se están llenando de nuevas empresas, toda una generación de estudiantes se está dedicando al campo.

La impresión que tienes de pie en el suelo de Vector, desnudo, con ecos y a punto de llenarse, es que estás al principio de algo. Pero lo peculiar del aprendizaje profundo es la antigüedad de sus ideas clave. El innovador artículo de Hinton, con sus colegas David Rumelhart y Ronald Williams, se publicó en 1986. El artículo elaboraba una técnica llamada retropropagación, o backprop para abreviar. Backprop, en palabras de Jon Cohen, psicólogo computacional de Princeton, es en lo que se basa todo el aprendizaje profundo, literalmente todo.

Cuando se reduce, la IA actual es aprendizaje profundo, y el aprendizaje profundo es backprop, lo cual es sorprendente, considerando que backprop tiene más de 30 años. Vale la pena entender cómo sucedió eso, cómo una técnica pudo estar al acecho durante tanto tiempo y luego causar tal explosión, porque una vez que comprenda la historia de backprop, comenzará a comprender el momento actual en AI, y en particular el hecho que tal vez no estemos realmente al comienzo de una revolución. Tal vez estemos al final de uno.

Vindicación

El paseo desde el Vector Institute hasta la oficina de Hinton en Google, donde pasa la mayor parte de su tiempo (ahora es profesor emérito de la Universidad de Toronto), es una especie de anuncio vivo de la ciudad, al menos en verano. Puede entender por qué Hinton, que es originario del Reino Unido, se mudó aquí en la década de 1980 después de trabajar en la Universidad Carnegie Mellon en Pittsburgh.

Cuando sales, incluso en el centro cerca del distrito financiero, sientes como si realmente hubieras entrado en la naturaleza. Es el olor, creo: marga húmeda en el aire. Toronto se construyó sobre barrancos boscosos y se dice que es una ciudad dentro de un parque; a medida que se urbaniza, el gobierno local ha establecido restricciones estrictas para mantener la copa de los árboles. Mientras vuelas, las partes exteriores de la ciudad se ven casi caricaturescamente exuberantes.

Tal vez no estemos realmente al comienzo de una revolución.

Toronto es la cuarta ciudad más grande de América del Norte (después de Ciudad de México, Nueva York y Los Ángeles) y la más diversa: más de la mitad de la población nació fuera de Canadá. Puedes verlo caminando. La multitud en el corredor tecnológico parece menos de San Francisco (jóvenes blancos con sudaderas con capucha) y más internacional. Hay atención médica gratuita y buenas escuelas públicas, la gente es amigable y el orden político es relativamente izquierdista y estable; y estas cosas atraen a gente como Hinton, quien dice que se fue de Estados Unidos por el asunto Irán-Contra. Es una de las primeras cosas de las que hablamos cuando voy a reunirme con él, justo antes del almuerzo.

La mayoría de la gente en CMU pensó que era perfectamente razonable que Estados Unidos invadiera Nicaragua, dice. De alguna manera pensaron que eran los dueños. Me dice que recientemente tuvo un gran avance en un proyecto: conseguir una muy buena ingeniera junior que está trabajando conmigo, una mujer llamada Sara Sabour. Sabour es iraní y se le negó una visa para trabajar en los Estados Unidos. La oficina de Google en Toronto la recogió.

Hinton, que tiene 69 años, tiene el rostro amable, delgado y de aspecto inglés del Gran Gigante Amigable, con una boca delgada, orejas grandes y una nariz orgullosa. Nació en Wimbledon, Inglaterra, y suena, cuando habla, como el narrador de un libro infantil sobre ciencia: curioso, simpático, con muchas ganas de explicar las cosas. Es divertido y un poco showman. Se pone de pie todo el tiempo que hablamos, porque resulta que sentarse es demasiado doloroso. Me senté en junio de 2005 y fue un error, me dice, dejando que la extraña línea aterrice antes de explicar que un disco en la espalda le causa problemas. Significa que no puede volar, y ese mismo día tuvo que llevar un artilugio que parecía una tabla de surf al consultorio del dentista para poder acostarse mientras le examinaban la raíz de un diente roto.

En la década de 1980, Hinton era, como lo es ahora, un experto en redes neuronales, un modelo muy simplificado de la red de neuronas y sinapsis en nuestro cerebro. Sin embargo, en ese momento se había decidido firmemente que las redes neuronales eran un callejón sin salida en la investigación de la IA. Aunque la primera red neuronal, el Perceptron, que comenzó a desarrollarse en la década de 1950, había sido aclamado como un primer paso hacia la inteligencia artificial a nivel humano, un libro de 1969 de Marvin Minsky y Seymour Papert del MIT, llamado perceptrones , demostró matemáticamente que dichas redes solo podían realizar las funciones más básicas. Estas redes tenían solo dos capas de neuronas, una capa de entrada y una capa de salida. Redes con más capas entre las neuronas de entrada y salida podían en teoría resolver una gran variedad de problemas, pero nadie sabía cómo entrenarlas, por lo que en la práctica eran inútiles. Excepto por algunos reticentes como Hinton, perceptrones hizo que la mayoría de la gente renunciara por completo a las redes neuronales.

El gran avance de Hinton, en 1986, fue demostrar que la retropropagación podía entrenar una red neuronal profunda, es decir, una con más de dos o tres capas. Pero tomó otros 26 años antes de que el aumento de la potencia computacional cumpliera con el descubrimiento. Un artículo de 2012 por Hinton y dos de sus estudiantes de Toronto demostraron que las redes neuronales profundas, entrenadas mediante retropropagación, superan a los sistemas de última generación en el reconocimiento de imágenes. El aprendizaje profundo despegó. Para el mundo exterior, la IA pareció despertarse de la noche a la mañana. Para Hinton, fue una recompensa largamente esperada.

Campo de distorsión de la realidad

Una red neuronal generalmente se dibuja como un sándwich club, con capas apiladas una encima de la otra. Las capas contienen neuronas artificiales, que son pequeñas unidades computacionales tontas que se excitan (como se excita una neurona real) y transmiten esa excitación a las otras neuronas a las que están conectadas. La excitación de una neurona se representa con un número, como 0,13 o 32,39, que indica lo excitada que está. Y hay otro número crucial, en cada una de las conexiones entre dos neuronas, que determina cuánta excitación debe pasar de una a otra. Ese número está destinado a modelar la fuerza de las sinapsis entre las neuronas en el cerebro. Cuando el número es más alto, significa que la conexión es más fuerte, por lo que una mayor parte de la emoción de uno fluye hacia el otro.

Un diagrama del trabajo seminal sobre la propagación de errores de Hinton, David Rumelhart y Ronald Williams.

Una de las aplicaciones más exitosas de las redes neuronales profundas es el reconocimiento de imágenes, como en la memorable escena de HBO. Silicon Valley donde el equipo construye un programa que puede decir si hay un perrito caliente en una imagen. Programas como ese realmente existen, y no habrían sido posibles hace una década. Para que funcionen, el primer paso es obtener una imagen. Digamos, por simplicidad, que es una pequeña imagen en blanco y negro de 100 píxeles de ancho y 100 píxeles de alto. Usted alimenta esta imagen a su red neuronal configurando la emoción de cada neurona simulada en la capa de entrada para que sea igual al brillo de cada píxel. Esa es la capa inferior del sándwich club: 10 000 neuronas (100x100) que representan el brillo de cada píxel de la imagen.

Luego conectas esta gran capa de neuronas a otra gran capa de neuronas por encima de ella, digamos unos miles, y estas a su vez a otra capa de otros miles de neuronas, y así sucesivamente durante unas pocas capas. Finalmente, en la capa superior del emparedado, la capa de salida, solo tiene dos neuronas, una que representa un perrito caliente y la otra que no representa un perrito caliente. La idea es enseñar a la red neuronal a excitar solo la primera de esas neuronas si hay un perrito caliente en la imagen, y solo la segunda si no lo hay. La retropropagación, la técnica sobre la que Hinton ha construido su carrera, es el método para hacerlo.

Backprop es notablemente simple, aunque funciona mejor con grandes cantidades de datos. Es por eso que los grandes datos son tan importantes en la IA, por qué Facebook y Google están tan hambrientos de ellos, y por qué el Vector Institute decidió instalarse cerca de cuatro de los hospitales más grandes de Canadá y desarrollar asociaciones de datos con ellos.

En este caso, los datos toman la forma de millones de imágenes, algunas con perritos calientes y otras sin ellos; el truco es que estas fotos están etiquetadas en cuanto a que tienen perritos calientes. Cuando crea su red neuronal por primera vez, las conexiones entre las neuronas pueden tener pesos aleatorios, números aleatorios que indican cuánta emoción transmitir a cada conexión. Es como si las sinapsis del cerebro no se hubieran sintonizado todavía. El objetivo de backprop es cambiar esos pesos para que hagan que la red funcione: de modo que cuando pasas una imagen de un perrito caliente a la capa más baja, la neurona del perrito caliente de la capa superior termina emocionándose.

Suponga que toma su primera imagen de entrenamiento y es una imagen de un piano. Convierte las intensidades de píxeles de la imagen de 100x100 en 10 000 números, uno para cada neurona en la capa inferior de la red. A medida que la emoción se extiende por la red de acuerdo con la fuerza de conexión entre las neuronas en las capas adyacentes, eventualmente terminará en la última capa, la que tiene las dos neuronas que dicen si hay un perrito caliente en la imagen. Dado que la imagen es de un piano, idealmente la neurona de perrito caliente debería tener un cero, mientras que la neurona que no es de perrito caliente debería tener un número alto. Pero digamos que no funciona de esa manera. Digamos que la red está equivocada con esta imagen. Backprop es un procedimiento para reajustar la fuerza de cada conexión en la red para corregir el error para un ejemplo de entrenamiento dado.

La forma en que funciona es que comienzas con las últimas dos neuronas y descubres qué tan equivocadas estaban: ¿cuánta diferencia hay entre lo que deberían haber sido los números de excitación y lo que realmente fueron? Cuando termine, observe cada una de las conexiones que conducen a esas neuronas, las que se encuentran en la siguiente capa inferior, y descubra su contribución al error. Continúe haciendo esto hasta que haya llegado al primer conjunto de conexiones, en la parte inferior de la red. En ese momento, sabe cuánto contribuyó cada conexión individual al error general y, en un paso final, cambia cada uno de los pesos en la dirección que mejor reduce el error general. La técnica se llama retropropagación porque está propagando errores hacia atrás (o hacia abajo) a través de la red, comenzando desde la salida.

Lo increíble es que cuando haces esto con millones o miles de millones de imágenes, la red comienza a ser bastante buena para decir si una imagen tiene un perrito caliente. Y lo que es aún más notable es que las capas individuales de estas redes de reconocimiento de imágenes comienzan a poder ver imágenes de la misma manera que lo hace nuestro propio sistema visual. Es decir, la primera capa podría acabar detectando bordes, en el sentido de que sus neuronas se excitan cuando hay bordes y no se excitan cuando no los hay; la capa por encima de esa podría detectar conjuntos de bordes, como esquinas; la capa por encima de esa podría comenzar a ver formas; y la capa por encima de esa podría comenzar a encontrar cosas como un bollo abierto o un bollo cerrado, en el sentido de tener neuronas que respondan a cualquier caso. La red se organiza, en otras palabras, en capas jerárquicas sin haber sido nunca programada explícitamente de esa manera.

Una inteligencia real no se rompe cuando cambias ligeramente el problema.

Esto es lo que tiene a todos cautivados. No es solo que las redes neuronales sean buenas para clasificar imágenes de perritos calientes o lo que sea: parecen capaces de construir representaciones de ideas. Con el texto se puede ver esto aún más claramente. Puede alimentar el texto de Wikipedia, con muchos miles de millones de palabras, en una red neuronal simple, entrenándola para escupir, para cada palabra, una gran lista de números que corresponden a la emoción de cada neurona en una capa. Si piensa en cada uno de estos números como una coordenada en un espacio complejo, entonces esencialmente lo que está haciendo es encontrar un punto, conocido en este contexto como vector, para cada palabra en algún lugar de ese espacio. Ahora, entrene su red de tal manera que las palabras que aparecen cerca unas de otras en las páginas de Wikipedia terminen con coordenadas similares, y voilà, sucede algo loco: las palabras que tienen significados similares comienzan a aparecer cerca unas de otras en el espacio. Es decir, los locos y los desquiciados tendrán coordenadas cercanas entre sí, al igual que el tres y el siete, y así sucesivamente. Además, la llamada aritmética vectorial permite, por ejemplo, restar el vector de Francia del vector de París, sumar el vector de Italia y terminar en las cercanías de Roma. Funciona sin que nadie le diga explícitamente a la red que Roma es para Italia lo que París es para Francia.

Es asombroso, dice Hinton. es impactante Se puede pensar que las redes neuronales intentan tomar cosas (imágenes, palabras, grabaciones de alguien hablando, datos médicos) y colocarlas en lo que los matemáticos llaman un espacio vectorial de alta dimensión, donde la cercanía o distancia de las cosas refleja alguna característica importante. del mundo real. Hinton cree que esto es lo que hace el propio cerebro. Si quieres saber qué es un pensamiento, dice, te lo puedo expresar en una sarta de palabras. Puedo decir 'John pensó, Ups'. Pero si preguntas, '¿Cuál es el pensamiento? ¿Qué significa para John tener ese pensamiento?’ No es que dentro de su cabeza haya una cita de apertura, y un ‘Ups’, y una cita de cierre, o incluso una versión limpia de eso. Dentro de su cabeza hay un gran patrón de actividad neuronal. Grandes patrones de actividad neuronal, si eres matemático, se pueden capturar en un espacio vectorial, con la actividad de cada neurona correspondiente a un número y cada número a una coordenada de un vector realmente grande. En opinión de Hinton, eso es el pensamiento: una danza de vectores.

Geoffrey Hinton Cortesía de Google

No es casualidad que la principal institución de inteligencia artificial de Toronto haya sido nombrada por este hecho. Hinton fue quien ideó el nombre Vector Institute.

Hay una especie de campo de distorsión de la realidad que crea Hinton, un aire de certeza y entusiasmo, que te da la sensación de que no hay nada que los vectores no puedan hacer. Después de todo, mire lo que ya han podido producir: automóviles que se manejan solos, computadoras que detectan el cáncer, máquinas que traducen instantáneamente el lenguaje hablado. ¡Y mire a este encantador científico británico hablando sobre el descenso de gradiente en espacios de alta dimensión!

Solo cuando sales de la habitación recuerdas: estos sistemas de aprendizaje profundo siguen siendo bastante tontos, a pesar de lo inteligentes que a veces parecen. Una computadora que ve una imagen de una pila de donas apiladas sobre una mesa y la subtitula automáticamente, como una pila de donas apiladas sobre una mesa, parece entender el mundo; pero cuando ese mismo programa ve una imagen de una niña cepillándose los dientes y dice El niño está sosteniendo un bate de béisbol, te das cuenta de cuán débil es realmente esa comprensión, si es que alguna vez estuvo allí.

Las redes neuronales son simplemente reconocedores de patrones borrosos irreflexivos, y por muy útiles que puedan ser los reconocedores de patrones borrosos (de ahí la prisa por integrarlos en casi todo tipo de software), representan, en el mejor de los casos, una marca limitada de inteligencia, una que es fácil de engañar. . Una red neuronal profunda que reconoce imágenes puede bloquearse por completo cuando cambia un solo píxel o agrega ruido visual que es imperceptible para un humano. De hecho, casi tan a menudo como encontramos nuevas formas de aplicar el aprendizaje profundo, encontramos más de sus límites. Los autos autónomos pueden fallar en navegar en condiciones que nunca antes habían visto. Las máquinas tienen problemas para analizar oraciones que exigen una comprensión de sentido común de cómo funciona el mundo.

El aprendizaje profundo imita de alguna manera lo que sucede en el cerebro humano, pero solo de manera superficial, lo que quizás explica por qué su inteligencia a veces puede parecer tan superficial. De hecho, backprop no se descubrió sondeando profundamente en el cerebro, decodificando el pensamiento mismo; surgió de modelos de cómo los animales aprenden por ensayo y error en viejos experimentos de condicionamiento clásico. Y la mayoría de los grandes saltos que surgieron a medida que se desarrollaba no implicaron nuevos conocimientos sobre la neurociencia; eran mejoras técnicas, alcanzadas por años de matemáticas e ingeniería. Lo que sabemos sobre la inteligencia no es nada frente a la inmensidad de lo que todavía no sabemos.

David Duvenaud, profesor asistente en el mismo departamento que Hinton en la Universidad de Toronto, dice que el aprendizaje profundo ha sido algo así como la ingeniería antes de la física. Alguien escribe un artículo y dice: '¡Hice este puente y se mantuvo de pie!' Otro tipo tiene un artículo: 'Hice este puente y se cayó, pero luego agregué pilares y luego se mantuvo en pie'. Entonces los pilares son una cosa nueva caliente. A alguien se le ocurren arcos, y es como, '¡Los arcos son geniales!' Con la física, dice, puedes entender realmente qué va a funcionar y por qué. Solo recientemente, dice, hemos comenzado a pasar a esa fase de comprensión real con inteligencia artificial.

El propio Hinton dice: La mayoría de las conferencias consisten en hacer pequeñas variaciones... en lugar de pensar mucho y decir: '¿Qué es lo que estamos haciendo ahora que es realmente deficiente? ¿Con qué tiene dificultad? Centrémonos en eso.

Puede ser difícil apreciar esto desde el exterior, cuando todo lo que ves es un gran avance promocionado tras otro. Pero la última ola de progreso en IA ha sido menos ciencia que ingeniería, incluso retoques. Y aunque hemos comenzado a tener una mejor idea de qué tipo de cambios mejorarán los sistemas de aprendizaje profundo, todavía no sabemos cómo funcionan esos sistemas, o si alguna vez podrían sumarse a algo tan poderoso como el mente humana.

Vale la pena preguntarse si hemos exprimido casi todo lo que podemos de backprop. Si es así, eso podría significar una meseta para el progreso en inteligencia artificial.

Paciencia

Si quieres ver el próximo gran avance, algo que podría formar la base de máquinas con una inteligencia mucho más flexible, probablemente deberías consultar una investigación que se asemeje a lo que hubieras encontrado si te hubieras encontrado con backprop en los años 80: personas inteligentes. desconectarse de ideas que realmente no funcionan todavía.

Hace unos meses fui al Center for Minds, Brains, and Machines, un esfuerzo multiinstitucional con sede en el MIT, para ver a un amigo mío, Eyal Dechter, defender su disertación en ciencia cognitiva. Justo antes de que comenzara la charla, su esposa Amy, su perro Ruby y su hija Susannah estaban dando vueltas, deseándole lo mejor. En la pantalla había una foto de Ruby y, junto a ella, una de Susannah cuando era bebé. Cuando papá le pidió a Susannah que se señalara a sí misma, golpeó felizmente un puntero retráctil largo contra su propia foto de bebé. Al salir de la habitación, empujó un cochecito de juguete detrás de su mamá y gritó ¡Buena suerte, papá! sobre su hombro. ¡Vámanos! dijo finalmente. ella tiene dos

El hecho de que no funcione es solo una molestia temporal.

Eyal comenzó su charla con una pregunta seductora: ¿Cómo es que Susannah, después de dos años de experiencia, puede aprender a hablar, a jugar, a seguir historias? ¿Qué tiene el cerebro humano que lo hace aprender tan bien? ¿Alguna vez una computadora podrá aprender tan rápido y con tanta fluidez?

Damos sentido a nuevos fenómenos en términos de cosas que ya entendemos. Descomponemos un dominio en partes y aprendemos las partes. Eyal es matemático y programador de computadoras, y piensa en las tareas, como hacer un suflé, como programas de computadora realmente complejos. Pero no es como si aprendieras a hacer un soufflé aprendiendo cada una de las tropecientas microinstrucciones del programa, como girar el codo 30 grados, luego mirar hacia abajo a la encimera, luego extender el dedo índice y luego... Si tuvieras que hacerlo que para cada nueva tarea, el aprendizaje sería demasiado difícil y estarías atascado con lo que ya sabes. En su lugar, proyectamos el programa en términos de pasos de alto nivel, como Batir las claras de huevo, que a su vez se componen de subprogramas, como Romper los huevos y Separar las yemas.

Historia relacionada

Historia relacionada Nadie sabe realmente cómo los algoritmos más avanzados hacen lo que hacen. Eso podría ser un problema.

Las computadoras no hacen esto, y esa es una gran parte de la razón por la que son tontas. Para lograr que un sistema de aprendizaje profundo reconozca un perrito caliente, es posible que deba alimentarlo con 40 millones de imágenes de perritos calientes. Para que Susannah reconozca un perrito caliente, le enseñas un perrito caliente. Y en poco tiempo tendrá una comprensión del lenguaje que va más allá de reconocer que ciertas palabras a menudo aparecen juntas. A diferencia de una computadora, tendrá un modelo en mente sobre cómo funciona el mundo entero. Es un poco increíble para mí que la gente tenga miedo de que las computadoras tomen trabajos, dice Eyal. No es que las computadoras no puedan reemplazar a los abogados porque los abogados hacen cosas realmente complicadas. Es porque los abogados leen y hablan con la gente. No es que estemos cerca. Estamos tan lejos.

Una inteligencia real no se rompe cuando cambias ligeramente los requisitos del problema que está tratando de resolver. Y la parte clave de la tesis de Eyal fue su demostración, en principio, de cómo se puede hacer que una computadora funcione de esa manera: para aplicar con fluidez lo que ya sabe a nuevas tareas, para arrancar rápidamente sin saber casi nada sobre un nuevo dominio. a ser un experto.

Hinton hizo este boceto para su próxima gran idea, organizar redes neuronales con 'cápsulas'.

Esencialmente, es un procedimiento que él llama algoritmo de exploración-compresión. Hace que una computadora funcione como un programador que construye una biblioteca de componentes modulares reutilizables en el camino para construir programas cada vez más complejos. Sin que se le diga nada sobre un nuevo dominio, la computadora trata de estructurar el conocimiento sobre él simplemente jugando, consolidando lo que ha encontrado y jugando un poco más, como lo hace un niño humano.

Su asesor, Joshua Tenenbaum, es uno de los investigadores en IA más citados. El nombre de Tenenbaum apareció en la mitad de las conversaciones que tuve con otros científicos. Algunas de las personas clave en DeepMind, el equipo detrás de AlphaGo, que sorprendió a los científicos informáticos al vencer a un jugador campeón mundial en el complejo juego de Go en 2016, habían trabajado como sus posdoctorados. Está involucrado en una startup que está tratando de dar a los autos autónomos cierta intuición sobre la física básica y las intenciones de otros conductores, para que puedan anticipar mejor lo que sucedería en una situación que nunca antes habían visto, como cuando un camión se voltea frente a ellos o cuando alguien intenta fusionarse muy agresivamente.

La tesis de Eyal aún no se traduce en ese tipo de aplicaciones prácticas, y mucho menos en ningún programa que sea noticia por vencer a un humano. Los problemas en los que está trabajando Eyal son muy, muy difíciles, dijo Tenenbaum. Tomará muchas, muchas generaciones.

Tenenbaum tiene el cabello largo, rizado y blanqueado, y cuando nos sentamos a tomar un café, vestía una camisa abotonada y pantalones negros. Me dijo que busca inspiración en la historia de backprop. Durante décadas, backprop fue matemática genial que realmente no logró nada. A medida que las computadoras se volvieron más rápidas y la ingeniería más sofisticada, de repente lo hizo. Él espera que suceda lo mismo con su propio trabajo y el de sus alumnos, pero podría tomar un par de décadas más.

En cuanto a Hinton, está convencido de que superar las limitaciones de la IA implica construir un puente entre la informática y la biología. Backprop fue, desde este punto de vista, un triunfo de la computación inspirada biológicamente; la idea inicialmente no vino de la ingeniería sino de la psicología. Así que ahora Hinton está tratando de lograr un truco similar.

Las redes neuronales actuales están formadas por grandes capas planas, pero en el neocórtex humano, las neuronas reales están dispuestas no solo horizontalmente en capas, sino también verticalmente en columnas. Hinton cree que sabe para qué sirven las columnas: en la visión, por ejemplo, son cruciales para nuestra capacidad de reconocer objetos incluso cuando cambia nuestro punto de vista. Así que está construyendo una versión artificial, las llama cápsulas, para probar la teoría. Hasta ahora, no ha funcionado; las cápsulas no han mejorado drásticamente el rendimiento de sus redes. Pero esta era la misma situación en la que había estado con backprop durante casi 30 años.

Esto tiene que estar bien, dice sobre la teoría de la cápsula, riéndose de su propia audacia. Y el hecho de que no funcione es solo una molestia temporal.

James Somers es un escritor y programador con sede en la ciudad de Nueva York. Su artículo anterior para Revisión de tecnología del MIT fue Toolkits for the Mind en mayo/junio de 2015, que mostró cómo los lenguajes de programación que utilizan dan forma a las nuevas empresas de Internet.

esconder