El hombre que ayudó a inventar los asistentes virtuales cree que están condenados sin un nuevo enfoque de IA

Sra. tecnología

Siri, Alexa, Google Home: la tecnología que analiza el lenguaje se está abriendo paso cada vez más en la vida cotidiana.

Boris Katz , científico investigador principal del MIT, no está tan impresionado. Durante los últimos 40 años, Katz ha realizado contribuciones clave a las capacidades lingüísticas de las máquinas. En la década de 1980, desarrolló COMIENZO , un sistema capaz de responder a consultas formuladas de forma natural. Las ideas utilizadas en START ayudaron a Watson de IBM a ganar en ¡Peligro! y sentó las bases para los parlanchines sirvientes artificiales de hoy.

Pero a Katz ahora le preocupa que el campo adolezca de una dependencia de ideas de hace décadas, y que estas ideas no nos proporcionen máquinas con inteligencia real. Me reuní con él para discutir los límites actuales de los asistentes de IA y para escuchar sus pensamientos sobre dónde debe ir la investigación si alguna vez van a ser más inteligentes.

¿Cómo te interesaste en hacer que las computadoras usaran lenguaje?

Conocí las computadoras por primera vez en la década de 1960 como estudiante de pregrado en la Universidad de Moscú. La máquina particular que utilicé fue un mainframe llamado BESM-4. Solo se podía usar el código octal para comunicarse con él. Mi primer proyecto de computadora involucró enseñarle a una computadora a leer, comprender y resolver problemas matemáticos.

Luego desarrollé un programa de computadora para escribir poesía. Todavía recuerdo estar de pie en la sala de máquinas esperando ver el próximo poema generado por la máquina. Me quedé atónito por la belleza de los poemas; parecían ser producidos por una entidad inteligente. Y supe en ese momento que quiero trabajar por el resto de mi vida en la creación de máquinas inteligentes y en encontrar formas de comunicarme con ellas.

¿Qué opinas de Siri, Alexa y otros asistentes personales?

Es gracioso hablar de eso porque, por un lado, estamos muy orgullosos de este increíble progreso: todos en su bolsillo tienen algo que ayudamos a crear aquí hace muchos, muchos años, lo cual es maravilloso.

CON

Pero por otro lado, estos programas son tan increíblemente estúpidos. Así que hay una sensación de estar orgulloso y casi avergonzado. Lanzas algo que la gente siente que es inteligente, pero ni siquiera está cerca.

Ha habido un progreso significativo en la IA gracias al aprendizaje automático. ¿No es eso hacer que las máquinas sean mejores en el lenguaje?

Por un lado, está este progreso espectacular, y luego parte de este progreso está inflado. Si observa los avances del aprendizaje automático, todas las ideas surgieron hace 20 o 25 años. Es solo que finalmente los ingenieros hicieron un gran trabajo al hacer realidad estas ideas. Esta tecnología, por grandiosa que sea, no resolverá el problema de la comprensión real, de la inteligencia real.

Sin embargo, parece que estamos progresando en la IA... (ver 10 tecnologías innovadoras: asistentes personales que hablan sin problemas) ?

En un nivel muy alto, las técnicas modernas (técnicas estadísticas como el aprendizaje automático y el aprendizaje profundo) son muy buenas para encontrar regularidades. Y debido a que los humanos suelen producir las mismas oraciones la mayor parte del tiempo, es muy fácil encontrarlas en el lenguaje.

Mira el texto predictivo. La máquina sabe mejor que tú lo que vas a decir. Podrías llamarlo inteligente, pero es solo contar palabras y números. Como seguimos diciendo lo mismo, es fácil construir sistemas que capturen las regularidades y actúen como si fueran inteligentes. Esta es la naturaleza ficticia de gran parte del progreso actual.

¿Qué pasa con la peligrosa herramienta generadora de lenguaje? anunciado recientemente por OpenAI ?

Estos ejemplos son realmente impresionantes, pero no estoy seguro de lo que nos enseñan. El modelo de lenguaje OpenAI se entrenó en 8 millones de páginas web para predecir la siguiente palabra, dadas todas las palabras anteriores dentro de un texto (que trataba sobre el mismo tema en el que se entrenó el modelo). Esta gran cantidad de entrenamiento ciertamente aseguró la coherencia local (sintáctica e incluso semántica) del texto.

¿Por qué crees que la IA va por el camino equivocado en el lenguaje?

En el procesamiento del lenguaje, como en otros campos, se avanzó mediante el entrenamiento de modelos con enormes cantidades de datos, muchos millones de oraciones. Pero el cerebro humano no sería capaz de aprender un idioma utilizando este paradigma. No dejamos a nuestros bebés con una enciclopedia en la cuna esperando que dominen el idioma.

Cuando vemos algo, lo describimos en lenguaje; cuando escuchamos a alguien hablar sobre algo, imaginamos cómo se ven los objetos y eventos descritos en el mundo. Los seres humanos viven en un entorno físico, lleno de entradas sensoriales visuales, táctiles y lingüísticas, y la naturaleza redundante y complementaria de estas entradas hace posible que los niños humanos le den sentido al mundo y aprendan el lenguaje al mismo tiempo. ¿Quizás al estudiar estas modalidades de forma aislada, hemos hecho el problema más difícil en lugar de fácil?

¿Por qué es importante el sentido común?

Digamos que tu robot te está ayudando a empacar y le dices: Este libro no cabría en la caja roja porque eso es demasiado pequeña. Claramente, usted quiere que su robot entienda que el red caja es demasiado pequeño, para que pueda continuar teniendo una conversación significativa. Sin embargo, si le dices al robot: Este libro no cabría en la caja roja porque eso es demasiado grande, quiere que su robot entienda que el libro es demasiado grande.

Saber a qué entidad en una conversación se refiere un pronombre es una tarea muy común que los humanos hacemos todos los días y, sin embargo, como puede ver en estos y otros ejemplos, a menudo se basa en una comprensión profunda del mundo, que actualmente está fuera del alcance. de nuestras máquinas: comprensión del sentido común y la física intuitiva, comprensión de las creencias e intenciones de los demás, capacidad de visualizar y razonar sobre causa y efecto, y mucho más.

Está tratando de enseñar a las máquinas sobre el lenguaje utilizando mundos físicos simulados. ¿Porqué es eso?

Todavía tengo que ver a un bebé cuyos padres pongan una enciclopedia en la cuna y digan: Ve a aprender. Y esto es lo que hacen nuestras computadoras hoy. No creo que estos sistemas aprendan de la manera que queremos o entiendan el mundo de la manera que queremos.

Lo que sucede con los bebés es que obtienen una experiencia táctil inmediata del mundo. Luego, los bebés comienzan a ver el mundo y a absorber eventos y propiedades de los objetos. Y luego, el bebé eventualmente escucha la entrada lingüística. Y es esta entrada complementaria la que hace que suceda la magia de la comprensión.

¿Cuál es un mejor enfoque?

Una forma de avanzar es obtener una mayor comprensión de la inteligencia humana y luego usar esa comprensión para crear máquinas inteligentes. La investigación de IA debe basarse en ideas de la psicología del desarrollo, la ciencia cognitiva y la neurociencia, y los modelos de IA deben reflejar lo que ya se sabe sobre cómo los humanos aprenden y entienden el mundo.

El progreso real vendrá solo cuando los investigadores salgan de nuestras oficinas y comiencen a hablar con personas en otros campos. Juntos nos acercaremos más a la comprensión de la inteligencia y descubriremos cómo replicarla en máquinas inteligentes que puedan hablar, ver y operar en nuestro mundo físico.

El desafío de crear máquinas verdaderamente inteligentes es muy difícil, pero también es uno de los desafíos más importantes que tenemos.

esconder