Marvin Minsky sobre el sentido común y las computadoras que emocionan

Los mejores científicos informáticos de todo el mundo se reúnen hoy en Dartmouth College en Hanover, NH, para conmemorar el 50 aniversario de la inteligencia artificial. En 1956, John McCarthy, entonces miembro de la facultad de matemáticas de Dartmouth, inventó el término para la reunión fundamental del campo, el Proyecto de investigación de verano de Dartmouth sobre inteligencia artificial. McCarthy y otros cuatro participantes en el proyecto de 1956, incluido Marvin Minsky del MIT, están participando en la reunión de esta semana, que se centra en la IA próximos 50 años .

Marvin Minsky, profesor emérito de artes y ciencias de los medios en el MIT, fue uno de los participantes originales en el Proyecto de Investigación de Verano de Dartmouth sobre Inteligencia Artificial en 1956. Hoy será el co-inaugural de la conferencia conmemorativa del 50 aniversario en Dartmouth. (Cortesía de Coveney / MIT.)

Los avances matemáticos y filosóficos de Alan Turing, John von Neumann, Herbert Simon, Allen Newell y otros gigantes de la informática hicieron de la década de 1950 una época de gran optimismo sobre la inteligencia de las máquinas. Los investigadores creían que pronto podrían programar computadoras para simular muchas formas de razonamiento humano. Los sistemas expertos incorporarían y manipularían el conocimiento en forma de lógica simbólica. Las redes neuronales artificiales se entrenarían para evolucionar hacia respuestas correctas.

Este optimismo incluso se extendió a la cultura popular, donde HAL, la computadora inteligente (y profundamente perturbada) en la película de Stanley Kubrick de 1968 2001: una odisea espacial , eclipsó a los actores humanos.

Pero a finales de la década de 1960 estaba claro que aproximar incluso el razonamiento humano infantil en una computadora requeriría redes enormemente complejas de ecuaciones lógicas o conexiones neuronales. Entonces los investigadores se retiraron. Comenzaron a resolver problemas, centrándose en replicar hazañas humanas simples como mover bloques de niños (el tema del ahora famoso programa SHRDLU del científico informático de Stanford Terry Winograd, que usaba instrucciones en lenguaje natural para manipular un brazo robótico).

Minsky, quien abrirá la conferencia de Dartmouth con McCarthy, admiró el trabajo de Winograd. Pero durante mucho tiempo ha evitado las demostraciones reduccionistas a favor de explorar los mecanismos reales detrás del pensamiento humano. Trabajando con Seymour Papert en el Laboratorio de IA del MIT, por ejemplo, Minsky comenzó en la década de 1970 a desarrollar la teoría de la Sociedad de la Mente, que postula que capas de agentes decididos pero sin mente trabajan juntos para generar conciencia.

Technology Review interrumpió a Minsky el 11 de julio, cuando estaba probando las galeras para su próximo libro, La máquina de la emoción , que reinterpreta la mente humana como una nube de recursos, o mini-máquinas que se encienden y apagan según la situación y dan lugar a nuestros diversos estados emocionales y mentales.

Revisión de tecnología : ¿Puedes creer que han pasado 50 años desde la primera reunión de IA de Dartmouth? ¿Se siente como si hubieran pasado cinco décadas?

Marvin Minsky : No he experimentado muchos intervalos de 50 años, por lo que es difícil para mí decirlo.

TR: Lo suficientemente justo. Entonces, ¿qué piensa sobre el estado actual de la investigación de la IA en comparación con el estado en 1956?

MM: Lo que me sorprende es la poca gente que ha estado trabajando en teorías de alto nivel sobre cómo funciona el pensamiento. Ha sido una gran decepción. Solo estoy publicando un gran libro nuevo sobre lo que deberíamos estar pensando: ¿Cómo hace un niño de tres o cuatro años el razonamiento de sentido común en el que es tan bueno y que ninguna máquina parece ser capaz de hacerlo? ¿hacer? La principal diferencia es que si tienes problemas para entender algo, normalmente piensas: ¿Qué me pasa? o ¿Qué está perdiendo mi tiempo? o ¿Por qué no funciona esta forma de pensar? ¿Hay alguna otra forma de pensar que podría ser mejor?

Pero los tipos de proyectos de IA que han estado sucediendo durante los últimos 30 o 40 años casi no han tenido ningún pensamiento reflexivo. Todo es reaccionar ante una situación y recopilar estadísticas. Organizamos una conferencia sobre el pensamiento de sentido común hace unos tres años y solo pudimos encontrar una docena de investigadores en todo el mundo que estaban interesados ​​en eso.

TR: ¿Por qué la gente se aleja del problema del sentido común?

MM: Creo que la gente mira a su alrededor para ver qué campo es popular actualmente y luego desperdicia su vida en eso. Si es popular, en mi opinión, tú no quiero trabajar en ello. Ahora, la física es diferente. Allí, la gente dice que esta teoría popular funciona bastante bien, pero no explica esto o aquello, así que debería mirar eso. Pero cuando las personas escriben artículos sobre inteligencia artificial, solo cuentan lo que hizo su programa, y ​​no cómo falló o qué tipo de problemas no pudo resolver. La gente no considera que el problema importante sea el de su sistema. no tiene resuelto. La gente ha conseguido que las redes neuronales reconozcan que si estás buscando un taxi, por ejemplo, debes buscar un objeto amarillo en movimiento. Pero no preguntan por qué estas redes no pueden responder a otros tipos de preguntas.

TR: Pero comprender el sentido común es un problema mucho más difícil, ¿no es así? ¿No podría eso explicar por qué tantos investigadores de IA se dedican a otras áreas?

MM: Eso es cierto. Cuando estaba escribiendo La sociedad de la mente , trabajamos durante un par de años para hacer que una computadora entendiera una historia sencilla para niños: Mary fue invitada a la fiesta de Jack. Se preguntó si le gustaría una cometa. Si hace la pregunta ¿Por qué Mary se preguntó acerca de una cometa? todo el mundo sabe la respuesta: probablemente sea una fiesta de cumpleaños, y si ella va, significa que ha sido invitada, y todos los que están invitados tienen que traer un regalo, y tiene que ser un regalo para un niño, así que tiene que ser algo que les gusta a los niños, y a los niños les gustan ciertos tipos de juguetes como murciélagos, pelotas y cometas. Tienes que saber todo eso para responder la pregunta. Logramos hacer una pequeña base de datos y conseguimos que el programa entendiera algunas preguntas simples. Pero lo probamos en otra historia y no sabíamos qué hacer. Algunos de nosotros llegamos a la conclusión de que tendrías que conocer a un par millón cosas antes de que pudieras hacer que una máquina pensara con sentido común.

TR: A medida que la gente se ha dado cuenta de lo difícil que es lograr que una computadora comprenda incluso situaciones simples de sentido común, ¿diría usted que parte del optimismo sobre las posibilidades de la IA en las décadas de 1950 y 1960 se ha disipado?

MM: No creo que optimismo sea la palabra adecuada. Creo que estábamos haciendo buenas preguntas, pero de alguna manera la mayoría de las personas que trabajaban en lo que llamaban IA comenzaron a buscar una de estas soluciones universales. En física, eso funcionó; estaban las ecuaciones de Newton y luego las de Maxwell y luego la relatividad y la teoría cuántica. La mayoría de la gente de IA está tratando de imitar eso y encontrar una teoría general. Pero los seres humanos tienen 100 centros cerebrales diferentes que funcionan de formas ligeramente diferentes. No debería estar trabajando en una única solución; deberías estar trabajando en una gran cantidad de gadgets.

TR: Gran parte de la financiación para la IA proviene de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), donde existe una demanda bastante clara de resultados prácticos. De hecho, es uno de los patrocinadores de la conferencia de IA de Dartmouth. ¿Cómo ha dado forma DARPA a la dirección de la investigación de la IA?

MM: En los primeros días, DARPA apoyó a las personas en lugar de a las propuestas. Hubo mucho progreso desde que comenzó en 1963; durante unos diez años florecieron las cosas de las que estoy hablando. Y luego, a principios de la década de 1970, hubo una especie de accidente divertido. El senador Mike Mansfield, bastante liberal, decidió que el Departamento de Defensa no debería apoyar la investigación civil. Así que fue responsable de que ARPA se convirtiera en DARPA y se esforzó por no competir con la investigación industrial y civil. Así que se volvió mucho más difícil para ellos apoyar a los investigadores visionarios.

Al mismo tiempo, la comunidad de investigación empresarial estadounidense comenzó a desaparecer a principios de la década de 1970. Bell Labs y RCA y los demás esencialmente desaparecieron de este tipo de actividad. Y sucedió otra cosa: el bicho emprendedor golpeó. En la década de 1980, muchas personas estaban empezando a intentar patentar cosas, iniciar nuevas empresas y fabricar productos, y eso coincidió con la desaparición generalizada de los científicos jóvenes. Las personas que podrían haberse convertido en científicos productivos ahora se dedican a la abogacía y los negocios.

Por tanto, no hay forma de respaldar esta investigación. Si tiene una buena idea, es difícil publicarla porque la gente dice ¿Dónde está su experimento? Pero el problema con el pensamiento de sentido común es que no puede experimentar hasta que tenga una gran base de datos de sentido común. Hay uno llamado Cyc, iniciado por Doug Lenat en 1985. Y tenemos el Mente abierta base de datos, que está disponible públicamente pero aún no está muy bien estructurada. Pero es todo un proyecto de investigación solo para descubrir cómo abrir la base de datos Open Mind.

TR: Mencionaste que una computadora necesita saber un par de millones de cosas para hacer conexiones de sentido común. Pero Lenat y sus colegas han estado trabajando exactamente en eso, y han pasado años introduciendo conocimientos de sentido común en Cyc. ¿Por qué se necesita otra base de datos?

MM: Cuando Lenat fundó Cyc en 1985, era bastante ambicioso y no había otro proyecto de este tipo. Mis colegas y yo dijimos que esperemos y veamos cómo funciona. Y luego no pasó nada durante un tiempo.

Lenat ha hecho cosas muy buenas. El problema es que Cyc es muy difícil de usar y está patentado, por lo que los investigadores no lo utilizan mucho. Y hay muchos problemas con su sistema que no aparecieron antes porque no había competencia.

Lo han hecho coherente, por lo que en realidad no sabe mucho. ¿Debe considerarse una ballena un mamífero o un pez? Las ballenas tienen muchas características similares a las de los peces, por lo que la mayoría de las personas se sorprenden cuando escuchan que es un mamífero. Pero la respuesta real es que deberían ser ambos. Una base de datos de sentido común no debe ser necesariamente coherente desde el punto de vista lógico. Lenat finalmente se dio cuenta de que deberían reestructurar Cyc proporcionando los diferentes contextos en los que puede surgir una pregunta. Pero la base de datos se estructuró originalmente para hacer las cosas muy lógicas y su lenguaje es el cálculo de predicados. Nuestra esperanza es hacer que el sistema Open Mind utilice un lenguaje natural, que por supuesto está lleno de ambigüedades, pero las ambigüedades son buenas y malas.

TR: ¿Cuáles son algunos de los principales argumentos o recomendaciones de investigación de su próximo libro? La máquina de la emoción ?

MM: La idea principal del libro es lo que yo llamo ingenio. A menos que comprenda algo de varias formas diferentes, es probable que se quede atascado. Entonces, lo primero en el libro es que debes tener diferentes formas de describir las cosas. Inventé una palabra para ello: panalogía. Cuando representas algo, debes representarlo de varias formas diferentes, de modo que puedas cambiar de una a otra sin pensar.

Lo segundo es que debes tener varias formas de pensar. El problema con la IA es que cada persona dice que va a crear un sistema basado en inferencias estadísticas o algoritmos genéticos, o lo que sea, y cada sistema es bueno para algunos problemas pero no para la mayoría de los demás. El motivo del título La máquina de la emoción Es que tenemos estas cosas llamadas emociones, y la gente las considera como adiciones misteriosas al pensamiento racional. Mi opinión es que un estado emocional es una forma diferente de pensar.

Cuando estás enojado, abandonas tu planificación a largo plazo y piensas más rápido. Está cambiando el conjunto de recursos que activa. Una máquina va a necesitar cien formas de pensar. Y resulta que tenemos cien nombres para las emociones, pero no para las formas de pensar. Por eso, el libro analiza alrededor de 20 direcciones diferentes que las personas pueden tomar en su pensamiento. Pero necesitan tener un metaconocimiento adicional sobre qué forma de pensar es apropiada en cada situación.

TR: ¿Estás diciendo que las computadoras deberían enojarse?

MM: Si alguien se interpone en su camino y no se apartará de su camino, debe intimidarlo o asustarlo o hacer que tenga miedo. Esa es una manera perfectamente razonable de resolver el problema si tiene prisa y si algo malo sucederá si no puede evitarlo. Propongo que necesitamos unas 20 palabras diferentes para estas formas de pensar. Entonces puedes desechar lo racional.

De Minsky La máquina de la emoción: pensamiento con sentido común, inteligencia artificial y el futuro de la mente humana está programado para ser publicado en tapa dura por Simon & Schuster en noviembre de 2006. Minsky ha publicado un sequía del libro en línea.

esconder