No podemos confiar en los sistemas de inteligencia artificial basados ​​solo en el aprendizaje profundo

Reinicio de la IA por Gary Marcus y Ernest Davis cortesía de Penguin Random House

Gary Marcus no está impresionado por la exageración en torno al aprendizaje profundo. Si bien el profesor de la Universidad de Nueva York cree que la técnica ha desempeñado un papel importante en el avance de la IA, también cree que el énfasis excesivo actual en el campo podría conducir a su desaparición.

Marcus, un neurocientífico de formación que ha pasado su carrera al frente de la investigación de IA, cita preocupaciones tanto técnicas como éticas. Desde una perspectiva técnica, el aprendizaje profundo puede ser bueno para imitar las tareas de percepción del cerebro humano, como el reconocimiento de imágenes o de voz. Pero se queda corto en otras tareas, como entender conversaciones o relaciones causales. Para crear máquinas más capaces y ampliamente inteligentes, a menudo denominadas coloquialmente inteligencia general artificial, el aprendizaje profundo debe combinarse con otros métodos.

Cuando un sistema de IA no comprende realmente sus tareas o el mundo que lo rodea, eso también podría tener consecuencias peligrosas. Incluso los cambios inesperados más pequeños en el entorno de un sistema podrían hacer que salga mal. Ya ha habido innumerables ejemplos de esto: detectores de discursos de odio que son fáciles de engañar, sistemas de solicitud de empleo que perpetúan la discriminación y automóviles autónomos que han chocado, a veces matando al conductor o a un peatón. La búsqueda de la inteligencia general artificial es más que un problema de investigación interesante. Tiene implicaciones muy reales.

En su nuevo libro Reinicio de la IA , Marcus y su colega Ernest Davis abogan por un nuevo camino a seguir. Creen que no estamos ni cerca de lograr tal inteligencia general, pero también confían en que eventualmente podamos llegar allí.

Hablé con Marcus sobre las debilidades del aprendizaje profundo, las lecciones que el campo puede tomar prestadas de la mente humana y por qué es optimista.

Lo siguiente ha sido editado por extensión y claridad.

¿Por qué queremos inteligencia general? Narrow AI ya ha generado mucho valor para nosotros.

Gary Marcus cortesía de Gary Marcus

Lo ha hecho y generará aún más. Pero hay muchos problemas de los que la IA estrecha no parece muy capaz. Cosas como comprensión del lenguaje natural conversacional y asistencia general en el mundo virtual, o cosas como Rosie, el robot que podría ayudarte a ordenar tu casa o prepararte la cena. Esos están fuera del alcance de lo que podemos hacer con la IA limitada. También es una pregunta empírica interesante sobre si la IA estrecha puede llevarnos a automóviles sin conductor seguros. La realidad hasta ahora es que la IA estrecha tiene muchos problemas con los casos atípicos, incluso para conducir, que es un problema bastante restringido.

De manera más general, creo que a todos nos gustaría ver que la IA nos ayude a hacer nuevos descubrimientos en medicina a escala. No está claro que las técnicas actuales nos lleven a donde necesitamos estar, porque la biología es complicada. Realmente necesitas ser capaz de leer la literatura. Los científicos tienen conocimientos causales sobre cómo interactúan las redes y las moléculas; pueden desarrollar teorías sobre órbitas y planetas o lo que sea. Con una IA estrecha, no podemos hacer que las máquinas hagan ese nivel de innovación. Con la IA general, bien podríamos revolucionar la ciencia, la tecnología y la medicina. Así que creo que trabajar hacia la IA general es un proyecto muy valioso.

¿Parece que estás usando IA general para referirte a IA robusta?

La IA general se trata de que la IA pueda pensar sobre la marcha y resolver nuevos problemas por sí misma. Esto es lo opuesto a, digamos, Go, donde el problema no ha cambiado en 2000 años.

La IA general también debería poder trabajar tan cómodamente razonando sobre política como razonando sobre medicina. Es el análogo de lo que tiene la gente; cualquier persona razonablemente brillante puede hacer muchas, muchas cosas diferentes. Usted toma a un pasante de pregrado y, en unos pocos días, lo hace trabajar en prácticamente cualquier cosa, desde un problema legal hasta un problema médico. Es porque tienen una comprensión general del mundo y pueden leer, por lo que pueden contribuir a una amplia gama de cosas.

La relación entre eso y la inteligencia robusta es que si no eres robusto, probablemente no puedas hacer las cosas en general. Entonces, para construir algo que sea lo suficientemente confiable para lidiar con un mundo que cambia constantemente, probablemente necesite al menos acercarse a la inteligencia general.

Pero ya sabes, estamos bastante lejos de eso en este momento. AlphaGo puede jugar muy bien en un tablero de 19x19, pero en realidad tiene que volver a entrenarse para jugar en un tablero rectangular. O toma su sistema de aprendizaje profundo promedio y puede reconocer un elefante siempre que el elefante esté bien iluminado y pueda ver la textura del elefante. Pero si pones la silueta del elefante, es posible que ya no pueda reconocerlo.

Como menciona en su libro, el aprendizaje profundo no puede realmente llegar a la IA general porque le falta una comprensión profunda.

En ciencia cognitiva hablamos de tener modelos cognitivos de las cosas. Así que estoy sentado en una habitación de hotel y entiendo que hay un armario, hay una cama, está el televisor que está montado de una manera inusual. Sé que hay todas estas cosas aquí, y no solo las identifico. También entiendo cómo se relacionan entre sí. Tengo estas ideas sobre cómo funciona el mundo exterior. No son perfectos. Son falibles, pero son bastante buenos. Y hago muchas inferencias a su alrededor para guiar mis acciones diarias.

El extremo opuesto es algo así como el sistema de juego Atari que hizo DeepMind, donde memorizó lo que tenía que hacer mientras veía píxeles en lugares particulares de la pantalla. Si obtiene suficientes datos, puede parecer que tiene comprensión, pero en realidad es una comprensión muy superficial. La prueba es que si cambia las cosas en tres píxeles, se reproduce mucho peor. Se rompe con el cambio. Eso es lo opuesto a la comprensión profunda.

Sugieres volver a la IA clásica para resolver este desafío. ¿Cuáles son los puntos fuertes de la IA clásica que deberíamos intentar incorporar?

Estoy algo asombrado por el poco aprecio que tiene la comunidad de aprendizaje profundo en general por eso.

Hay algunos. Primero, la IA clásica en realidad es un marco para construir modelos cognitivos del mundo sobre los que luego puede hacer inferencias. La segunda cosa es que la IA clásica se siente perfectamente cómoda con las reglas. Es una sociología extraña en este momento en el aprendizaje profundo donde las personas quieren evitar las reglas. Quieren hacer todo con redes neuronales y no hacer nada con nada que se parezca a la programación clásica. Pero hay problemas que se resuelven rutinariamente de esta forma a los que nadie presta atención, como hacer tu ruta en Google Maps.

En realidad, necesitamos ambos enfoques. El material de aprendizaje automático es bastante bueno para aprender de los datos, pero es muy pobre para representar el tipo de abstracción que representan los programas de computadora. La IA clásica es bastante buena en la abstracción, pero todo tiene que codificarse a mano, y hay demasiado conocimiento en el mundo para ingresar todo manualmente. Entonces parece evidente que lo que queremos es algún tipo de síntesis que combine estos enfoques.

Esto se relaciona con el capítulo donde menciona varias cosas que podemos aprender de la mente humana. El primero se basa en lo que ya hemos estado hablando: la idea de que nuestras mentes están formadas por muchos sistemas dispares que funcionan de diferentes maneras.

Creo que hay otra forma de aclarar el punto, que es: cada sistema cognitivo que tenemos realmente está haciendo algo diferente. De manera similar, las contrapartes en IA deben diseñarse para abordar diferentes problemas que tienen diferentes características.

En este momento, las personas están tratando de usar tecnologías únicas para abordar cosas que son fundamentalmente diferentes. Comprender una oración es fundamentalmente diferente de reconocer un objeto. Pero la gente está tratando de usar el aprendizaje profundo para hacer ambas cosas. Estos son problemas cualitativamente diferentes desde una perspectiva cognitiva, y estoy algo asombrado por el poco aprecio que la comunidad de aprendizaje profundo en general tiene por eso. ¿Por qué esperar que una bala de plata funcione para todo eso? No es realista y no revela una comprensión sofisticada de cuál es el desafío de la IA.

Otra cosa que mencionas es la necesidad de que los sistemas de IA entiendan las relaciones causales. ¿Crees que eso provendrá del aprendizaje profundo, la IA clásica o algo completamente nuevo?

Nuevamente, es un lugar donde el aprendizaje profundo no es particularmente adecuado. El aprendizaje profundo no brinda explicaciones de por qué suceden las cosas, sino una probabilidad de lo que podría suceder en una circunstancia determinada.

La naturaleza construye el primer borrador, el borrador. Luego, el aprendizaje revisa ese borrador durante el resto de su vida.

El tipo de cosas de las que estamos hablando: observa algunos escenarios y tiene cierta comprensión de por qué sucede y qué podría suceder si se cambiaran ciertas cosas. Puedo mirar el caballete en el que está el televisor del hotel y adivinar que si corto una de las patas, el caballete se volcará y el televisor se caerá con él. Eso es razonamiento causal.

La IA clásica nos brinda algunas herramientas para esto. Puede representar, por ejemplo, qué es una relación de apoyo y qué se está derrumbando. Sin embargo, no quiero exagerar. Un problema es que la IA clásica depende principalmente de información muy completa sobre lo que está sucediendo, mientras que solo hice esa inferencia sin poder ver todo el caballete. Así que de alguna manera soy capaz de hacer atajos, infiriendo partes del caballete que ni siquiera puedo ver. Realmente no tenemos herramientas que puedan hacer eso todavía.

Una tercera cosa que mencionas es la idea de que los humanos tienen un conocimiento innato. ¿Cómo ve que se incorpore a los sistemas de IA?

Para los humanos, cuando naces, tu cerebro está estructurado de manera muy elaborada. No es fijo, pero la naturaleza construye el primer borrador, el borrador. Luego, el aprendizaje revisa ese borrador durante el resto de su vida.

Un borrador del cerebro ya tiene ciertas capacidades. Una cría de cabra montés de tan solo unas horas de vida puede trepar por el plano de una montaña sin cometer errores. Claramente tiene alguna comprensión del espacio tridimensional, su propio cuerpo y la interrelación entre los dos. Cosas bastante sofisticadas.

Esto es parte de por qué creo que necesitamos híbridos. Es difícil ver cómo podríamos construir un robot que funcione bien en el mundo sin un conocimiento análogo allí desde el principio, en lugar de comenzar con una pizarra en blanco y aprender a través de una experiencia enorme y masiva.

Para los humanos, nuestro conocimiento innato proviene de nuestros genomas que han evolucionado con el tiempo. Para los sistemas de IA, tienen que venir de una manera diferente. Algo de eso puede provenir de reglas sobre cómo construimos nuestros algoritmos. Parte de esto puede provenir de reglas sobre cómo construimos las estructuras de datos que manipulan esos algoritmos. Y luego, parte de eso podría provenir del conocimiento de que simplemente enseñamos directamente a las máquinas.

Es interesante que vincule todo en su libro con la idea de la confianza y la construcción de sistemas confiables. ¿Por qué elegiste ese marco en particular?

Porque creo que es todo el juego de pelota en este momento. Creo que estamos viviendo un momento extraño en la historia en el que confiamos mucho en un software que no merece esa confianza. Creo que las preocupaciones que tenemos ahora no son permanentes. Dentro de cien años, la IA garantizará nuestra confianza, y tal vez antes.

Pero en este momento, la IA es peligrosa, y no de la manera que preocupa a Elon Musk. Pero en el camino de los sistemas de entrevistas de trabajo que discriminan a las mujeres sin importar lo que hagan los programadores porque las técnicas que utilizan son demasiado poco sofisticadas.

Quiero que tengamos una mejor IA. No quiero que tengamos un invierno de IA en el que la gente se dé cuenta de que esto no funciona y es peligroso, y no hagan nada al respecto.

En cierto modo, su libro en realidad se siente muy optimista, porque está sugiriendo que es posible construir una IA confiable. Sólo tenemos que mirar en una dirección diferente.

Correcto, el libro es pesimista a muy corto plazo y optimista a muy largo plazo. Creemos que todos los problemas que describimos en el libro se pueden resolver si el campo adopta una visión más amplia sobre cuáles son las respuestas correctas. Y pensamos que si eso sucede, el mundo será un lugar mejor.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder