Uno de los padres de la IA está preocupado por su futuro

Foto de Yoshua Bengio Escuela Politécnica | Flickr

Yoshua Bengio es un gran maestro de la inteligencia artificial moderna.

Junto a Geoff Hinton y Yann Le Cun , Bengio es famoso por abanderar una técnica conocida como aprendizaje profundo que en los últimos años ha pasado de ser una curiosidad académica a una de las tecnologías más poderosas del planeta.

El aprendizaje profundo implica alimentar datos a grandes redes neuronales que simulan crudamente el cerebro humano, y ha demostrado ser increíblemente poderoso y efectivo para todo tipo de tareas prácticas, desde el reconocimiento de voz y la clasificación de imágenes hasta el control de automóviles autónomos y la automatización de decisiones comerciales.

Bengio ha resistido el atractivo de cualquier gran empresa tecnológica. Si bien Hinton y LeCun se unieron a Google y Facebook, respectivamente, él sigue siendo profesor de tiempo completo en la Universidad de Montreal. (Sin embargo, cofundó Element AI en 2016, y ha creado un negocio muy exitoso que ayuda a las grandes empresas a explorar las aplicaciones comerciales de la investigación de IA).

Bengio se reunió recientemente con el editor senior de IA de MIT Technology Review, Will Knight, en un evento del MIT.

¿Qué opinas de la idea de que hay una carrera de IA entre diferentes países?

no me gusta No creo que sea la forma correcta de hacerlo.

Podríamos participar colectivamente en una carrera, pero como científico y alguien que quiere pensar en el bien común, creo que es mejor pensar en cómo construir máquinas más inteligentes y asegurarnos de que la IA se use para el bienestar de tantas personas como sea posible.

¿Hay formas de fomentar una mayor colaboración entre países?

Podríamos facilitar que la gente de los países en desarrollo venga aquí. Es un gran problema ahora mismo. En Europa, Estados Unidos o Canadá es muy difícil que un investigador africano obtenga una visa. Es una lotería, y muy a menudo usarán cualquier excusa para negar el acceso. Esto es totalmente injusto. Ya es difícil para ellos investigar con pocos recursos, pero además si no pueden tener acceso a la comunidad, creo que es muy injusto. Como una forma de contrarrestar algo de eso, vamos a tener la conferencia ICLR [una importante conferencia de AI] en 2020 en África.

La inclusión tiene que ser más que una palabra que decimos para verse bien. El potencial de que la IA sea útil en el mundo en desarrollo es aún mayor. Necesitan mejorar la tecnología aún más que nosotros, y tienen necesidades diferentes.

¿Le preocupa que solo unas pocas empresas de IA, en Occidente y quizás en China, dominen el campo de la IA?

Sí, es otra razón por la que necesitamos tener más democracia en la investigación de IA. Es que la investigación de IA por sí sola tenderá a conducir a concentraciones de poder, dinero e investigadores. Los mejores estudiantes quieren ir a las mejores empresas. Tienen mucho más dinero, tienen muchos más datos. Y esto no es saludable. Incluso en una democracia, es peligroso tener demasiado poder concentrado en unas pocas manos.

Ha habido mucha controversia sobre los usos militares de la IA. ¿Dónde estás parado en eso?

Estoy muy firmemente en contra.

¿Incluso los usos no letales de la IA?

Bueno, no quiero evitar eso. Creo que debemos hacer que sea inmoral tener robots asesinos. Necesitamos cambiar la cultura, y eso incluye cambiar las leyes y los tratados. Eso puede recorrer un largo camino.

Por supuesto, nunca lo evitarás por completo, y la gente dice: algún país canalla desarrollará estas cosas. Mi respuesta es que primero, queremos que se sientan culpables por hacerlo, y segundo, no hay nada que nos impida construir tecnología defensiva. Hay una gran diferencia entre las armas defensivas que matarán a los drones y las armas ofensivas que apuntan a los humanos. Ambos pueden usar IA.

¿No deberían los expertos en IA trabajar con los militares para garantizar que esto suceda?

Si tenían los valores morales correctos, bien. Pero no confío completamente en las organizaciones militares, porque tienden a anteponer el deber a la moralidad. Desearía que fuera diferente.

¿Qué es lo que más le entusiasma en términos de nuevas investigaciones sobre IA?

Creo que debemos considerar los desafíos difíciles de la IA y no estar satisfechos con avances incrementales a corto plazo. No digo que quiera olvidar el aprendizaje profundo. Al contrario, quiero construir sobre ello. Pero necesitamos poder extenderlo para hacer cosas como razonar, aprender causalidad y explorar el mundo para aprender y adquirir información.

Si realmente queremos acercarnos a la IA a nivel humano, es otro juego de pelota. Necesitamos inversiones a largo plazo, y creo que la academia es el mejor lugar para llevar esa antorcha.

Usted menciona la causalidad, en otras palabras, captar no solo patrones en los datos sino por qué algo pasa. ¿Por qué es importante y por qué es tan difícil?

Si tiene un buen modelo causal del mundo con el que está tratando, puede generalizar incluso en situaciones desconocidas. Eso es crucial. Los humanos somos capaces de proyectarnos en situaciones muy diferentes a nuestra experiencia cotidiana. Las máquinas no lo son, porque no tienen estos modelos causales.

Podemos hacerlos a mano, pero eso no es suficiente. Necesitamos máquinas que puedan descubrir modelos causales. Hasta cierto punto, nunca va a ser perfecto. No tenemos un modelo causal perfecto de la realidad; por eso cometemos muchos errores. Pero estamos mucho mejor haciendo esto que otros animales.

En este momento, realmente no tenemos buenos algoritmos para esto, pero creo que si suficientes personas trabajan en ello y lo consideran importante, lograremos avances.

esconder