211service.com
¿Las máquinas nos eliminarán?
Las personas que se preocupan de que estemos en camino de inventar máquinas peligrosamente inteligentes están malinterpretando el estado de la informática. 29 de enero de 2016
Yoshua Bengio lidera uno de los grupos de investigación más destacados del mundo que desarrolla una poderosa técnica de inteligencia artificial conocida como aprendizaje profundo. Las sorprendentes capacidades que el aprendizaje profundo ha brindado a las computadoras en los últimos años, desde el reconocimiento de voz a nivel humano y la clasificación de imágenes hasta las habilidades conversacionales básicas, han generado advertencias sobre el progreso que la IA está logrando para igualar, o quizás superar, la inteligencia humana. Figuras destacadas como Stephen Hawking y Elon Musk incluso han advertido que la inteligencia artificial podría representar una amenaza existencial para la humanidad. Musk y otros están invirtiendo millones de dólares en investigar los peligros potenciales de la IA, así como las posibles soluciones. Pero las declaraciones más terribles suenan exageradas para muchas de las personas que realmente están desarrollando la tecnología. Bengio, profesor de informática en la Universidad de Montreal, puso las cosas en perspectiva en una entrevista con Revisión de tecnología del MIT El editor senior de IA y robótica de Will Knight.
¿Deberíamos preocuparnos por la rapidez con la que avanza la inteligencia artificial?
Esta historia fue parte de nuestra edición de marzo de 2016
- Ver el resto del número
- Suscribir
Hay personas que están sobreestimando enormemente el progreso que se ha hecho. Hay muchos, muchos años de pequeños progresos detrás de muchas de estas cosas, incluidas cosas mundanas como más datos y potencia informática. La exageración no se trata de si lo que estamos haciendo es útil o no, lo es. Pero la gente subestima cuánto más se necesita hacer ciencia. Y es difícil separar la exageración de la realidad porque estamos viendo estas grandes cosas y también, a simple vista, parecen mágicas.
¿Existe el riesgo de que los investigadores de IA puedan desatar accidentalmente al demonio, como ha dicho Musk?
No es como si alguien encontrara una receta mágica de repente. Las cosas son mucho más complicadas que la simple historia que a algunas personas les gustaría contar. A los periodistas a veces les gustaría contar la historia de que alguien en su garaje tendrá esta idea increíble, y luego tenemos un gran avance y tenemos IA. Del mismo modo, las empresas quieren contar una pequeña historia agradable de que tenemos esta tecnología revolucionaria que va a cambiar el mundo: la IA casi está aquí y somos la empresa que la entregará. Eso no es en absoluto cómo funciona.
Nos estamos perdiendo algo grande. Hemos estado progresando bastante rápido, pero todavía no está al nivel en el que diríamos que la máquina entiende. Todavía estamos lejos de eso.
¿Qué pasa con la idea, central de estas preocupaciones, de que la IA podría de alguna manera comenzar a mejorar y luego volverse difícil de controlar?
No es así como se construye la IA en estos días. El aprendizaje automático significa que tiene un proceso lento y minucioso de adquirir información a través de millones de ejemplos. Una máquina se mejora a sí misma, sí, pero muy, muy lentamente y de manera muy especializada. Y el tipo de algoritmos con los que jugamos no se parecen en nada a pequeños virus que se autoprograman. Eso no es lo que estamos haciendo.
¿Cuáles son algunos de los grandes problemas no resueltos de la IA?
El aprendizaje no supervisado es muy, muy importante. En este momento, la forma en que estamos enseñando a las máquinas a ser inteligentes es que tenemos que decirle a la computadora qué es una imagen, incluso a nivel de píxel. Para la conducción autónoma, los humanos etiquetan una gran cantidad de imágenes de automóviles para mostrar qué partes son peatones o carreteras. No es en absoluto cómo aprenden los humanos, y no es cómo aprenden los animales. Nos estamos perdiendo algo grande. Esta es una de las cosas principales que estamos haciendo en mi laboratorio, pero no hay aplicaciones a corto plazo; probablemente no será útil para construir un producto mañana.
Otro gran desafío es la comprensión del lenguaje natural. Hemos estado progresando bastante rápido en los últimos años, por lo que es muy alentador. Pero todavía no está al nivel en el que diríamos que la máquina entiende. Eso sería cuando pudiéramos leer un párrafo y luego hacer cualquier pregunta al respecto, y la máquina básicamente respondería de una manera razonable, como lo haría un humano. Todavía estamos lejos de eso.
¿Qué enfoques más allá del aprendizaje profundo se necesitarán para crear una verdadera inteligencia artificial?
Esfuerzos tradicionales, incluidos el razonamiento y la lógica: debemos unir estas cosas con el aprendizaje profundo para avanzar hacia la IA. Soy una de las pocas personas que piensa que las personas que aprenden máquinas, y especialmente las personas que aprenden en profundidad, deberían prestar más atención a la neurociencia. El cerebro funciona, y todavía no sabemos por qué en muchos sentidos. Mejorar esa comprensión tiene un gran potencial para ayudar a la investigación de la IA.
Y creo que la gente de neurociencia ganaría mucho si hiciera un seguimiento de lo que hacemos y tratara de encajar lo que observan en el cerebro con los tipos de conceptos que estamos desarrollando en el aprendizaje automático.
¿Alguna vez pensaste que tendrías que explicarle a la gente que la IA no está a punto de conquistar el mundo? Eso debe ser extraño.
Sin duda es una nueva preocupación. Durante tantos años, la IA ha sido una decepción. Como investigadores, luchamos para que la máquina sea un poco más inteligente, pero siguen siendo tan estúpidos. Solía pensar que no deberíamos llamar al campo inteligencia artificial sino estupidez artificial. Realmente, nuestras máquinas son tontas y solo estamos tratando de hacerlas menos tontas.
Ahora, debido a estos avances que la gente puede ver con las demostraciones, ahora podemos decir, Dios mío, en realidad puede decir cosas en inglés, puede entender el contenido de una imagen. Bueno, ahora conectamos estas cosas con toda la ciencia ficción que hemos visto y es como, ¡Oh, tengo miedo!
Está bien, pero seguramente todavía es importante pensar ahora en las eventuales consecuencias de la IA.
Absolutamente. Deberíamos estar hablando de estas cosas. Lo que más me preocupa, en un futuro previsible, no es que las computadoras se apoderen del mundo. Estoy más preocupado por el mal uso de la IA. Cosas como malos usos militares, manipular a la gente a través de publicidad realmente inteligente; también, el impacto social, como que mucha gente se quede sin trabajo. La sociedad necesita unirse y dar una respuesta colectiva, y no dejar que la ley de la selva resuelva las cosas.