Google y otros están construyendo sistemas de IA que dudan de sí mismos

Saiman chow

El enfoque más poderoso en IA, el aprendizaje profundo, está adquiriendo una nueva capacidad: una sensación de incertidumbre.

Los investigadores de Uber y Google están trabajando en modificaciones a los dos marcos de aprendizaje profundo más populares que les permitirán manejar la probabilidad. Esto proporcionará una forma para que los programas de IA más inteligentes midan su confianza en una predicción o una decisión, esencialmente, para saber cuándo deben dudar de sí mismos.

El aprendizaje profundo, que implica alimentar datos de ejemplo a una red neuronal grande y poderosa, ha sido un gran éxito en los últimos años, permitiendo que las máquinas reconozcan objetos en imágenes o transcriban el habla casi a la perfección. Pero requiere muchos datos de entrenamiento y poder de cómputo, y puede ser sorprendentemente frágil.

De manera un tanto contraria a la intuición, esta duda ofrece una solución. El nuevo enfoque podría ser útil en escenarios críticos que involucren automóviles autónomos y otras máquinas autónomas.

Le gustaría un sistema que le dé una medida de qué tan seguro es, dice Dustin Tran, quien está trabajando en este problema en Google. Si un automóvil autónomo no conoce su nivel de incertidumbre, puede cometer un error fatal y eso puede ser catastrófico.

El trabajo refleja la comprensión de que la incertidumbre es un aspecto clave del razonamiento y la inteligencia humana. Agregarlo a los programas de IA podría hacerlos más inteligentes y menos propensos a cometer errores, dice Zoubin Ghahramani , un destacado investigador de IA que es profesor en la Universidad de Cambridge y científico jefe de Uber.

Esto puede resultar de vital importancia ya que los sistemas de IA se utilizan en escenarios cada vez más críticos. Queremos tener un marco sólido como una roca para el aprendizaje profundo, pero facilitar que las personas representen la incertidumbre, me dijo Ghahramani recientemente mientras tomaba un café una mañana durante una importante conferencia de IA en Long Beach, California.

Durante la misma conferencia de IA, un grupo de investigadores se reunió en un bar cercano una tarde para hablar sobre Pyro, un nuevo lenguaje de programación lanzado por Uber que combina el aprendizaje profundo con la programación probabilística.

La reunión en Long Beach fue organizada por Noé Goodman , un profesor de Stanford que también está afiliado al laboratorio de inteligencia artificial de Uber. Con el cabello rizado y despeinado y una camisa desabrochada, podría confundirse fácilmente con un profesor de yoga en lugar de un experto en inteligencia artificial. Entre los asistentes a la reunión estaba Tran, quien también contribuyó al desarrollo de Pyro.

Goodman explica que dar al aprendizaje profundo la capacidad de manejar la probabilidad puede hacerlo más inteligente de varias maneras. Podría, por ejemplo, ayudar a un programa a reconocer cosas, con un grado razonable de certeza, a partir de unos pocos ejemplos en lugar de muchos miles. Ofrecer una medida de certeza en lugar de una respuesta de sí o no también debería ayudar con la ingeniería de sistemas complejos.

Y mientras que un sistema convencional de aprendizaje profundo aprende solo de los datos que recibe, Pyro también se puede usar para construir un sistema preprogramado con conocimiento. Esto podría ser útil en casi cualquier escenario en el que pueda aparecer actualmente el aprendizaje automático.

Historia relacionada

Historia relacionada Alphabet, número 5 en nuestra lista de las 50 empresas más inteligentes, cree que puede arrebatarle el mercado de la computación en la nube a Amazon ayudando a las empresas a utilizar el aprendizaje automático con una herramienta llamada TensorFlow.

En los casos en los que tiene conocimientos previos que desea incorporar al modelo, la programación probabilística es especialmente útil, dice Goodman. La gente usará Pyro para todo tipo de cosas.

Edward es otro lenguaje de programación que acepta la incertidumbre, desarrollado en la Universidad de Columbia con fondos de DARPA. Tanto Pyro como Edward aún se encuentran en las primeras etapas de desarrollo, pero no es difícil ver por qué Uber y Google están interesados.

Uber utiliza el aprendizaje automático en innumerables áreas, desde enrutar a los conductores hasta establecer precios de aumento y, por supuesto, en sus autos sin conductor. La empresa ha invertido mucho en IA y ha contratado a varios expertos que trabajan en nuevas ideas. Google ha reconstruido todo su negocio en torno a la IA y el aprendizaje profundo en los últimos tiempos.

David Blei , profesor de estadística e informática en la Universidad de Columbia y asesor de Tran, dice que combinar el aprendizaje profundo y la programación probabilística es una idea prometedora que necesita más trabajo. En principio, es muy poderoso, dice. Pero hay muchos, muchos desafíos técnicos.

Aún así, como señala Goodman, Pyro y Edward también son importantes por reunir dos escuelas competidoras en IA, una centrada en redes neuronales y la otra en probabilidad.

En los últimos años, la escuela de las redes neuronales ha sido tan dominante que otras ideas casi se han dejado atrás. Para avanzar, es posible que el campo deba adoptar estas otras ideas.

La historia interesante aquí es que no tienes que pensar en estos campamentos como separados, dice Goodman. Pueden unirse, de hecho, se están uniendo, en las herramientas que estamos construyendo ahora.

Incluso podría decir que se están volviendo más inteligentes, en parte, al aprender lo que no saben.

esconder