Nvidia te permite mirar dentro de la caja negra de su IA autónoma

Nvidia tiene desarrollado una IA autónoma que te muestra cómo funciona.

Como explicamos en nuestro último artículo de portada, El oscuro secreto en el corazón de la IA, algunas de las técnicas de aprendizaje automático más poderosas disponibles dan como resultado un software que es casi completamente opaco, incluso para los ingenieros que lo construyen. Los enfoques que brinden algunas pistas sobre cómo funciona una IA serán, por lo tanto, muy importantes para generar confianza en una tecnología que parece destinada a revolucionar todo, desde la medicina hasta la fabricación.

Nvidia proporciona chips que son ideales para el aprendizaje profundo, una técnica de aprendizaje automático especialmente poderosa (ver 10 Tecnologías innovadoras 2013: Aprendizaje profundo).

El software de red neuronal de Nvidia destaca las áreas en las que se está enfocando a medida que toma decisiones de manejo.

El fabricante de chips también ha estado desarrollando sistemas que demuestran cómo un fabricante de automóviles podría aplicar el aprendizaje profundo a la conducción autónoma. Esto incluye un automóvil que está controlado completamente por un algoritmo de aprendizaje profundo. Sorprendentemente, a la computadora del vehículo no se le da ninguna regla a seguir, simplemente compara la entrada de varias cámaras de video con el comportamiento de un conductor humano y descubre por sí misma cómo debe conducir. El único inconveniente es que el sistema es tan complejo que es difícil desentrañar cómo funciona realmente.

Pero Nvidia está trabajando para abrir esta caja negra. Ha desarrollado una forma de resaltar visualmente a qué está prestando atención el sistema. Como se explica en un artículo publicado recientemente papel , la arquitectura de la red neuronal desarrollada por los investigadores de Nvidia está diseñada para que pueda resaltar las áreas de una imagen de video que contribuyen más fuertemente al comportamiento de la red neuronal profunda del automóvil. Sorprendentemente, los resultados muestran que la red se centra en los bordes de las carreteras, las marcas de los carriles y los automóviles estacionados, justo el tipo de cosas a las que un buen conductor humano querría prestar atención.

Lo revolucionario de esto es que nunca le dijimos directamente a la red que se preocupara por estas cosas, escribió Urs Muller, arquitecto jefe de Nvidia para autos sin conductor, en un artículo. entrada en el blog .

No es una explicación completa de cómo razona la red neuronal, pero es un buen comienzo. Como dice Muller: no puedo explicar todo lo que necesito que haga el automóvil, pero puedo mostrarlo, y ahora puede mostrarme lo que aprendió.

Este tipo de enfoque podría volverse cada vez más importante a medida que el aprendizaje profundo se aplica a casi cualquier problema que involucre grandes cantidades de datos, incluidas áreas críticas como la medicina, las finanzas y la inteligencia militar.

Un puñado de investigadores académicos también está explorando el tema. Por ejemplo, jeff clune en la Universidad de Wyoming y Carlos Guestrin en la Universidad de Washington (y Apple) han encontrado formas de resaltar las partes de las imágenes que los sistemas de clasificación detectan. Y tommi jaakola y Regina Barzilay en el MIT están desarrollando formas de proporcionar fragmentos de texto que ayuden a explicar una conclusión extraída de grandes cantidades de datos escritos.

La Agencia de Investigación de Proyectos Avanzados de Defensa (DARPA), que realiza investigaciones a largo plazo para las fuerzas armadas de EE. UU., está financiando varios esfuerzos de investigación similares a través de un programa que llama Inteligencia Artificial Explicable (XAI) .

Sin embargo, más allá de los detalles técnicos, es fascinante considerar cómo se compara esto con la inteligencia humana. Hacemos todo tipo de cosas que no podemos explicar por completo, y las explicaciones que inventamos a menudo son solo aproximaciones o historias sobre lo que está pasando. Dada la opacidad de los métodos de aprendizaje automático cada vez más complejos de la actualidad, es posible que algún día también nos veamos obligados a aceptar tales explicaciones de la IA.

(Fuentes: nvidia , El oscuro secreto en el corazón de la IA , El ejército de EE. UU. quiere que sus máquinas autónomas se expliquen por sí mismas )

esconder