211service.com
El ejército de EE. UU. quiere que sus máquinas autónomas se expliquen por sí mismas
Los agentes de inteligencia y los operativos militares pueden llegar a depender en gran medida del aprendizaje automático para analizar grandes cantidades de datos y controlar un arsenal creciente de sistemas autónomos. Pero el ejército de EE. UU. quiere asegurarse de que esto no lleve a confiar ciegamente en ningún algoritmo.
La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), una división del Departamento de Defensa que explora nuevas tecnologías, está financiando varios proyectos que tienen como objetivo hacer que la inteligencia artificial se explique por sí misma. Los enfoques van desde agregar más sistemas de aprendizaje automático orientados a proporcionar una explicación, hasta el desarrollo de nuevos enfoques de aprendizaje automático que incorporan una elucidación por diseño.
Ahora tenemos esta verdadera explosión de IA, dice David Gunning, el gerente del programa DARPA que está financiando un esfuerzo para desarrollar técnicas de IA que incluyan alguna explicación de su razonamiento. La razón de esto es principalmente el aprendizaje automático y, en particular, el aprendizaje profundo.
El aprendizaje profundo y otras técnicas de aprendizaje automático han arrasado en Silicon Valley, mejorando significativamente el reconocimiento de voz y la clasificación de imágenes, y se utilizan cada vez en más contextos, incluidas áreas como la aplicación de la ley y la medicina, donde las consecuencias de un error pueden se Serio. Pero si bien el aprendizaje profundo es increíblemente bueno para encontrar patrones en los datos, puede ser imposible comprender cómo llega a una conclusión. El proceso de aprendizaje es matemáticamente muy complejo y, a menudo, no hay forma de traducir esto en algo que una persona pueda entender.
Y si bien el aprendizaje profundo es particularmente difícil de interpretar, otras técnicas de aprendizaje automático también pueden ser un desafío. Estos modelos son muy opacos y difíciles de interpretar para las personas, especialmente si no son expertos en IA, dice Gunning.
El aprendizaje profundo es especialmente críptico debido a su increíble complejidad. Se inspira más o menos en el proceso por el cual las neuronas del cerebro aprenden en respuesta a una entrada. Muchas capas de neuronas y sinapsis simuladas son datos etiquetados y su comportamiento se ajusta hasta que aprenden a reconocer, por ejemplo, un gato en una fotografía. Pero el modelo aprendido por el sistema está codificado en los pesos de muchos millones de neuronas y, por lo tanto, es muy difícil de examinar. Cuando una red de aprendizaje profundo reconoce a un gato, por ejemplo, no está claro si el sistema puede estar enfocándose en los bigotes, las orejas o incluso la manta del gato en una imagen.
A menudo, puede que no importe mucho si un modelo de aprendizaje automático es opaco, pero esto no es cierto para un oficial de inteligencia que intenta identificar un objetivo potencial. Hay algunas aplicaciones críticas en las que necesita una explicación, dice Gunning.
Gunning agrega que el ejército está desarrollando innumerables sistemas autónomos que, sin duda, dependerán en gran medida de técnicas de aprendizaje automático como el aprendizaje profundo. Los vehículos autónomos, junto con los drones aéreos, se utilizarán cada vez más en los próximos años, dice, y serán cada vez más capaces.
La explicabilidad no solo es importante para justificar decisiones. Puede ayudar a evitar que las cosas salgan mal. Un sistema de clasificación de imágenes que ha aprendido a centrarse únicamente en la textura para la clasificación de gatos puede ser engañado por una alfombra peluda. Por lo tanto, ofrecer una explicación podría ayudar a los investigadores a hacer que sus sistemas sean más sólidos y ayudar a evitar que quienes confían en ellos cometan errores.
DARPA está financiando 13 grupos de investigación diferentes, que buscan una variedad de enfoques para hacer que la IA sea más explicable.
Un equipo seleccionado para la financiación proviene de Charles River Analytics, una empresa que desarrolla herramientas de alta tecnología para varios clientes, incluido el ejército de EE. UU. Este equipo está explorando nuevos sistemas de aprendizaje profundo que incorporan una explicación, como los que resaltan las áreas de una imagen que parecen más relevantes para una clasificación. Los investigadores también están experimentando con interfaces informáticas que hacen que el funcionamiento de los sistemas de aprendizaje automático sea más explícito con datos, visualizaciones e incluso explicaciones en lenguaje natural.
Xia Hu , profesor de la Universidad de Texas A&M que dirige otro de los equipos elegidos para la financiación, dice que el problema también es importante en otras áreas donde se está adoptando el aprendizaje automático, como la medicina, el derecho y la educación. Sin algún tipo de explicación o razonamiento, los expertos del dominio no van a confiar en los resultados, dice Hu. Esa es la razón principal por la que muchos expertos en dominios se niegan a adoptar el aprendizaje automático o el aprendizaje profundo.