211service.com
Qué hacer cuando un robot es la parte culpable
¿Debe el gobierno regular la inteligencia artificial? Esa fue la pregunta central de la primer taller de la Casa Blanca sobre las implicaciones legales y de gobernanza de la IA, celebrada en Seattle el martes.
Estamos observando problemas relacionados con la inteligencia artificial y el aprendizaje automático que surgen en todo el gobierno, dijo Ed Felten, subdirector de tecnología de la Casa Blanca. No estamos ni cerca del punto de regular ampliamente la IA... pero el desafío es cómo garantizar que la IA siga siendo segura, controlable y predecible a medida que se vuelve más inteligente.
Uno de los objetivos clave del taller, dijo uno de sus organizadores, profesor de derecho de la Universidad de Washington ryan calo , fue para ayudar al público a comprender dónde está la tecnología ahora y hacia dónde se dirige. La idea no es que el gobierno intervenga y regule la IA, sino que use sus muchas otras palancas, como la coordinación entre las agencias y el poder de adquisición, dijo. Los asistentes incluyeron empresarios tecnológicos, académicos y miembros del público.
En un discurso de apertura, Oren Etzioni, director ejecutivo del Instituto Allen de Inteligencia Artificial, señaló que todavía estamos en la Edad Media del aprendizaje automático, con sistemas de IA que generalmente solo funcionan bien en problemas bien estructurados como juegos de mesa y conducción en carretera. Defendió un enfoque colaborativo en el que la IA puede ayudar a los humanos a ser más seguros y eficientes. Los errores hospitalarios son la tercera causa principal de muerte en los EE. UU., dijo. La IA puede ayudar aquí. Cada año, muere gente porque no usamos la IA correctamente en los hospitales.
Oren Etzioni, director ejecutivo del Instituto Allen para la Inteligencia Artificial, a la izquierda, habla con los asistentes al taller de la Casa Blanca sobre inteligencia artificial.
Sin embargo, Etzioni considera que es demasiado pronto para hablar sobre la regulación de la IA: el aprendizaje profundo todavía es un 99 por ciento de trabajo humano e ingenio humano. 'Mi robot lo hizo' no es una excusa. Tenemos que asumir la responsabilidad de lo que hacen nuestros robots, IA y algoritmos.
Un panel sobre sabiduría artificial se centró en cuándo estas interacciones entre humanos e IA salen mal, como en el caso de un algoritmo diseñado para predecir futuros delincuentes que parece tener prejuicios raciales. El problema no se trata de los agentes de IA en sí, se trata de humanos que usan herramientas tecnológicas para oprimir a otros humanos en las finanzas, la justicia penal y la educación, dijo Jack Balkin de la Facultad de Derecho de Yale.
Varios académicos apoyaron la idea de un fiduciario de la información: otorgar a las personas que recopilan big data y usan IA los deberes legales de buena fe y confiabilidad. Por ejemplo, los tecnólogos podrían ser considerados responsables si utilizan datos de mala calidad para entrenar sistemas de inteligencia artificial o fosilizan prejuicios basados en la raza, la edad o el género en los algoritmos que diseñan.
A medida que las instituciones gubernamentales confían cada vez más en los sistemas de IA para la toma de decisiones, esas instituciones necesitarán personal que comprenda las limitaciones y los sesgos inherentes a los datos y la tecnología de IA, señaló kate crawford , científico social de Microsoft Research. Ella sugirió que a los estudiantes se les enseñe ética junto con habilidades de programación.
Bryant Walker Smith, de la Universidad de Carolina del Sur, propuso flexibilidad regulatoria para tecnologías en rápida evolución, como los automóviles sin conductor. Las empresas individuales deberían defender públicamente la seguridad de sus vehículos autónomos, dijo. Deben establecer medidas y luego monitorearlas durante la vida útil de sus sistemas. Necesitamos una diversidad de enfoques para informar el debate público.
Este fue el primero de cuatro talleres planificados para los próximos meses. Dos abordarán la IA para el bien social y los problemas relacionados con la seguridad y el control, mientras que el último profundizará en las implicaciones sociales y económicas de la tecnología. Felten también anunció que la Casa Blanca emitirá en breve una solicitud de información para brindar al público en general la oportunidad de opinar sobre el futuro de la IA.
El elefante en la habitación, por supuesto, fue la elección presidencial de noviembre. en un entrada en el blog A principios de este mes, Felten dio a conocer un nuevo Subcomité del Consejo Nacional de Ciencia y Tecnología sobre Aprendizaje Automático e Inteligencia Artificial, centrado en el uso de IA para mejorar los servicios gubernamentales desde ahora hasta el final de la Administración.