211service.com
Los gigantes tecnológicos se enfrentan a las preocupaciones éticas planteadas por el auge de la IA
Un gran poder conlleva una gran responsabilidad, y la tecnología de inteligencia artificial se está volviendo mucho más poderosa. Las empresas a la vanguardia del desarrollo y la implementación del aprendizaje automático y la IA ahora están comenzando a hablar abiertamente sobre los desafíos éticos que plantean sus creaciones cada vez más inteligentes.
Estamos aquí en un punto de inflexión para la IA, dijo Eric Horvitz, director gerente de Microsoft Research, en Revisión de tecnología del MIT la conferencia EmTech de esta semana. Tenemos un imperativo ético de aprovechar la IA para proteger y preservar a lo largo del tiempo.
Horvitz habló junto con investigadores de IBM y Google sobre cuestiones similares. Una preocupación compartida fue que los avances recientes están llevando a las empresas a colocar el software en posiciones con un control muy directo sobre los humanos, por ejemplo, en el cuidado de la salud.
Francesca Rossi , investigador de IBM, puso el ejemplo de una máquina que brinda asistencia o compañía a personas mayores. Este robot tendrá que seguir las normas culturales que son específicas de la cultura y de la tarea, dijo. [Y] si fuera a desplegarse en los EE. UU. o Japón, ese comportamiento tendría que ser muy diferente.
Tales robots aún pueden estar lejos, pero los desafíos éticos planteados por la IA ya están aquí. A medida que las empresas y los gobiernos confían más en los sistemas de aprendizaje automático para tomar decisiones, los puntos ciegos o los sesgos en la tecnología pueden conducir efectivamente a la discriminación contra ciertos tipos de personas.
Una investigación de ProPublica el año pasado, por ejemplo, encontró que un sistema de puntuación de riesgo utilizado en algunos estados para informar sentencias penales era parcial contra los negros . De manera similar, Horvitz describió cómo un servicio de reconocimiento de emociones desarrollado en Microsoft para uso de las empresas fue inicialmente inexacto para los niños pequeños porque fue entrenado usando una bolsa de fotos que no fue seleccionada adecuadamente.
Maya Gupta, investigadora de Google, pidió a la industria que trabaje más en el desarrollo de procesos para garantizar que los datos utilizados para entrenar algoritmos no estén sesgados. Muchas veces, estos conjuntos de datos se crean de forma algo automatizada, dijo Gupta. Tenemos que pensar más, ¿estamos muestreando lo suficiente de los grupos minoritarios para asegurarnos de que hicimos un trabajo lo suficientemente bueno?
En el último año, surgieron muchos esfuerzos para investigar los desafíos éticos del aprendizaje automático y la IA en la academia y la industria. la Universidad de California, Berkeley; Harvard; y las universidades de Oxford y Cambridge han iniciado programas o institutos para trabajar en ética y seguridad en IA. En 2016, Amazon, Microsoft, Google, IBM y Facebook fundaron conjuntamente una organización sin fines de lucro llamada Asociación en IA para trabajar en el problema (Apple se unió en enero).
Las empresas también están tomando medidas individuales para crear salvaguardas en torno a su tecnología. Gupta destacó la investigación en Google que está probando formas de corregir modelos de aprendizaje automático sesgados o evitar que se sesguen en primer lugar. Horvitz describió la junta de ética interna de Microsoft para IA, denominada AETHER, que considera cosas como nuevos algoritmos de decisión desarrollados para los servicios en la nube de la empresa. Aunque actualmente cuenta con empleados de Microsoft, en el futuro la compañía espera agregar también voces externas. Google ha creado su propia junta de ética de IA.
Quizás, como era de esperar, las empresas que crean tales programas generalmente argumentan que obvian la necesidad de nuevas formas de regulación gubernamental de la inteligencia artificial. Pero en EmTech, Horvitz también alentó la discusión de resultados extremos que podrían llevar a algunas personas a concluir lo contrario.
En febrero convocó un taller donde los expertos expusieron en detalle cómo la IA podría dañar a la sociedad al hacer cosas como alterar el mercado de valores o los resultados de las elecciones. Si es proactivo, puede obtener resultados que sean factibles y establecer mecanismos para interrumpirlos ahora, dijo Horvitz.
Ese tipo de charla pareció desconcertar a algunos de los que compartió el escenario en San Francisco. Gupta de Google alentó a las personas a considerar también cómo quitar algunas decisiones de las manos de los humanos podría hacer que el mundo sea más moral de lo que es ahora.
El aprendizaje automático es controlable, preciso y medible con estadísticas, dijo. Hay tantas posibilidades para una mayor equidad y resultados más éticos.