211service.com
Microsoft está creando un oráculo para detectar algoritmos de IA sesgados
proyecto sustantivo | Andrejs Kirma | Em. tecnología
Microsoft está creando una herramienta para identificar automáticamente el sesgo en una variedad de diferentes algoritmos de IA. Es el esfuerzo más audaz hasta el momento para automatizar la detección de injusticias que pueden colarse en el aprendizaje automático, y podría ayudar a las empresas a utilizar la IA sin discriminar inadvertidamente a ciertas personas.
Las grandes empresas de tecnología están compitiendo para vender tecnología de aprendizaje automático lista para usar a la que se puede acceder a través de la nube. A medida que más clientes hagan uso de estos algoritmos para automatizar juicios y decisiones importantes, la cuestión del sesgo será crucial. Y dado que el sesgo puede colarse fácilmente en los modelos de aprendizaje automático, las formas de automatizar la detección de injusticias podrían convertirse en una parte valiosa del conjunto de herramientas de IA.
Cosas como la transparencia, la inteligibilidad y la explicación son tan nuevas en el campo que pocos de nosotros tenemos suficiente experiencia para saber todo lo que debemos buscar y todas las formas en que el sesgo puede estar al acecho en nuestros modelos, dice rico caruna , investigador sénior de Microsoft que trabaja en el panel de detección de sesgos.
El sesgo algorítmico es una preocupación creciente para muchos investigadores y expertos en tecnología (consulte Inspección de algoritmos en busca de sesgo). Dado que los algoritmos se utilizan para automatizar decisiones importantes, existe el riesgo de que el sesgo se automatice, se implemente a escala y sea más difícil de detectar para las víctimas.
Caruna dice que el producto de detección de prejuicios de Microsoft ayudará a los investigadores de IA a detectar más casos de injusticia, aunque no todos. Por supuesto, no podemos esperar la perfección, siempre habrá algún sesgo no detectado o que no se puede eliminar, el objetivo es hacerlo lo mejor que podamos, dice.
Lo más importante que pueden hacer las empresas en este momento es educar a su fuerza laboral para que sean conscientes de las innumerables formas en que puede surgir y manifestarse el sesgo y crear herramientas para que los modelos sean más fáciles de entender y los sesgos más fáciles de detectar, agrega Caruna.
Facebook anunció su propia herramienta para detectar sesgos en su conferencia anual de desarrolladores el 2 de mayo. Su herramienta, llamada Fairness Flow, advierte automáticamente si un algoritmo está emitiendo un juicio injusto sobre alguien en función de su raza, sexo o edad. Facebook dice que necesitaba Fairness Flow porque cada vez más personas en la empresa usan IA para tomar decisiones importantes.
bin yu , profesor de UC Berkeley, dice que las herramientas de Facebook y Microsoft parecen un paso en la dirección correcta, pero pueden no ser suficientes. Ella sugiere que las grandes empresas deberían hacer que expertos externos auditen sus algoritmos para demostrar que no están sesgados. Alguien más tiene que investigar los algoritmos de Facebook; no pueden ser un secreto para todos, dice Yu.