211service.com
Cómo erradicar los sesgos ocultos en la IA
Los algoritmos están tomando decisiones que cambian la vida, como negar la libertad condicional u otorgar préstamos. Cynthia Dwork, científica informática de Harvard, está desarrollando formas de asegurarse de que las máquinas funcionen de manera justa. 24 de octubre de 2017
Miguel Porlan
¿Por qué es difícil para los diseñadores de algoritmos o los científicos de datos tener en cuenta el sesgo y la injusticia?
Tome un ambiente de trabajo que es hostil para las mujeres. Supongamos que define el éxito como el hecho de que alguien tenga un trabajo durante dos o tres años y obtenga un ascenso. Luego, su predictor, basado en los datos históricos, predecirá con precisión que no es una buena idea contratar mujeres. Lo interesante aquí es que no estamos hablando de decisiones históricas de contratación. Incluso si las decisiones de contratación fueran totalmente imparciales, la realidad, la verdadera discriminación en el ambiente hostil, persiste. Es más profundo, más estructural, más arraigado y más difícil de superar.
Esta historia fue parte de nuestra edición de noviembre de 2017
- Ver el resto del número
- Suscribir
Creo que el gran uso para el aprendizaje automático y la IA será en conjunto con personas realmente bien informadas que saben historia, sociología y psicología para descubrir quién debe ser tratado de manera similar a quién.
No estoy diciendo que las computadoras nunca podrán hacerlo, pero no lo veo ahora. ¿Cómo sabe cuándo tiene el modelo correcto y cuándo está capturando lo que realmente sucedió en la sociedad? Necesitas tener una comprensión de lo que estás hablando. Existe el famoso dicho Todos los modelos están mal y algunos son útiles.
— como se le dijo a Will Knight