Amazon abandonó el software de reclutamiento de IA porque estaba sesgado contra las mujeres

Categoría: Silicon Valley Al corriente Oct 10

Los datos sobre los que se entrenó el algoritmo de inteligencia artificial crearon una preferencia por los candidatos masculinos.

Las noticias: Según un informe de Reuters , Amazon comenzó a desarrollar un sistema automatizado en 2014 para clasificar a los solicitantes de empleo con una a cinco estrellas. Pero el año pasado, la empresa desechó el proyecto después de ver que había desarrollado una preferencia por candidatos masculinos en puestos técnicos.

¿Por qué? La herramienta de inteligencia artificial se entrenó con 10 años de currículos que la empresa había recibido. Debido a que la tecnología es una industria dominada por hombres, la mayoría de esos currículos provienen de hombres.

El resultado: El sistema fue entrenado involuntariamente para elegir candidatos masculinos sobre candidatas femeninas. Según se informa, penalizaría los currículos que contengan la palabra de mujeres o los nombres de ciertas universidades para mujeres. Aunque Amazon hizo cambios para que estos términos fueran neutrales, la empresa perdió la confianza en que el programa era neutral en cuanto al género en todas las demás áreas.

Por qué importa: No podemos tratar la inteligencia artificial como inherentemente imparcial. Entrenar los sistemas con datos sesgados significa que los algoritmos también se sesgan. Si los programas injustos de contratación de IA como este no se descubren antes de implementarse, perpetuarán los problemas de diversidad de larga data en los negocios en lugar de resolverlos.

¿Quiere mantenerse al tanto de cómo la tecnología está cambiando el lugar de trabajo del futuro? Regístrese para recibir nuestro boletín sobre el futuro del trabajo, Clocking In .