Todo el software de contratación automatizado es propenso al sesgo por defecto

Categoría: Política tecnológica Al corriente 13 de diciembre

A nuevo reporte de Upturn, una organización sin fines de lucro, analizó algunos de los algoritmos de contratación más destacados del mercado y descubrió que, de forma predeterminada, dichos algoritmos son propensos al sesgo.

Los pasos de contratación: Se han creado algoritmos para automatizar cuatro etapas principales del proceso de contratación: abastecimiento, selección, entrevista y selección. El análisis encontró que, si bien las herramientas predictivas rara vez se implementaron para tomar la decisión final sobre a quién contratar, se usaron comúnmente a lo largo de estas etapas para rechazar a las personas.

Cuando el sesgo se cuela: Si se utilizan datos de contrataciones anteriores, la información de capacitación puede estar sesgada o no ser representativa, lo que traslada estos sesgos al software. La simple eliminación de datos sobre el género y la raza no mantendrá el sesgo fuera del software. Otros datos, como la distancia desde la oficina, pueden correlacionarse fuertemente con factores más sensibles. Amazon vio esto en un algoritmo de contratación que intentó desarrollar. Los gerentes de contratación también pueden ser propensos a dar demasiada credibilidad a las recomendaciones hechas por los algoritmos de contratación.

Regulación de la IA: El estudio también encontró que las leyes actuales no están equipadas para lidiar con el problema. Las leyes diseñadas para regular las decisiones de contratación humana no permiten fácilmente la investigación y el cumplimiento cuando se trata de discriminación basada en máquinas.

Los positivos: Por otro lado, las herramientas predictivas pueden ayudar a descubrir prejuicios humanos y suposiciones pasadas que antes se habían pasado por alto. Esto permitiría a las empresas realizar cambios positivos en sus prácticas. Varios proveedores están tomando medidas no solo para auditar sus productos en busca de sesgo, sino también para incorporar características que promuevan la equidad en sus productos, dice una de las autoras del informe, Miranda Bogen. Esperamos que más proveedores adopten este tipo de intervenciones, pero aún queda un largo camino por recorrer antes de que podamos estar seguros de que las herramientas predictivas no están causando más daño que beneficio.

Arreglando el problema: Para que el uso de la contratación de IA sea más justo, el informe recomienda:

—permitiendo la auditoría independiente del software del empleador y del proveedor
—hacer que los gobiernos actualicen sus regulaciones para cubrir el software de contratación predictiva
—examinar las plataformas de publicidad y empleo con más detalle para analizar su creciente influencia en la contratación

Debido a que hay tantos puntos diferentes en ese proceso donde pueden surgir sesgos, los empleadores definitivamente deben proceder con precaución, dice Bogen. Deben ser transparentes sobre las herramientas predictivas que están utilizando y tomar las medidas que puedan para detectar y abordar de manera proactiva los sesgos que surjan, y si no pueden hacerlo con confianza, deben desconectarse.

Este artículo se publicó originalmente en nuestro boletín sobre el futuro del trabajo, Clocking In. Puede registrarse aquí .