La industria de contratación de IA está bajo escrutinio, pero será difícil de arreglar

Categoría: Política tecnológica Al corriente 07 de noviembre

El Centro de información de privacidad electrónica (EPIC) ha pidió a la Comisión Federal de Comercio que investigara HireVue , una herramienta de inteligencia artificial que ayuda a las empresas a determinar qué trabajadores contratar.

¿Qué es HireVue? HireVue es una de un número creciente de herramientas de inteligencia artificial que las empresas utilizan para evaluar a los solicitantes de empleo. El algoritmo analiza las entrevistas en video, utilizando todo, desde la elección de palabras hasta los movimientos faciales, para calcular un puntaje de empleabilidad que se compara con el de otros solicitantes. Más de 100 empresas ya lo han utilizado en más de un millón de solicitantes, según el Washington Post .

¿Cuál es el problema? Es difícil predecir qué trabajadores tendrán éxito a partir de cosas como las expresiones faciales. Peor aún, a los críticos les preocupa que el algoritmo se entrene con datos limitados y, por lo tanto, es más probable que marque a los solicitantes tradicionales (blancos, hombres) como más aptos para el empleo. Como resultado, es probable que los solicitantes que se desvían de lo tradicional, incluidas las personas que no hablan inglés como idioma nativo o que tienen discapacidades, obtengan puntajes más bajos. los expertos dicen . Además, alienta a los solicitantes a jugar con el sistema entrevistando de una manera que saben que le gustará a HireVue.

¿Que sigue? Las herramientas de contratación de IA no están bien reguladas y abordar el problema será difícil por varias razones.

—La mayoría de las empresas no divulgan sus datos ni explican cómo funcionan los algoritmos, por lo que es muy difícil probar algún sesgo. Esa es parte de la razón por la que no ha habido demandas importantes hasta ahora. La denuncia de EPIC, que sugiere que la promesa de HireVue viola las reglas de la FTC contra las prácticas desleales y engañosas, es un comienzo. Pero no está claro si algo sucederá. La FTC ha recibido la denuncia, pero no ha dicho si la procesará.

—Otros intentos de prevenir el sesgo son bien intencionados pero limitados. A principios de este año, los legisladores de Illinois aprobaron una ley que requiere que los empleadores al menos dile a los buscadores de empleo que usarán estos algoritmos y obtener su consentimiento. Pero eso no es muy útil. Es probable que muchas personas den su consentimiento simplemente porque no quieren perder la oportunidad.

—Finalmente, al igual que la IA en la salud o la IA en los tribunales, la inteligencia artificial en la contratación recreará los sesgos de la sociedad, lo cual es un problema complicado. Los reguladores deberán determinar cuánta responsabilidad se espera que asuman las empresas para evitar los errores de una sociedad prejuiciosa.