Los defensores de los derechos de las personas con discapacidad están preocupados por la discriminación en las herramientas de contratación de IA

Sra. Tecnología | Getty

Su capacidad para conseguir su próximo trabajo podría depender de qué tan bien juegue uno de los juegos impulsados ​​​​por IA que les gustan a las empresas. AstraZeneca y Postmates utilizan cada vez más en el proceso de contratación.

Algunas empresas que crean estos juegos, como Pymetrics y Arctic Shores, afirman que limitan el sesgo en la contratación. Pero los juegos de contratación de IA pueden ser especialmente difíciles de navegar para los solicitantes de empleo con discapacidades.

En el último episodio del podcast In Machines We Trust de MIT Technology Review, exploramos cómo los juegos de contratación impulsados ​​por IA y otras herramientas pueden excluir a las personas con discapacidades. Y aunque muchas personas en los EE. UU. buscan que la comisión federal responsable de la discriminación laboral regule estas tecnologías, la agencia aún tiene que actuar.

Para ver más de cerca, le preguntamos Henry Claypool , analista de políticas de discapacidad, para interpretar a uno de Pimetría juegos de Pymetrics mide nueve habilidades, que incluyen atención, generosidad y tolerancia al riesgo, que el CEO y cofundador Frida Polli dice relacionarse con el éxito en el trabajo.

Cuando trabaja con una empresa que busca contratar gente nueva, Pymetrics primero le pide a la empresa que identifique a las personas que ya están teniendo éxito en el trabajo que está tratando de llenar y les pide que jueguen sus juegos. Luego, para identificar las habilidades más específicas de los empleados exitosos, compara los datos de su juego con los datos de una muestra aleatoria de jugadores.

Cuando se inscribió, el juego hizo que Claypool eligiera entre una versión modificada, diseñada para personas con daltonismo, TDAH o dislexia, y una versión sin modificar. Esta pregunta plantea un dilema para los solicitantes con discapacidades, dice.

El temor es que si hago clic en uno de estos, revelaré algo que me descalificará para el trabajo, y si no hago clic en, digamos, dislexia o lo que sea que me dificulte leer letras y procesar esa información rápidamente, entonces estaré en desventaja, dice Claypool. Voy a fallar de cualquier manera.

Historia relacionada

Probamos las herramientas de entrevista de IA. Esto es lo que encontramos.

Uno le dio a nuestra candidata una puntuación alta en el dominio del inglés cuando hablaba solo en alemán.

Polli dice que Pymetrics no les dice a los empleadores qué solicitantes solicitaron adaptaciones en el juego durante el proceso de contratación, lo que debería ayudar a evitar que los empleadores discriminen a las personas con ciertas discapacidades. Agregó que, en respuesta a nuestros informes, la compañía aclarará esta información para que los solicitantes sepan que su necesidad de adaptación en el juego es privada y confidencial.

La Ley de Estadounidenses con Discapacidades exige que los empleadores proporcionen adaptaciones razonables a las personas con discapacidades. Y si las evaluaciones de contratación de una empresa excluyen a las personas con discapacidades, entonces debe probar que esas evaluaciones son necesarias para el trabajo.

Para los empleadores, usar juegos como los producidos por costas árticas puede parecer más objetivo. A diferencia de las pruebas psicométricas tradicionales, el algoritmo de Arctic Shores evalúa a los candidatos en función de sus elecciones a lo largo del juego. Sin embargo, los candidatos a menudo no saben qué mide el juego o qué esperar mientras juegan. Para los solicitantes con discapacidades, esto hace que sea difícil saber si deben solicitar una adaptación.

Safe Hammad, CTO y cofundador de Arctic Shores, dice que su equipo se centra en hacer que sus evaluaciones sean accesibles para la mayor cantidad de personas posible. Las personas con daltonismo y discapacidades auditivas pueden usar el software de la empresa sin adaptaciones especiales, dice, pero los empleadores no deberían usar tales solicitudes para descartar candidatos.

Sin embargo, el uso de estas herramientas a veces puede excluir a las personas de maneras que pueden no ser obvias para un empleador potencial. Patti Sanchez es especialista en empleo en la Centro de Capacitación MacDonald en Florida que trabaja con solicitantes de empleo sordos o con dificultades auditivas. Hace unos dos años, uno de sus clientes solicitó un trabajo en Amazonas que requirió una entrevista en video a través de HireVue .

Sánchez, que también es sordo, intentó llamar y solicitar ayuda a la empresa, pero no pudo comunicarse. En cambio, trajo a su cliente y un intérprete de lenguaje de señas al sitio de contratación y persuadió a los representantes allí para que lo entrevistaran en persona. Amazon contrató a su cliente, pero Sánchez dice que problemas como estos son comunes cuando se navega por sistemas automatizados. (Amazon no respondió a una solicitud de comentarios).

Hacer que la tecnología de contratación sea accesible significa garantizar que un candidato pueda usar la tecnología y que las habilidades que mide no excluyan injustamente a los candidatos con discapacidades, dice Alexandra Givens , el director general de la Centro para la Democracia y la Tecnología , una organización centrada en los derechos civiles en la era digital.

Las herramientas de contratación impulsadas por IA a menudo no incluyen a personas con discapacidades cuando generan sus datos de capacitación, dice ella. Estas personas han sido excluidas de la fuerza laboral durante mucho tiempo, por lo que los algoritmos modelados a partir de las contrataciones anteriores de una empresa no reflejarán su potencial.

Incluso si los modelos pudieran dar cuenta de los valores atípicos, la forma en que se presenta una discapacidad varía mucho de una persona a otra. Dos personas con autismo, por ejemplo, podrían tener fortalezas y desafíos muy diferentes.

A medida que automatizamos estos sistemas y los empleadores buscan lo que es más rápido y eficiente, están perdiendo la oportunidad de que las personas demuestren sus calificaciones y su capacidad para hacer el trabajo, dice Givens. Y eso es una gran pérdida.

Un enfoque de no intervención

A los reguladores gubernamentales les resulta difícil monitorear las herramientas de contratación de IA. En diciembre de 2020, 11 senadores escribieron una carta al Comisión de Igualdad de Oportunidades en el Empleo de EE. UU. expresando preocupación por el uso de tecnologías de contratación tras la pandemia del covid-19. La carta preguntaba sobre la autoridad de la agencia para investigar si estas herramientas discriminan, particularmente contra las personas con discapacidades.

La EEOC respondió con una carta en enero que se filtró a MIT Technology Review . En la carta, la comisión indicó que no puede investigar las herramientas de contratación de IA sin un reclamo específico de discriminación. La carta también describió las preocupaciones sobre la vacilación de la industria para compartir datos y dijo que la variación entre el software de diferentes compañías evitaría que la EEOC instituya políticas amplias.

Me sorprendió y me decepcionó cuando vi la respuesta, dice roland behm , abogado y defensor de personas con problemas de salud mental. Todo el tenor de esa carta parecía hacer que la EEOC pareciera más un espectador pasivo que una agencia de ejecución.

La agencia generalmente inicia una investigación una vez que un individuo presenta un reclamo de discriminación. Sin embargo, con la tecnología de contratación de IA, la mayoría de los candidatos no saben por qué fueron rechazados para el trabajo. Creo que una razón por la que no hemos visto más acciones de cumplimiento o litigios privados en esta área se debe al hecho de que los candidatos no saben que una computadora los está calificando o evaluando, dice keith empollón , un comisionado de la EEOC.

Sonderling dice que cree que la inteligencia artificial mejorará el proceso de contratación y espera que la agencia emita una guía para los empleadores sobre la mejor manera de implementarla. Dice que agradece la supervisión del Congreso.

Historia relacionada

Los auditores están probando los algoritmos de contratación en busca de sesgo, pero no hay una solución fácil

Las auditorías de IA pueden pasar por alto ciertos tipos de sesgos y no necesariamente verifican que una herramienta de contratación elija a los mejores candidatos para un trabajo.

Sin embargo, aaron rieke , director gerente de Repunte , una organización sin fines de lucro dedicada a los derechos civiles y la tecnología, expresó su decepción por la respuesta de la EEOC: De hecho, espero que en los próximos años, la EEOC pueda ser un poco más agresiva y creativa al pensar en cómo usar esa autoridad.

paulina kim , profesor de derecho en Universidad de Washington en St. Louis , cuya investigación se centra en las herramientas de contratación algorítmica, dice que la EEOC podría ser más proactiva en la recopilación de investigaciones y la actualización de las pautas para ayudar a los empleadores y las empresas de inteligencia artificial a cumplir con la ley.

Behm agrega que la EEOC podría buscar otras vías de cumplimiento, incluido un cargo del comisionado, que permite a los comisionados iniciar una investigación sobre sospechas de discriminación en lugar de exigir un reclamo individual (Sonderling dice que está considerando hacer tal cargo). También sugiere que la EEOC consulte con grupos de defensa para desarrollar pautas para las empresas de IA con la esperanza de representar mejor a las personas con discapacidades en sus modelos algorítmicos.

Es poco probable que las empresas y los empleadores de IA estén descartando a las personas con discapacidades a propósito, dice Behm. Pero no han dedicado el tiempo y el esfuerzo necesarios para comprender los sistemas que están tomando lo que para muchas personas son decisiones que cambian la vida: ¿Me van a contratar o no? ¿Puedo mantener a mi familia o no?

esconder