La IA de búsqueda de empleo de LinkedIn estaba sesgada. ¿La solución de la empresa? Más IA.

Sra. Tecnología | Envato

Hace años, LinkedIn descubrió que los algoritmos de recomendación que usa para relacionar a los candidatos con las oportunidades de trabajo estaban produciendo resultados sesgados. Los algoritmos clasificaban a los candidatos en parte en función de la probabilidad de que solicitaran un puesto o respondieran a un reclutador. El sistema terminó refiriendo a más hombres que mujeres para puestos vacantes simplemente porque los hombres suelen ser más agresivos en la búsqueda de nuevas oportunidades.

LinkedIn descubrió el problema y creó otro programa de inteligencia artificial para contrarrestar el sesgo en los resultados del primero. Mientras tanto, algunos de los sitios de búsqueda de empleo más grandes del mundo, incluidos CareerBuilder, ZipRecruiter y Monster, están adoptando enfoques muy diferentes para abordar el sesgo en sus propias plataformas, como informamos en el episodio más reciente del podcast In Machines We Trust de MIT Technology Review. Sin embargo, dado que estas plataformas no revelan exactamente cómo funcionan sus sistemas, es difícil para los solicitantes de empleo saber qué tan efectivas son estas medidas para prevenir la discriminación.

Si tuviera que comenzar a buscar un nuevo trabajo hoy, es muy probable que la inteligencia artificial influya en su búsqueda. AI puede determinar qué publicaciones ve en las plataformas de búsqueda de empleo y decidir si pasa su currículum a los reclutadores de una empresa. Algunas compañías pueden pedirte que juegues Videojuegos impulsados ​​por IA que miden sus rasgos de personalidad y evalúan si sería una buena opción para roles específicos.

Historia relacionada

Los auditores están probando los algoritmos de contratación en busca de sesgo, pero no hay una solución fácil

Las auditorías de IA pueden pasar por alto ciertos tipos de sesgos y no necesariamente verifican que una herramienta de contratación elija a los mejores candidatos para un trabajo.

Cada vez más empresas utilizan la IA para reclutar y contratar nuevos empleados, y la IA puede tener en cuenta casi cualquier etapa del proceso de contratación . Covid-19 impulsó una nueva demanda de estas tecnologías. Ambos cosa curiosa y HireVue , empresas especializadas en entrevistas impulsadas por IA, informaron un aumento en los negocios durante la pandemia.

Sin embargo, la mayoría de las búsquedas de trabajo comienzan con una simple búsqueda. Los buscadores de empleo recurren a plataformas como LinkedIn , Monstruo , o ZipRecruiter , donde pueden cargar sus currículos, buscar ofertas de trabajo y postularse a las vacantes.

El objetivo de estos sitios web es unir candidatos calificados con puestos disponibles. Para organizar todas estas vacantes y candidatos, muchas plataformas emplean algoritmos de recomendación impulsados ​​por IA. Los algoritmos, a veces denominados motores de coincidencia, procesan información tanto del solicitante de empleo como del empleador para seleccionar una lista de recomendaciones para cada uno.

Por lo general, escuchas la anécdota de que un reclutador pasa seis segundos mirando tu currículum, ¿verdad? dice Derek Kan, vicepresidente de gestión de productos de Monster. Cuando observamos el motor de recomendaciones que hemos creado, puede reducir ese tiempo a milisegundos.

La mayoría de los motores coincidentes están optimizados para generar aplicaciones, dice Juan Jersin , exvicepresidente de gestión de productos de LinkedIn. Estos sistemas basan sus recomendaciones en tres categorías de datos: información que el usuario proporciona directamente a la plataforma; datos asignados al usuario en función de otros con habilidades, experiencias e intereses similares; y datos de comportamiento, como la frecuencia con la que un usuario responde a los mensajes o interactúa con las ofertas de trabajo.

En el caso de LinkedIn, estos algoritmos excluyen el nombre, la edad, el género y la raza de una persona, ya que incluir estas características puede contribuir al sesgo en los procesos automatizados. Pero el equipo de Jersin descubrió que, aun así, los algoritmos del servicio aún podían detectar patrones de comportamiento exhibidos por grupos con identidades de género particulares.

Por ejemplo, si bien es más probable que los hombres soliciten trabajos que requieran experiencia laboral más allá de sus calificaciones, las mujeres tienden a buscar solo trabajos en los que sus calificaciones coincidan con los requisitos del puesto. El algoritmo interpreta esta variación en el comportamiento y ajusta sus recomendaciones de una manera que, sin darse cuenta, pone en desventaja a las mujeres.

Es posible que esté recomendando, por ejemplo, más puestos de alto nivel a un grupo de personas que a otro, incluso si están calificados en el mismo nivel, dice Jersin. Es posible que esas personas no estén expuestas a las mismas oportunidades. Y ese es realmente el impacto del que estamos hablando aquí.

Los hombres también incluyen más habilidades en sus currículos con un grado de competencia más bajo que las mujeres y, a menudo, interactúan de manera más agresiva con los reclutadores en la plataforma.

Para abordar estos problemas, Jersin y su equipo en LinkedIn construyó una nueva IA diseñado para producir resultados más representativos y lo implementó en 2018. Era esencialmente un algoritmo separado diseñado para contrarrestar las recomendaciones sesgadas hacia un grupo en particular. La nueva IA garantiza que antes de referir las coincidencias seleccionadas por el motor original, el sistema de recomendación incluye una distribución representativa de usuarios por género.

Kan dice que Monster, que enumera de 5 a 6 millones de trabajos en un momento dado, también incorpora datos de comportamiento en sus recomendaciones, pero no corrige el sesgo de la misma manera que lo hace LinkedIn. En cambio, el equipo de marketing se enfoca en lograr que los usuarios de diversos orígenes se inscriban en el servicio, y luego la compañía confía en que los empleadores informen y le digan a Monster si aprobó o no un conjunto representativo de candidatos.

irina novoselsky , CEO de CareerBuilder, dice que se enfoca en usar los datos que recopila el servicio para enseñar a los empleadores cómo eliminar el sesgo de sus ofertas de trabajo. Por ejemplo, cuando un candidato lee una descripción de trabajo con la palabra 'estrella de rock', hay un porcentaje materialmente más bajo de mujeres que se postulan, dice ella.

sello de ian , CEO y cofundador de ZipRecruiter, dice que los algoritmos de la empresa no tienen en cuenta ciertas características de identificación, como los nombres, al clasificar a los candidatos; en cambio, clasifican a las personas sobre la base de otros 64 tipos de información, incluidos los datos geográficos. Él dice que la compañía no discute los detalles de sus algoritmos, citando preocupaciones de propiedad intelectual, pero agrega: Creo que estamos tan cerca de una evaluación basada en el mérito de las personas como se puede hacer actualmente.

Con la automatización en cada paso del proceso de contratación, los solicitantes de empleo ahora deben aprender a sobresalir tanto para el algoritmo como para los gerentes de contratación. Pero sin información clara sobre lo que hacen estos algoritmos, los candidatos enfrentan desafíos importantes.

Creo que la gente subestima el impacto que tienen los algoritmos y los motores de recomendación en los trabajos, dice Kan. Lo más probable es que la forma en que te presentas sea leída primero por miles de máquinas y servidores, incluso antes de que llegue al ojo humano.

Este artículo se actualizó el 25/06/21 para reflejar que la nueva IA de LinkedIn garantiza una distribución representativa de los usuarios (no una distribución uniforme) a través de los géneros se recomiendan para trabajos.

esconder