211service.com
Una empresa de contratación de IA dice que puede predecir el cambio de trabajo en función de sus entrevistas
Una captura de pantalla de PredictiveHire.
Desde el inicio de la pandemia, un número creciente de empresas han recurrido a AI para ayudar con su contratación. Los sistemas más comunes implican el uso de algoritmos de escaneo facial, juegos, preguntas u otras evaluaciones para ayudar a determinar qué candidatos entrevistar.
Si bien activistas y académicos advierten que estas herramientas de detección pueden perpetuar la discriminación, los mismos fabricantes argumentan que la contratación algorítmica ayuda a corregir humano sesgos Los algoritmos se pueden probar y modificar, mientras que los sesgos humanos son mucho más difíciles de corregir, o eso es lo que se piensa. en un Documento de diciembre de 2019 , los investigadores de Cornell revisaron el panorama de las empresas de detección algorítmica para analizar sus afirmaciones y prácticas. De los 18 que identificaron con sitios web en inglés, la mayoría se promocionaron como una alternativa más justa a la contratación basada en humanos, lo que sugiere que se estaban aferrando a la mayor preocupación sobre estos temas para promocionar los beneficios de sus herramientas y obtener más clientes.
Pero la discriminación no es la única preocupación con la contratación algorítmica, y a algunos académicos les preocupa que el lenguaje de marketing que se enfoca en el sesgo permita a las empresas librarse de otros temas, como los derechos de los trabajadores. un nuevo preimpresión de una de estas firmas ahora sirve como un recordatorio importante: no debemos dejar que la atención que la gente ha comenzado a prestar a los problemas de prejuicio y discriminación en realidad desplace el hecho de que hay muchos otros problemas, dice Solon Barocas, profesor asistente en la Universidad de Cornell e investigador principal en Microsoft Research, que estudia la equidad algorítmica y la responsabilidad.
La empresa en cuestión es PredictiveHire, con sede en Australia, fundada en octubre de 2013. Ofrece un chatbot que hace a los candidatos una serie de preguntas abiertas. Luego analiza sus respuestas para evaluar los rasgos de personalidad relacionados con el trabajo, como el impulso, la iniciativa y la resiliencia. Según la directora ejecutiva de la empresa, Barbara Hyman, sus clientes son empleadores que deben administrar una gran cantidad de aplicaciones, como las de venta minorista, ventas, centros de llamadas y atención médica. Como descubrió el estudio de Cornell, también utiliza activamente promesas de contratación más justa en su lenguaje de marketing. En su página de inicio, anuncia audazmente: Conoce a Phai. Tu copiloto en la contratación. Hacer entrevistas SUPER RÁPIDO. INCLUSIVO, POR FIN. POR FIN, SIN SESGO.
Como hemos escrito antes, la idea de algoritmos libres de sesgo es altamente engañoso . Pero PredictiveHire últimas investigaciones es preocupante por una razón diferente. Se centra en la construcción de un nuevo modelo de aprendizaje automático que busca predecir la probabilidad de un candidato de cambiar de trabajo, la práctica de cambiar de trabajo con más frecuencia de lo que desea un empleador. El trabajo sigue la reciente investigación revisada por pares de la compañía que analizó cómo las preguntas abiertas de la entrevista correlacionar con la personalidad (en sí mismo un práctica muy disputada ). Debido a que los psicólogos organizacionales ya han demostrado un vínculo entre la personalidad y el cambio de trabajo, dice Hyman, la compañía quería probar si podían usar sus datos existentes para la predicción. La retención de empleados es un gran enfoque para muchas empresas con las que trabajamos debido a los costos de la alta rotación de empleados, que se estima en un 16 % del costo del salario de cada empleado, agrega.
El estudio utilizó las respuestas de texto libre de 45 899 candidatos que habían usado el chatbot de PredictiveHire. A los solicitantes se les había hecho originalmente de cinco a siete preguntas abiertas y preguntas de autoevaluación sobre su experiencia pasada y juicio situacional. Estas incluían preguntas destinadas a descubrir rasgos que los estudios han demostrado previamente que se correlacionan fuertemente con las tendencias de salto de trabajo, como estar más abierto a la experiencia, menos práctico y menos realista. Los investigadores de la compañía afirman que el modelo pudo predecir el cambio de trabajo con significancia estadística. El sitio web de PredictiveHire ya anuncia este trabajo como una evaluación de riesgo de vuelo que es próximamente .
El nuevo trabajo de PredictiveHire es un excelente ejemplo de lo que, según Nathan Newman, es uno de los mayores impactos adversos de los grandes datos en el trabajo. Newman, profesor asociado adjunto en el John Jay College of Criminal Justice, escribió en un documento de ley de 2017 que más allá de las preocupaciones sobre la discriminación laboral, el análisis de big data también se había utilizado de innumerables formas para reducir los salarios de los trabajadores.
Las pruebas de personalidad basadas en el aprendizaje automático, por ejemplo, se utilizan cada vez más en la contratación para descartar a los empleados potenciales que tienen una mayor probabilidad de luchar por aumentos salariales o apoyar la sindicalización. Los empleadores están monitoreando cada vez más los correos electrónicos, chats y otros datos de los empleados para evaluar cuáles podrían irse y calcular el aumento de salario mínimo necesario para que se queden. Y los sistemas de gestión algorítmica como el de Uber están descentralizando a los trabajadores de las oficinas y los espacios de reunión digital que les permiten coordinarse entre sí y exigir colectivamente un mejor trato y salario.
Ninguno de estos ejemplos debería sorprender, argumentó Newman. Son simplemente una manifestación moderna de lo que históricamente han hecho los empleadores para suprimir los salarios al atacar y desbaratar las actividades sindicales. El uso de evaluaciones de personalidad en la contratación, que se remonta a la década de 1930 en los EE. UU., de hecho comenzó como un mecanismo para descartar a las personas con más probabilidades de convertirse en organizadores laborales. Las pruebas se hicieron particularmente populares en las décadas de 1960 y 1970, una vez que los psicólogos organizacionales las refinaron para evaluar las simpatías sindicales de los trabajadores.
En este contexto, la evaluación del riesgo de lucha de PredictiveHire es solo otro ejemplo de esta tendencia. Job hopping, o la amenaza de job hopping, señala Barocas, es una de las principales formas en que los trabajadores pueden aumentar sus ingresos. La compañía incluso construyó su evaluación sobre exámenes de personalidad diseñados por psicólogos organizacionales.
Barocas no aboga necesariamente por tirar las herramientas por completo. Él cree que el objetivo de hacer que la contratación funcione mejor para todos es noble y podría lograrse si los reguladores ordenan mayor transparencia . Actualmente, ninguno de ellos ha recibido una evaluación rigurosa revisada por pares, dice. Pero si las empresas fueran más comunicativas sobre sus prácticas y presentaran sus herramientas para dicha validación, podría ayudarlas a rendir cuentas. También podría ayudar a los académicos a involucrarse más fácilmente con las empresas para estudiar los impactos de las herramientas tanto en el trabajo como en la discriminación.
A pesar de todo mi propio trabajo durante los últimos dos años expresando preocupaciones sobre este tema, dice, en realidad creo que muchas de estas herramientas podrían mejorar significativamente el estado actual de las cosas.