211service.com
¿Está manipulada la Gig Economy?
Ilustración de Matthew Hollister
Las aplicaciones y los sitios que se pueden usar para contratar personas para tareas individuales, como hacer la compra o diseñar un nuevo logotipo, han despegado en los últimos años, lo que promete un mercado de empleo más eficiente y justo. Sin embargo, un nuevo estudio de la Universidad Northeastern en Boston sugiere que la discriminación racial y sexual puede ser común en dos plataformas populares de economía de conciertos.
Investigadores liderados por cristo wilson , profesor asistente en Northeastern, y Ancsa Hannák , estudiante de doctorado, examinó TaskRabbit, una plataforma para contratar personas para hacer recados, y Fiverr, un mercado de servicios creativos. En ambos, encontraron evidencia de sesgo racial y de género.
Es solo un ejemplo de cómo el sesgo se cuela en las plataformas y servicios en línea. Y es preocupante porque la economía de los conciertos prometía no solo ser más eficiente y flexible, sino también menos sesgada, ya que los algoritmos hacen el trabajo de conectar a las personas.
En Fiverr, los investigadores encontraron evidencia de que los trabajadores negros y asiáticos recibieron calificaciones más bajas que los blancos. Y en TaskRabbit, las mujeres recibieron menos reseñas que los hombres, y los trabajadores negros recibieron calificaciones más bajas que los blancos. Quizás lo más preocupante es que los investigadores también encontraron evidencia de tal sesgo en el algoritmo de recomendación en TaskRabbit. La investigación se presentará en una conferencia académica en Nueva York esta semana.
Es imposible decir con certeza que la correlación identificada por Wilson y Hannák se debe a prejuicios raciales y de género por parte de los contratantes, en lugar de algún factor de confusión desconocido, pero Wilson dice que el patrón es preocupante. Nos dicen que este es el futuro del trabajo, dice. Si va a implementar un algoritmo que va a ser utilizado por millones de personas, tiene algún tipo de responsabilidad con el público para examinar lo que está implementando, evaluarlo y ver si va a tener alguno de estos. efectos secundarios negativos.
Un portavoz de Fiverr argumenta que la metodología del estudio fue defectuosa porque ignora factores como las fronteras internacionales y las diferencias de idioma. También señala que los usuarios no tienen que proporcionar ninguna información demográfica para utilizar el servicio, lo que facilita evitar la discriminación. TaskRabbit no respondió a una solicitud de comentarios.
Sin embargo, cada vez hay más pruebas de que el sesgo puede afectar a todo tipo de servicios digitales. El mes pasado, investigadores del MIT, Stanford y la Universidad de Washington descubrió que que los conductores de Uber en Boston cancelaron viajes con más frecuencia para clientes con nombres que sonaban afroamericanos, y que los clientes negros de Uber en Seattle enfrentaron tiempos de espera más largos que sus contrapartes blancos. En un estudio publicado el año pasado, investigadores de CMU evidencia encontrada que los anuncios de empleos bien remunerados se mostraban con más frecuencia a los hombres que a las mujeres.
En muchos casos, el sesgo observado solo refleja lo que se encuentra en el mundo real, como el prejuicio consciente y subconsciente que los empleadores pueden tener en las decisiones de contratación. Entonces, para los motores de recomendación o los sistemas de aprendizaje automático, la pregunta es cómo se puede eliminar el sesgo, ya sea de los conjuntos de datos que se alimentan a los algoritmos o de los propios algoritmos.
La gente tiene la idea de que, debido a que es una computadora, es neutral, agrega Wilson. Si tiene datos sesgados, tiene sentido que vaya a entrenar un algoritmo sesgado.
Don Mackenzie , profesor asistente en la Universidad de Washington y uno de los autores del reciente estudio de Uber, enfatiza que el estudio no prueba que haya prejuicios raciales o de género en juego. Pero dice que es importante considerar el sesgo en la economía de los conciertos y los algoritmos subyacentes, y agrega que el problema debería ser manejable si las empresas son cuidadosas.
Esta es un área emergente, y si hay un conjunto de mejores prácticas, no estoy al tanto, dice MacKenzie. Desde mi perspectiva, las empresas, los desarrolladores y los científicos de datos deben estar atentos, escuchar los comentarios y no tener miedo de probar diferentes soluciones. Creo que si todos abordan estos temas de buena fe, de manera constructiva y con la voluntad de probar cosas diferentes, podemos acercarnos a eliminar el sesgo en estos sistemas.