211service.com
El problema del hombre blanco de AI no va a desaparecer
Eric Gay/AP
Los números cuentan la historia de la grave falta de diversidad de la industria de la IA. Las mujeres representan solo el 18 % de los autores en las principales conferencias de IA, el 20 % de las cátedras de IA y el 15 % y el 10 % del personal de investigación en Facebook y Google, respectivamente. La diversidad racial es aún peor: los trabajadores negros representan solo el 2,5% de toda la fuerza laboral de Google y el 4% de Facebook y Microsoft. No hay datos disponibles para las personas transgénero y otras minorías de género, pero tampoco es probable que la tendencia se esté revirtiendo.
Esto es profundamente preocupante cuando la influencia de la industria ha crecido dramáticamente para afectar todo, desde la contratación y la vivienda hasta la justicia penal y el ejército. En el camino, la tecnología ha automatizado los sesgos de sus creadores con un efecto alarmante: devaluando los currículos de las mujeres , perpetuar la discriminación en el empleo y la vivienda , y consagrar las prácticas policiales racistas y las condenas a prisión .
Estas consecuencias solo empeorarán sin un enfoque diferente para solucionar el problema, dice un nuevo reporte publicado esta semana por el instituto de investigación AI Now.
El problema de la falta de diversidad en la tecnología [...] ha alcanzado un nuevo y urgente punto de inflexión, dijo Meredith Whittaker, cofundadora del instituto, en una llamada de prensa que acompaña al informe. Millones de personas están sintiendo los efectos de estas herramientas y se ven afectadas por cualquier sesgo de IA que se incorpore a ellas.
El equipo de AI Now identifica dos razones principales por las que han fracasado los esfuerzos para abordar la falta de diversidad. Primero, hay un gran énfasis en aumentar el número de mujeres en tecnología y menos en mejorar la diversidad de raza, género y otras cualidades. En segundo lugar, hay un enfoque desproporcionado en arreglar la tubería: la idea de aumentar la cantidad de candidatos de grupos subrepresentados que fluyen de las escuelas a la industria. Esto tiende a subestimar otras desventajas sistémicas que impiden que las mujeres y las minorías permanezcan en el campo, como el acoso, la compensación injusta y los desequilibrios de poder.
Los investigadores ofrecen varias recomendaciones para mejorar la diversidad en el lugar de trabajo de una manera más integral. Estos incluyen medidas destinadas a cerrar la brecha salarial y de oportunidades, aumentar la diversidad en los niveles de liderazgo en todos los departamentos y cambiar las estructuras de incentivos para que los ejecutivos de la empresa contraten y retengan a los trabajadores de los grupos subrepresentados.
Pero el problema también es más profundo que las prácticas de contratación y compensación, dice Jessie Daniels, investigadora de Data & Society, que estudia la intersección del racismo y la tecnología y no participó en el informe. La industria de la tecnología se basó fundamentalmente en el espíritu de que la tecnología existe independientemente de la sociedad, dice: A principios de los 90, existía la idea de que Internet nos iba a liberar de cosas como la raza, el género y la enfermedad; la idea de que íbamos a ir a este lugar llamado 'ciberespacio' donde ya no tendríamos que pensar en la encarnación o la identidad.
Esa idea ha permanecido en la industria hasta el día de hoy y es la raíz tanto de los repetidos fracasos para aumentar la diversidad de los empleados como de los repetidos escándalos en torno al sesgo de la IA. Las empresas tecnológicas se construyen, y los productos tecnológicos se diseñan, con la creencia fantasiosa de que existen independientemente del sexismo, el racismo y el contexto social que las rodea.
Eso no es un error, dice Daniels. Es una característica.