El nuevo detector de sonrisas con IA de Google muestra cómo adoptar la raza y el género puede reducir los prejuicios

Categoría: Sin categorizar Al corriente 04 de diciembre

La visión por computadora se está volviendo cada vez más buena para reconocer diferentes expresiones faciales, pero para ciertos grupos que no están adecuadamente representados en los conjuntos de datos de entrenamiento, como las minorías raciales o las mujeres con rasgos andróginos, los algoritmos aún pueden tener un rendimiento inferior.

Un nuevo artículo publicado en arXiv por los investigadores de Google ha mejorado los algoritmos de detección de sonrisas de última generación al incluir y entrenar clasificadores raciales y de género en su modelo. El clasificador racial se entrenó en cuatro subgrupos raciales y dos por género (los investigadores no nombraron los grupos raciales, pero las imágenes parecen consistir en personas asiáticas, negras, hispanas y blancas).

Su método obtuvo una precisión de casi el 91 por ciento en la detección de sonrisas en el conjunto de datos Faces of the World (FotW), un conjunto de 13.000 imágenes de rostros recopilados de la Web que a veces se utiliza como punto de referencia para tales algoritmos. Eso representa una mejora de poco más del 1,5 por ciento con respecto a la marca anterior. Los resultados mostraron una precisión mejorada en general en todos los ámbitos, lo que demuestra que prestar atención a la raza y el género puede generar mejores resultados que intentar construir un algoritmo que sea daltónico.

Muchos investigadores dudan en incluir clasificadores como este bajo el supuesto de que es más fácil ser culpable de parcialidad (o al menos ser acusado de ello) cuando su sistema tiene categorías raciales o de género explícitas. Los resultados del equipo de Google demuestran que el esfuerzo realizado para capacitar a clasificadores raciales o de género puede reducir el problema del sesgo. Los investigadores también utilizaron clasificaciones como Género 1 y Género 2 para evitar introducir sesgos sociales inconscientes siempre que fuera posible.

Sin embargo, incluso con los resultados prometedores y el cuidado que se tomó para estar al tanto del sesgo en todas sus formas, los investigadores incluyeron una sección en su artículo llamada Consideraciones éticas, en la que se esfuerzan por señalar que su trabajo no tiene la intención de motivar la raza y el género. identificación como objetivo final. También señalan que no existe un estándar de oro para desglosar las categorías raciales, y que el género tal vez debería considerarse un espectro en el trabajo futuro, en lugar de un estado binario.