Un estudio del gobierno de EE. UU. confirma que la mayoría de los sistemas de reconocimiento facial son racistas

Categoría: Inteligencia artificial Al corriente 20 de diciembre

Casi 200 algoritmos de reconocimiento facial, la mayoría en la industria, tuvieron un peor rendimiento en rostros no blancos, según un estudio de referencia .

Lo que probaron: El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) probó cada algoritmo en dos de las tareas más comunes para el reconocimiento facial. La primera, conocida como coincidencia uno a uno, consiste en hacer coincidir una foto de alguien con otra foto de la misma persona en una base de datos. Esto se usa para desbloquear teléfonos inteligentes o verificar pasaportes, por ejemplo. La segunda, conocida como búsqueda de uno a muchos, implica determinar si una foto de alguien tiene alguna coincidencia en una base de datos. Esto es a menudo utilizado por los departamentos de policía para identificar a los sospechosos en una investigación.

La agencia estudió cuatro conjuntos de datos faciales que se utilizan actualmente en las aplicaciones del gobierno de los EE. UU.: fotografías policiales de personas que viven en los EE. UU.; fotos de solicitudes de personas que solicitan beneficios de inmigración; fotos de solicitudes de personas que solicitan visas; y fotos de personas que cruzaron la frontera hacia los EE. UU. En total, los conjuntos de datos incluyeron 18,27 millones de imágenes de 8,49 millones de personas.

Lo que encontraron: NIST compartió algunos resultados de alto nivel del estudio. Los principales:

1. Para la coincidencia uno a uno, la mayoría de los sistemas tenían una tasa más alta de coincidencias de falsos positivos para caras asiáticas y afroamericanas sobre caras caucásicas, a veces por un factor de 10 o incluso 100. En otras palabras, era más probable que encontrar una coincidencia cuando no la había.

2. Esto cambió para los algoritmos de reconocimiento facial desarrollados en países asiáticos, que produjeron muy poca diferencia en los falsos positivos entre rostros asiáticos y caucásicos.

3. Los algoritmos desarrollados en los EE. UU. eran consistentemente malos para emparejar rostros asiáticos, afroamericanos y nativos americanos. Los nativos americanos sufrieron las tasas más altas de falsos positivos.

4. Los sistemas de emparejamiento de uno a muchos tuvieron las peores tasas de falsos positivos para las mujeres afroamericanas, lo que pone a esta población en el mayor riesgo de ser acusada falsamente de un delito.

Por qué esto importa: El uso de sistemas de reconocimiento facial está creciendo rápidamente en la aplicación de la ley, el control fronterizo y otras aplicaciones en toda la sociedad. Si bien varios estudios académicos han demostrado previamente que los sistemas comerciales populares están sesgados en cuanto a raza y género, el estudio del NIST es la evaluación más completa hasta la fecha y confirma estos resultados anteriores. Los hallazgos ponen en duda si estos sistemas deberían continuar siendo tan ampliamente utilizados.

Próximos pasos: Ahora depende de los formuladores de políticas descubrir la mejor manera de regular estas tecnologías. NIST también insta a los desarrolladores de reconocimiento facial a realizar más investigaciones sobre cómo se pueden mitigar estos sesgos.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.