Es más probable que los autos sin conductor lo golpeen si tiene la piel oscura

Categoría: Inteligencia artificial Al corriente Mar 01

Investigadores del Instituto de Tecnología de Georgia fundar que los sistemas de reconocimiento de objetos de última generación son menos precisos para detectar peatones con tonos de piel más oscuros.

Prueba de choque: Los investigadores probaron ocho sistemas de reconocimiento de imágenes (cada uno entrenado en un conjunto de datos estándar) contra una gran cantidad de imágenes de peatones. Dividieron a los peatones en dos grupos para tonos de piel más claros y más oscuros según el Escala Fitzpatrick del tipo de piel , una forma de clasificar el color de la piel humana.

Código de colores: Se encontró que la precisión de detección de los sistemas era menor en un promedio de cinco puntos porcentuales para el grupo con piel más oscura. Esto se mantuvo incluso al controlar la hora del día y la vista obstruida.

Bajo el capó: A través de un análisis más detallado, los investigadores determinaron que el sesgo probablemente se debió a dos cosas: muy pocos ejemplos de peatones de piel oscura y muy poco énfasis en aprender de esos ejemplos. Dicen que el sesgo podría mitigarse ajustando tanto los datos como el algoritmo.

Una versión anterior de esta historia apareció originalmente en nuestro boletín de AI The Algorithm. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.