211service.com
Hacer que el reconocimiento facial sea menos sesgado no lo hace menos aterrador
Busá Fotografía/Getty
En los últimos años, ha habido un aumento espectacular en la adopción de tecnología de análisis, detección y reconocimiento facial.
Probablemente estés más familiarizado con reconocimiento sistemas, como el recomendador de etiquetado de fotos de Facebook y FaceID de Apple, que pueden identificar a personas específicas. Detección los sistemas, por otro lado, determinan si una cara está presente en absoluto; y análisis Los sistemas tratan de identificar aspectos como el género y la raza. Todos estos sistemas ahora se utilizan para una variedad de propósitos, desde contratación y al por menor a seguridad y vigilancia .
Mucha gente cree que tales sistemas son altamente precisos e imparciales. La lógica es que el personal de seguridad del aeropuerto puede cansarse y la policía puede juzgar mal a los sospechosos, pero un sistema de inteligencia artificial bien entrenado debería ser capaz de identificar o categorizar constantemente cualquier imagen de una cara.
Pero en la práctica, la investigación ha demostrado repetidamente que estos sistemas tratan con algunos grupos demográficos de forma mucho más imprecisa que con otros. El año pasado, Sombras de género , un estudio fundamental dirigido por la investigadora de MIT Media Lab Joy Buolamwini, descubrió que los sistemas de clasificación de género vendidos por IBM, Microsoft y Face++ tenían una tasa de error de hasta 34,4 puntos porcentuales más alta para las mujeres de piel más oscura que para los hombres de piel más clara. La ACLU del norte de California encontrado de manera similar que la plataforma de Amazon tenía más probabilidades de identificar erróneamente a los miembros del Congreso no blancos que a los blancos.
El problema es que los sistemas de análisis y reconocimiento facial a menudo se entrenan en conjuntos de datos sesgados: reciben muchas menos imágenes de mujeres y personas con piel oscura que imágenes de hombres y personas con piel clara. Y aunque supuestamente muchos de ellos se someten a pruebas de imparcialidad, esas pruebas no verifican el rendimiento en una gama lo suficientemente amplia de caras, como descubrió Buolamwini. Estas disparidades perpetúan y afianzan aún más las injusticias existentes y conducen a consecuencias que solo empeoran a medida que aumenta el riesgo.
Tres nuevos documentos publicados la semana pasada ahora están atrayendo la atención que tanto se necesita sobre este tema. Aquí hay una breve descripción de cada uno de ellos.
Papel #1. El jueves pasado, Buolamwini publicado una actualización de Gender Shades volviendo a probar los sistemas que había examinado anteriormente y ampliando su revisión para incluir Rekognition de Amazon y un nuevo sistema de una pequeña empresa de inteligencia artificial llamada Kairos. Hay algunas buenas noticias. Descubrió que IBM, Face ++ y Microsoft mejoraron la precisión de su clasificación de género para mujeres de piel más oscura, y Microsoft redujo su tasa de error a menos del 2 %. Por otro lado, las plataformas de Amazon y Kairos todavía tenían brechas de precisión de 31 y 23 puntos porcentuales, respectivamente, entre los hombres más claros y las mujeres más oscuras. Buolamwini dicho el estudio muestra que estas tecnologías deben ser auditadas externamente para que sean técnicamente responsables.
Papel #2. El domingo, un estudio del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (CSAIL) demostró la eficacia de un nuevo algoritmo para mitigar los sesgos en un sistema de detección de rostros, incluso cuando está entrenado con datos muy sesgados. A medida que entrena, también identifica qué ejemplos en los datos están subrepresentados y dedica más tiempo a mirarlos para compensar. Cuando los investigadores probaron el sistema con el conjunto de datos de tonos de género de Buolamwini, descubrieron que ayudó a cerrar su propia brecha de precisión más grande, entre hombres de piel más clara y más oscura, en comparación con un algoritmo de entrenamiento estándar (aunque no lo eliminó por completo) .
Papel #3. Esta mañana, IBM Research publicó un papel que identifica docenas de características para medir la diversidad más allá del color de la piel y el género, incluida la altura de la cabeza, el ancho de la cara, la distancia entre los ojos y la edad. Los hallazgos se basan en investigaciones previas sobre rostros humanos. A menos que tengamos medidas de diversidad facial, dice John Smith, uno de los coautores del artículo, no podemos regresar y aplicarlas mientras entrenamos estos sistemas de reconocimiento facial. En conjunto, el equipo lanzó un nuevo conjunto de datos con 1 millón de imágenes de caras, anotadas con estas nuevas medidas.
Diferentes medidas de diversidad facial, presentadas en el nuevo artículo de IBM Research. Investigación de IBM
Cada uno de estos estudios ha dado pasos importantes para abordar el sesgo en el reconocimiento facial, responsabilizando a las empresas, creando nuevos algoritmos y ampliando nuestra comprensión de la diversidad de datos. Pero crear sistemas más justos y precisos es solo la mitad de la batalla.
Incluso los sistemas más justos y precisos pueden seguir utilizándose para infringir las libertades civiles de las personas. El año pasado, un Daily Beast investigación descubrió que Amazon estaba presentando activamente su plataforma de vigilancia facial al Servicio de Inmigración y Control de Aduanas de EE. UU., más conocido como ICE, para ayudar en su represión contra las comunidades de inmigrantes. una intercepción investigación también descubrió que IBM desarrolló la capacidad de identificar el origen étnico de los rostros como parte de una asociación a largo plazo con el Departamento de Policía de Nueva York. Luego, esta tecnología se implementó en cámaras de vigilancia públicas para realizar pruebas, sin el conocimiento de los residentes de la ciudad. La Policía Metropolitana del Reino Unido ya utiliza el reconocimiento facial para escanear multitudes públicas para personas en listas de vigilancia, y China lo usa para vigilancia masiva de todos los residentes, con fines que incluyen el seguimiento de los disidentes.
En respuesta a la rápida proliferación de estos sistemas, un número creciente de activistas de derechos civiles y tecnólogos han pedido que se regulen; Google tiene incluso suspendido su venta de tales sistemas hasta que tenga estrategias claras para prevenir su abuso.
Sin justicia algorítmica, la precisión algorítmica/equidad técnica puede crear herramientas de IA que se conviertan en armas, dice Buolamwini.
Esta historia apareció originalmente en nuestro boletín informativo de IA El Algoritmo. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.