211service.com
¿Son precisos los sistemas de reconocimiento facial? Depende de tu raza.
Todo lo que sabemos sobre los sistemas de reconocimiento facial que usan el FBI y la policía sugiere que el software tiene un sesgo racial incorporado. Eso no es a propósito, es un artefacto de cómo se diseñan los sistemas y los datos con los que se entrenan. Pero es problemático. Los organismos encargados de hacer cumplir la ley confían cada vez más en estas herramientas para ayudar en las investigaciones criminales, lo que aumenta el riesgo de que algo salga mal.
Los organismos encargados de hacer cumplir la ley no han proporcionado muchos detalles sobre cómo utilizan los sistemas de reconocimiento facial, pero en junio, la Oficina de Responsabilidad del Gobierno emitió un informe que dice que el FBI no ha probado adecuadamente la precisión de su sistema de comparación de rostros, ni la de la red masiva de bases de datos de comparación de rostros a nivel estatal a las que puede acceder.
Y aunque los sistemas de comparación de rostros de última generación pueden tener una precisión de casi el 95 por ciento en las bases de datos de fichas policiales, esas fotos se toman en condiciones controladas con sujetos generalmente cooperativos. Las imágenes tomadas en circunstancias menos que ideales, como mala iluminación, o que capturan poses y expresiones faciales inusuales, pueden generar errores.
Ilustración de Sophia Foster-Dimino
Los algoritmos también pueden estar sesgados debido a la forma en que se entrenan, dice anil jain , jefe del grupo de investigación de biometría de la Universidad Estatal de Michigan. Para que funcione, el software de comparación de rostros primero debe aprender a reconocer rostros usando datos de entrenamiento, un conjunto de imágenes que le da al software información sobre cómo difieren los rostros. Si un género, grupo de edad o raza está subrepresentado en los datos de entrenamiento, eso se reflejará en el rendimiento del algoritmo, dice Jain.
En 2012, Jain y varios colegas utilizaron un conjunto de fotografías policiales de la Oficina del Sheriff del condado de Pinellas en Florida para examinar el rendimiento de varios sistemas de reconocimiento facial disponibles en el mercado, incluidos los de proveedores que suministran a las fuerzas del orden. Los algoritmos fueron consistentemente menos preciso sobre las mujeres, los afroamericanos y los jóvenes. Aparentemente, fueron capacitados con datos que no eran lo suficientemente representativos de esos grupos, dice Jain.
Si su conjunto de entrenamiento está fuertemente sesgado hacia una carrera en particular, su algoritmo reconocerá mejor esa carrera, dice Alice O’Toole , director del laboratorio de investigación de percepción facial de la Universidad de Texas en Dallas. O'Toole y varios colegas encontrado en 2011 que un algoritmo desarrollado en países occidentales era mejor para reconocer caras caucásicas que para reconocer caras de Asia oriental. Del mismo modo, los algoritmos de Asia oriental se desempeñaron mejor en las caras de Asia oriental que en las caucásicas.
En los años posteriores a estos estudios, la precisión de los algoritmos comerciales ha mejorado significativamente en muchas áreas, y Jain dice que las diferencias de rendimiento entre los diferentes géneros y razas pueden haberse reducido. Pero hay tan poca información disponible sobre las pruebas que es difícil saberlo. Los enfoques más nuevos para el reconocimiento facial, como los sistemas de aprendizaje profundo que han desarrollado Google y Facebook, pueden cometer el mismo tipo de errores si los datos de entrenamiento están desequilibrados, dice.
Jonathon Phillips, ingeniero electrónico del Instituto Nacional de Estándares y Tecnología, realiza pruebas de rendimiento de algoritmos comerciales. Él dice que es posible diseñar una prueba para medir el sesgo racial en los sistemas de comparación de rostros. De hecho, los expertos en privacidad han pedido haciendo tales pruebas un requisito.
El FBI y MorphoTrust, el proveedor que suministra el software de reconocimiento facial de la oficina, no respondieron las preguntas enviadas por correo electrónico de Revisión de tecnología del MIT con respecto a si prueban el rendimiento de sus algoritmos por raza, género o edad.
Los arreglos entre los proveedores y las numerosas agencias estatales encargadas de hacer cumplir la ley que utilizan el reconocimiento facial tampoco están claros. Pero Pete Langenfeld, gerente de análisis e identificación digital de la Policía Estatal de Michigan, dice que su organización no prueba la precisión de un grupo específico. Dijo que no sabe si el proveedor que suministró la tecnología también realiza tales pruebas, pero agregó que se trata de información patentada y que la empresa no está obligada a divulgar esa información.