211service.com
El programa de reconocimiento facial del FBI es extenso e inexacto
Sonríe: tal vez te están identificando erróneamente.
El año pasado, nos enteramos de la notable escala de la tecnología de reconocimiento facial del FBI, con su acceso a casi 412 millones de fotos, muchas de las cuales provienen de fuentes no relacionadas con el crimen, como documentos de identidad. La agencia de inteligencia ha estado tratando de crear un sistema que pueda identificar con precisión a los delincuentes en, por ejemplo, imágenes de CCTV, aunque en ese momento no se sabía qué tan bien funcionaba el software de la oficina, ni si realmente mejoraba las investigaciones.
Ahora, tenemos al menos un poco más de información sobre el programa. El guardián informes que una audiencia del comité de supervisión de la Cámara la semana pasada reveló algunos detalles nuevos e interesantes sobre la proliferación y las capacidades de los sistemas de reconocimiento facial del FBI.
En primer lugar, existe una gran posibilidad de que usted, como estadounidense, aparezca en la base de datos. Resulta que entre esos muchos millones de fotos se encuentran los retratos de alrededor de la mitad de la población adulta del país. Eso es posible porque las imágenes que se derivan de fuentes no relacionadas con el crimen representan el 80 por ciento de la base de datos. Entonces, cuando envía formularios e imágenes para un pasaporte, licencia de conducir o alguna otra identificación oficial, es probable que esté ayudando a aumentar el conjunto de datos.
Quizás lo más preocupante es la calidad del reconocimiento del FBI. La audiencia reveló que su software actualmente identifica erróneamente a las personas casi el 15 por ciento de las veces. Por el contrario, la tecnología de reconocimiento facial líder en el mercado ahora es tan precisa que se usa para autorizar pagos en China, y Baidu afirma confirmar correctamente la identidad de alguien. 99.77 por ciento del tiempo .
En defensa del FBI, probablemente esté trabajando con imágenes de una calidad mucho menor, tanto en su base de datos como en las imágenes en las que intenta realizar el reconocimiento, que las que están disponibles para personas como Baidu. Pero las tasas de error del 15 por ciento siguen siendo altas y podrían generar pistas falsas o intrusiones infundadas en la privacidad.
getty
El software también parece identificar incorrectamente a las personas negras con más frecuencia que a las personas blancas. Lamentablemente, ese efecto es predecible: explicamos en el pasado que los sistemas de reconocimiento facial están intrínsecamente sesgados porque están entrenados en conjuntos de datos que subrepresentan algunos datos demográficos.
Pero ese problema puede tener consecuencias preocupantes. como el guardián notas, los negros son es más probable que se utilice un software de reconocimiento facial para identificarlos , por lo que parece extraño, incluso injusto, utilizar herramientas que están claramente mal equipadas para discernir su semejanza.
Todos estos detalles se suman a las preocupaciones sobre la privacidad que ya han afectado a la iniciativa del FBI de construir un sistema que pueda identificar a los delincuentes con precisión. Los problemas, al menos, han sido revelados; ahora solo necesitan ser resueltos.
(Lee mas: El guardián , Mientras busca sospechosos, el FBI puede estar observándolo a usted , pagando con su rostro , ¿Son precisos los sistemas de reconocimiento facial? Depende de tu raza. )