Hay una crisis de reconocimiento facial y vigilancia en los EE. UU.

Sra. Tecnología | Unsplash

Cuando se supo que una coincidencia errónea de un sistema de reconocimiento facial había llevado a la policía de Detroit a arrestar a Robert Williams por un crimen que no cometió, era a fines de junio y el país ya estaba conmocionado por la muerte de George Floyd un mes antes. . Poco después, se supo que otro hombre negro, Michael Oliver, fue arrestado en circunstancias similares a las de Williams. Si bien gran parte de los EE. UU. continúa clamando por la justicia racial, está tomando forma una conversación más tranquila sobre la tecnología de reconocimiento facial y la policía. Haríamos bien en escuchar.

Cuando Jennifer Strong y yo comenzamos a informar sobre el uso de la tecnología de reconocimiento facial por parte de la policía para nuestro nuevo podcast, En Máquinas Confiamos , sabíamos que estos sistemas impulsados ​​por IA estaban siendo adoptados por policías en todo EE. UU. y en otros países. Pero no teníamos idea de cuánto estaba pasando fuera del ojo público.

Para empezar, no sabemos con qué frecuencia los departamentos de policía de EE. UU. utilizan el reconocimiento facial por la sencilla razón de que, en la mayoría de las jurisdicciones, no tienen que informar cuando lo utilizan para identificar a un sospechoso de un delito. El los números más recientes son especulativos y de 2016 , pero sugieren que en ese momento, al menos la mitad de los estadounidenses tenían fotos en un sistema de reconocimiento facial. Un condado de Florida realizó 8000 búsquedas cada mes.

Tampoco sabemos qué departamentos de policía tienen tecnología de reconocimiento facial, porque es común que la policía oculte su proceso de adquisición. Hay evidencia, por ejemplo, de que muchos departamentos compran su tecnología usando subvenciones federales o regalos sin fines de lucro, que están exentos de ciertas leyes de divulgación. En otros casos, las empresas ofrecen períodos de prueba policiales para su software que permiten a los agentes utilizar los sistemas sin ninguna aprobación o supervisión oficial. Esto permite que las empresas que fabrican sistemas de reconocimiento facial afirmen que sus productos se utilizan ampliamente y den la impresión externa de que son herramientas populares y confiables para resolver delitos.

Algoritmos protegidos que no sirven

Pero si el reconocimiento facial es conocido por algo, es por lo poco confiable que es. Como informamos en el programa, en enero, la Policía Metropolitana de Londres presentó un sistema de reconocimiento facial en vivo que en pruebas tenia una tasa de precisión de menos del 20% . En la ciudad de Nueva York, el Metro Transit Authority probó un sistema en las principales vías con una tasa informada de 0% de precisión. Los sistemas a menudo también tienen prejuicios raciales: un estudio encontró que en algunos sistemas comerciales, incluso en condiciones de laboratorio tasas de error en la identificación de mujeres de piel más oscura rondaron el 35%. Mientras informamos para el programa, descubrimos que no es raro que la policía altere las fotos para mejorar sus posibilidades de encontrar una coincidencia. Algunos incluso defendieron la práctica como fundamental para hacer un buen trabajo policial.

Dos de las empresas más controvertidas y avanzadas en el campo, ClearviewAI y NTechLabs, afirman haber resuelto el problema del sesgo y alcanzado una precisión casi perfecta. ClearviewAI afirma que lo utilizan alrededor de 600 departamentos de policía en los EE. UU. (Algunos expertos con los que hablamos se mostraron escépticos ante esa cifra). NTechLabs, con sede en Rusia, se ha registrado para el reconocimiento facial de video en vivo en toda la ciudad de Moscú.

Pero casi no hay forma de verificar de forma independiente sus afirmaciones. Ambas compañías tienen algoritmos que se encuentran en bases de datos de miles de millones de fotos públicas. Mientras tanto, el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés) ofrece una de las pocas auditorías independientes de tecnología de reconocimiento facial. La prueba de proveedores del NIST utiliza un conjunto de datos mucho más pequeño que, junto con la calidad y la diversidad de las imágenes en la base de datos, limita su poder como herramienta de auditoría. ClearviewAI no ha tomado la prueba más reciente de NIST. NTechLabs realizó la prueba de imagen estática y se desempeñó bien, pero actualmente no se utiliza ninguna prueba para el reconocimiento facial de video en vivo. Tampoco existe una prueba independiente específica para el sesgo.

Reconocimiento en las calles

La reciente ola de protestas de Black Lives Matter, provocada por la muerte de Floyd, ha puesto en duda gran parte de lo que hemos aceptado sobre la vigilancia policial moderna, incluido el uso de la tecnología. La oscura ironía es que, cuando la gente sale a las calles para protestar contra el racismo en la policía, algunos policías han utilizado herramientas de última generación con un sesgo racial conocido contra los reunidos. Sabemos, por ejemplo, que el departamento de policía de Baltimore usó identificación facial en los manifestantes después de la muerte de Freddie Gray en 2015. Y sabemos que un puñado de departamentos ha hecho llamados públicos para filmar las protestas de este año. Se ha documentado que la policía en Minneapolis tiene acceso a una variedad de tecnología, incluidos los servicios de ClearviewAI . Según Jameson Spivack del Centro de Privacidad y Tecnología de la Universidad de Georgetown, a quien entrevistamos en el programa, si se usa el reconocimiento facial en las protestas de BLM, se está apuntando y desanimando específicamente el discurso político negro.

Después de años de lucha por la regulación, por parte de organizaciones lideradas en su mayoría por negros y latinos , nunca hemos estado en un mejor momento para cambiar de verdad. Microsoft, Amazon e IBM han anunciado interrupciones o moratorias de sus productos de reconocimiento facial. En los últimos meses, un puñado de ciudades importantes de EE. UU. ha anunciado prohibiciones o moratorias sobre la tecnología. Por otro lado, la tecnología avanza rápidamente. Las capacidades de los sistemas, así como el potencial de uso indebido y abuso, seguirán creciendo a pasos agigantados. Ya estamos comenzando a ver que los departamentos de policía y los proveedores de tecnología van más allá de los sistemas de reconocimiento facial estáticos y retrospectivos hacia el análisis de video en vivo que se integra con otros tipos de flujos de datos, como los sistemas de vigilancia de disparos de audio.

Algunos de los policías con los que hablamos dijeron que no deberían quedarse con herramientas arcaicas para combatir el crimen en el siglo XXI. Y es cierto que, en algunos casos, la tecnología puede hacer que la vigilancia sea menos violenta y menos propensa a los prejuicios humanos.

Pero después de meses de informar sobre nuestra miniserie de audio, me quedé con una sensación de aprensión. Lo que está en juego crece día a día, y hasta ahora el público se ha quedado muy atrás en su comprensión de lo que está pasando. No está claro cómo va a cambiar eso a menos que todas las personas en todos los lados de este problema puedan estar de acuerdo en que todos tienen derecho a estar informados.

esconder