La policía de Nueva York utilizó una controvertida herramienta de reconocimiento facial. Esto es lo que necesita saber.

Getty

Ha sido una semana ajetreada para Clearview AI, la controvertida empresa de reconocimiento facial que utiliza 3 mil millones de fotos extraídas de la web para potenciar un motor de búsqueda de rostros. El 6 de abril, Buzzfeed News publicó una base de datos de más de 1.800 entidades —incluida la policía estatal y local y otras agencias financiadas por los contribuyentes, como los sistemas de atención médica y las escuelas públicas— que, según dice, han usado los controvertidos productos de la compañía. Muchas de esas agencias respondieron a las acusaciones diciendo que solo habían probado la tecnología y no tenían un contrato formal con la empresa.

Pero el día anterior, la definición de una prueba con Clearview se detalló cuando el sitio de noticias sin fines de lucro Muckrock publicó correos electrónicos entre el Departamento de Policía de Nueva York y la compañía. Los documentos, obtenidos a través de solicitudes de libertad de información por parte de Legal Aid Society y la periodista Rachel Richards, rastrean una relación amistosa de dos años entre el departamento y la empresa de tecnología durante los cuales el Departamento de Policía de Nueva York probó la tecnología muchas veces y utilizó el reconocimiento facial en investigaciones en vivo. .

Historia relacionada

Hay una crisis de reconocimiento facial y vigilancia en los EE. UU. La tecnología profundamente defectuosa se usa ampliamente, en gran parte fuera del ojo público.

El NYPD ha minimizado previamente su relación con Clearview AI y su uso de la tecnología de la compañía. Pero los correos electrónicos muestran que la relación entre ellos estaba bien desarrollada, con una gran cantidad de policías realizando un alto volumen de búsquedas con la aplicación y usándolas en investigaciones reales. La policía de Nueva York tiene ejecutar más de 5100 búsquedas con Clearview IA.

Esto es particularmente problemático porque las políticas establecidas impiden que la policía de Nueva York cree un depósito no supervisado de fotos a las que los sistemas de reconocimiento facial puedan hacer referencia y restringen el uso de la tecnología de reconocimiento facial a un equipo específico. Ambas políticas parecen haber sido eludidas con Clearview AI. Los correos electrónicos revelan que la policía de Nueva York dio acceso al sistema a muchos oficiales fuera del equipo de reconocimiento facial, que se basa en una enorme biblioteca de fotos públicas de las redes sociales. Los correos electrónicos también muestran cómo los oficiales de la policía de Nueva York descargaron la aplicación en sus dispositivos personales, en contravención de la política establecida, y usaron la poderosa y tendencioso tecnología de manera casual.

Clearview AI ejecuta una poderosa red neuronal que procesa fotografías de rostros y compara su medida y simetría precisas con una base de datos masiva de imágenes para sugerir posibles coincidencias. No está claro qué tan precisa es la tecnología, pero es ampliamente utilizada por los departamentos de policía y otras agencias gubernamentales. Clearview AI ha sido fuertemente criticado por su uso de información de identificación personal, su decisión de violar la privacidad de las personas al extraer fotografías de Internet sin su permiso y su elección de clientela.

Los correos electrónicos abarcan un período desde octubre de 2018 hasta febrero de 2020, comenzando cuando El director ejecutivo de Clearview AI, Hoan Ton-That fue presentado al subinspector de la policía de Nueva York, Chris Flanagan. Después de las reuniones iniciales, Clearview AI firmó un contrato de proveedor con la policía de Nueva York en diciembre de 2018 a modo de prueba que duró hasta marzo siguiente.

Los documentos muestran que muchas personas en NYPD tuvieron acceso a Clearview durante y después de este tiempo, desde el liderazgo del departamento hasta los oficiales subalternos. A lo largo de los intercambios, Clearview AI alentó un mayor uso de sus servicios. (Vea si puede llegar a 100 búsquedas, instaron sus instrucciones de incorporación a los oficiales). Los correos electrónicos muestran que las cuentas de prueba para la policía de Nueva York se crearon hasta febrero de 2020, casi un año después de que se dijo que había terminado el período de prueba.

Revisamos los correos electrónicos y hablamos con los principales expertos legales y de vigilancia sobre su contenido. Esto es lo que necesita saber.

NYPD mintió sobre el alcance de su relación con Clearview AI y el uso de su tecnología de reconocimiento facial

La policía de Nueva York le dijo Noticias BuzzFeed y el Correo de Nueva York anteriormente que no tenía ninguna relación institucional con Clearview AI, formal o informalmente. El departamento reveló que había probado Clearview AI, pero los correos electrónicos muestran que la tecnología fue utilizada durante un período prolongado por un gran número de personas que completaron un gran volumen de búsquedas en investigaciones reales.

En un intercambio, un detective que trabaja en la unidad de reconocimiento facial del departamento dijo: La aplicación funciona muy bien. En otro, un oficial de la brigada de robo de identidad de la policía de Nueva York dijo que seguimos recibiendo resultados positivos y hemos procedido a realizar arrestos. (Hemos eliminado los nombres completos y las direcciones de correo electrónico de estas imágenes; otros detalles personales fueron redactados en los documentos originales).

Albert Fox Cahn, director ejecutivo de Surveillance Technology Oversight Project, una organización sin fines de lucro que aboga por la abolición del uso policial de la tecnología de reconocimiento facial en la ciudad de Nueva York, dice que los registros contradicen claramente las declaraciones públicas anteriores del NYPD sobre el uso de Clearview AI.

Aquí tenemos un patrón de agentes que obtienen cuentas de Clearview, no durante semanas o meses, sino a lo largo de los años, dice. Tenemos evidencia de reuniones con funcionarios al más alto nivel de la policía de Nueva York, incluida la sección de identificación facial. No se trata de unos pocos oficiales que deciden salir y obtener una cuenta de prueba. Esta fue una adopción sistemática de la tecnología de reconocimiento facial de Clearview para dirigirse a los neoyorquinos.

Además, la policía de Nueva York descripción de su uso de reconocimiento facial , que se exige en virtud de una ley aprobada recientemente, dice que los investigadores comparan las imágenes obtenidas durante las investigaciones con un grupo controlado y limitado de fotografías que ya están en posesión de la policía de Nueva York. Clearview AI es conocida por su base de datos de más de 3 mil millones de fotos raspado de la web.

NYPD está trabajando en estrecha colaboración con la policía de inmigración, y los oficiales refirieron Clearview AI a ICE

Los documentos contienen varios correos electrónicos de la policía de Nueva York que parecen ser referencias para ayudar a Clearview a vender su tecnología al Departamento de Seguridad Nacional. Dos oficiales de policía tenían afiliaciones tanto a la policía de Nueva York como a Seguridad Nacional en la firma de su correo electrónico, mientras que otro oficial se identificó como miembro de un grupo de trabajo de Seguridad Nacional.

Parece que hay tanta comunicación, tal vez intercambio de datos, y mucho uso no regulado de la tecnología.

Nueva York está designada como ciudad santuario, lo que significa que la policía local limita su cooperación con las agencias federales de inmigración. De hecho, el reconocimiento facial de NYPD declaración de política dice que la información no se comparte para promover la aplicación de la ley de inmigración y que no se dará acceso a otras agencias con el propósito de promover la aplicación de la ley de inmigración.

Creo que una de las grandes conclusiones es cuán anárquico y desregulado es el panorama de las interacciones y la vigilancia y el intercambio de datos entre la policía local, la policía federal y la policía de inmigración, dice Matthew Guariglia, analista de Electronic Frontier Foundation. Parece que hay tanta comunicación, tal vez intercambio de datos, y mucho uso no regulado de la tecnología.

Cahn dice que los correos electrónicos inmediatamente hacen sonar las alarmas, particularmente porque una gran cantidad de información sobre las fuerzas del orden se canaliza a través de sistemas centrales conocidos como centros de fusión.

Puede afirmar que es una ciudad santuario todo lo que quiera, pero mientras continúe teniendo estos grupos de trabajo del DHS, mientras continúe teniendo centros de fusión de información que permitan el intercambio de datos en tiempo real con el DHS, estará haciendo esa promesa en una mentira.

Muchos oficiales pidieron usar Clearview AI en sus dispositivos personales o a través de sus cuentas de correo electrónico personales.

Al menos cuatro oficiales solicitaron acceso a la aplicación de Clearview en sus dispositivos personales o a través de correos electrónicos personales. Los dispositivos del departamento están estrictamente regulados y puede ser difícil descargar aplicaciones a los teléfonos móviles oficiales de la policía de Nueva York. Algunos oficiales claramente optaron por usar sus dispositivos personales cuando los teléfonos del departamento eran demasiado restrictivos.

Clearview respondió a este correo electrónico, Hola William, deberías tener un correo electrónico de configuración en tu bandeja de entrada en breve.

Jonathan McCoy es abogado forense digital en Legal Aid Society y participó en la presentación de la solicitud de libertad de información. Encontró el uso de dispositivos personales particularmente problemático: mi conclusión es que estaban tratando activamente de eludir las políticas y procedimientos de la policía de Nueva York que establecen que si va a usar tecnología de reconocimiento facial, debe pasar por FIS (sección de identificación facial) y tienen que usar la tecnología que ya ha sido aprobada por la policía de Nueva York al por mayor. NYPD ya tiene un sistema de reconocimiento facial, proporcionado por una empresa llamada Dataworks.

Historia relacionada

El activista que desmantela los algoritmos policiales racistas Hamid Khan está ganando su lucha por la abolición de la tecnología de vigilancia utilizada por LAPD

Guariglia dice que apunta a una actitud de descuido tanto por parte de la policía de Nueva York como de Clearview AI. Me horrorizaría saber que los oficiales de policía estaban usando Clearview en sus dispositivos personales para identificar a las personas que luego contribuyeron a los arrestos o investigaciones oficiales de la policía de Nueva York, dice.

Las preocupaciones que plantean estos correos electrónicos no son solo teóricas: podrían permitir que la policía sea impugnada en los tribunales e incluso anular los casos debido a la falta de cumplimiento del procedimiento. McCoy dice que Legal Aid Society planea usar la evidencia de los correos electrónicos para defender a los clientes que han sido arrestados como resultado de una investigación que usó reconocimiento facial.

Con suerte, tendríamos una base para ir a la corte y decir que cualquier condena que se obtuvo mediante el uso del software se hizo de una manera que no se correspondía con las políticas y los procedimientos de la policía de Nueva York, dice. Dado que Clearview es una tecnología no probada y poco confiable, podríamos argumentar que el uso de dicha tecnología perjudicó los derechos de nuestro cliente.

esconder