211service.com
La nueva demanda que muestra el reconocimiento facial es oficialmente un tema de derechos civiles
ACLU
El 9 de enero de 2020, la policía de Detroit condujo hasta el suburbio de Farmington Hill y arrestó a Robert Williams en la entrada de su casa mientras su esposa y sus hijas pequeñas miraban. Williams, un hombre negro, fue acusado de robar relojes de Shinola, una tienda de lujo. Pasó la noche en la cárcel.
Durante el interrogatorio, un oficial le mostró a Williams una foto de un sospechoso. Su respuesta, como él le dijo a la ACLU , fue rechazar la demanda. Este no soy yo, le dijo al oficial. Espero que no piensen que todos los negros se parecen. Él dice que el oficial respondió: La computadora dice que eres tú.
Historia relacionada
Qué sucede cuando un algoritmo se equivoca Lo extraño del falso arresto de Robert Williams no fue que la policía usó el reconocimiento facial para identificarlo. Es que se lo dijeron.
El arresto injusto de Williams, que fue informado por primera vez por el New York Times en agosto de 2020 , se basó en una mala coincidencia del sistema de reconocimiento facial del Departamento de Policía de Detroit. Dos más instancias de falsos arrestos desde entonces se han hecho públicos. Ambos también son hombres negros, y ambos han emprendido acciones legales.
Ahora Williams está siguiendo su camino y va más allá, no solo al demandar al departamento por su arresto injusto, sino al tratar de prohibir la tecnología.
El martes, la ACLU y la Iniciativa de Litigio de Derechos Civiles de la Facultad de Derecho de la Universidad de Michigan presentó una demanda en nombre de Williams, alegando que el arresto violó sus derechos de la Cuarta Enmienda y desafió la ley de derechos civiles de Michigan.
La demanda solicita una compensación, una mayor transparencia sobre el uso del reconocimiento facial y el fin del uso directo o indirecto de la tecnología de reconocimiento facial por parte del Departamento de Policía de Detroit.
Lo que dice la demanda
El documentos presentados el martes exponer el caso. En marzo de 2019, el DPD había pasado una foto granulada de un hombre negro con una gorra roja del video de vigilancia de Shinola a través de su sistema de reconocimiento facial, realizado por una empresa llamada DataWorks Plus. El sistema devolvió una coincidencia con una foto antigua de la licencia de conducir de Williams. Los oficiales de investigación luego incluyeron la foto de la licencia de William como parte de una alineación de fotos, y un contratista de seguridad de Shinola ( que en realidad no estaba presente en el momento del robo) identificó a Williams como el ladrón. Los oficiales obtuvieron una orden judicial, que requiere varias autorizaciones de los líderes del departamento, y Williams fue arrestado.
La denuncia argumenta que el arresto falso de Williams fue un resultado directo del sistema de reconocimiento facial, y que este caso de arresto y encarcelamiento injustificados ejemplifica el grave daño causado por el uso indebido y la confianza en la tecnología de reconocimiento facial.
El caso contiene cuatro cargos, tres de los cuales se enfocan en la falta de causa probable para el arresto, mientras que uno se enfoca en las disparidades raciales en el impacto del reconocimiento facial. Al emplear tecnología que está empíricamente probada para identificar erróneamente a las personas negras a tasas mucho más altas que otros grupos de personas, afirma, el DPD le negó al Sr. Williams el disfrute pleno e igualitario de los servicios, privilegios y ventajas del Departamento de Policía de Detroit debido a su raza. o color.
Las dificultades de la tecnología de reconocimiento facial para identificar a las personas de piel más oscura son bien documentado . Tras el asesinato de George Floyd en Minneapolis en 2020, algunas ciudades y estados anunciaron prohibiciones y moratorias sobre el uso policial del reconocimiento facial. Pero muchos otros, incluido Detroit, continuaron usándolo a pesar de las crecientes preocupaciones.
Confiar en imágenes mediocres
Cuando MIT Technology Review habló con el abogado de ACLU de Williams, Phil Mayor, el año pasado, enfatizó que los problemas de racismo dentro de las fuerzas del orden estadounidenses hacían que el uso del reconocimiento facial fuera aún más preocupante.
Esta no es una situación de un solo actor malo, dijo Mayor. Esta es una situación en la que tenemos un sistema legal penal que es extremadamente rápido para acusar y extremadamente lento para proteger los derechos de las personas, especialmente cuando hablamos de personas de color.
Eric Williams, abogado sénior del personal de Economic Equity Practice en Detroit, dice que las cámaras tienen muchas limitaciones tecnológicas, entre otras, que están codificadas con rangos de color para reconocer el tono de la piel y, a menudo, simplemente no pueden procesar la piel más oscura.
'Creo que todas las personas negras del país han tenido la experiencia de estar en una foto y la imagen se vuelve más clara o más oscura'.
Creo que todas las personas negras en el país han tenido la experiencia de estar en una foto y la imagen se vuelve más clara o más oscura, dice Williams, quien es miembro del comité de abogados de la ACLU de Michigan pero no está trabajando en Robert caso Williams. La iluminación es uno de los factores principales cuando se trata de la calidad de una imagen. Entonces, el hecho de que las fuerzas del orden se basen, hasta cierto punto... en imágenes realmente deficientes es problemático.
Ha habido casos que desafiaron algoritmos sesgados y tecnologías de inteligencia artificial sobre la base de la raza. Facebook, por ejemplo, sufrió una auditoría masiva de derechos civiles después de que se descubrió que sus algoritmos de publicidad dirigida publicaban anuncios en función de la raza, el género y la religión. YouTube fue demandado en una demanda colectiva de creadores negros quien alegó que sus sistemas de inteligencia artificial perfilan a los usuarios y censuran o discriminan el contenido por motivos de raza. YouTube también fue demandado por creadores LGBTQ+ que dijeron que los sistemas de moderación de contenido marcó las palabras gay y lesbiana.
Algunos expertos dicen que era solo cuestión de tiempo hasta que el uso de tecnología sesgada por parte de una institución importante como la policía se enfrentara a desafíos legales.
Historia relacionada
Por qué 2020 fue un año crucial y contradictorio para el reconocimiento facial El movimiento de justicia racial llevó los problemas de la tecnología a la conciencia pública, pero a pesar de los escándalos y las prohibiciones, su crecimiento no se está desacelerando.El uso del reconocimiento facial por parte del gobierno claramente tiene un impacto dispar contra las personas de color, dice Adam Schwartz, abogado sénior de Electronic Frontier Foundation. Estudio tras estudio muestra que esta tecnología peligrosa tiene tasas mucho más altas de falsos positivos para las personas de color en comparación con las personas blancas. Por lo tanto, el uso de esta tecnología por parte del gobierno viola las leyes que prohíben que el gobierno adopte prácticas que causen un impacto dispar.
Pero Mayor, el abogado de Williams, esperaba una dura pelea. Dijo a MIT Technology Review el año pasado que esperaba que el Departamento de Policía de Detroit siguen argumentando que el reconocimiento facial es una gran herramienta de investigación.
El caso Williams demuestra que no lo es. No lo es en absoluto, dijo. Y, de hecho, puede dañar a las personas cuando lo usa como herramienta de investigación.
bajo el microscopio
En un comunicado, Lawrence García, el abogado de la ciudad de Detroit, dijo que la ciudad tenía como objetivo 'lograr una resolución' en el caso, pero dijo que el reconocimiento facial no era el culpable de la situación.
'Como ha explicado el jefe de policía, el arresto fue el resultado de una investigación de mala calidad, no de tecnología defectuosa', dijo García. El Departamento de Policía de Detroit ha llevado a cabo una investigación interna y ha presentado cargos de mala conducta en relación con varios miembros del departamento. El DPD ha implementado nuevos protocolos para evitar que ocurran problemas similares.
Pero la demanda de Williams llega en un momento crítico para la raza y la policía en Estados Unidos. Se presentó cuando los abogados defensores comenzaron los argumentos en el juicio de Derek Chauvin, el oficial acusado de asesinar a George Floyd en Minneapolis en mayo pasado, y en el tercer día de protestas en respuesta al tiroteo de Daunte Wright en el cercano Brooklyn Center, Minnesota. Wright, un hombre negro de 20 años, fue detenido por una parada de tráfico y arrestado bajo una orden judicial antes de que el oficial Kim Potter le disparara y lo matara, supuestamente confundiendo su pistola con una pistola Taser.
Eric Williams dice que es esencial comprender el reconocimiento facial en este contexto más amplio de fallas policiales:
Cuando DPD decidió comprar la tecnología... se sabía que la tecnología de reconocimiento facial era propensa a identificar erróneamente a las personas de piel más oscura antes de que arrestaran al Sr. Williams, ¿verdad? A pesar de eso, en una ciudad que tiene más del 80% de negros, optaron por usar esta tecnología.
Está claro que le está dando menos valor a las vidas, los medios de subsistencia y las libertades civiles de los negros que a los blancos. Eso es demasiado común en los Estados Unidos actuales.
Esta historia se actualizó para incluir una declaración de la ciudad de Detroit. Jennifer Strong contribuyó informando a esta historia.