211service.com
Por qué 2020 fue un año crucial y contradictorio para el reconocimiento facial
Alejandro Farnsworth | Getty
El primer arresto injusto confirmado en Estados Unidos mediante tecnología de reconocimiento facial ocurrió en enero de 2020. Robert Williams, un hombre negro, fue arrestado en la entrada de su casa en las afueras de Detroit, con su esposa y su hija pequeña observando. Pasó la noche en la cárcel. Al día siguiente, en la sala de interrogatorios, un detective le deslizó a Williams una foto sobre la mesa de otro hombre negro que había sido captado en video robando relojes de la boutique Shinola.
¿Este Eres tu? preguntó .
No, ese no soy yo. Williams respondió.
El detective le pasó otra foto. ¿Supongo que este tampoco eres tú?
Williams sostuvo la fotografía junto a su rostro. Claramente no era él. Williams dijo: Este no soy yo. Espero que no pienses que todos los negros se parecen.
La computadora dice que eres tú, respondió el detective.
Lo novedoso de la arresto de robert williams no es que haya ocurrido, o que haya sido un error. Se sabe que el reconocimiento facial es menos preciso para las personas de piel más oscura. Y la tecnología es ampliamente utilizada por los departamentos de policía en los Estados Unidos, aunque no hay buenos datos sobre cuán omnipresente es. La parte inusual de la historia de Williams es que la policía admitió haber utilizado el reconocimiento facial en su arresto.
La noticia del caso se hizo pública a principios de agosto y, después de un verano de protestas centradas en la forma en que se vigila a las comunidades negras en Estados Unidos, generó indignación en todo el país. Un par de semanas después, salió a la luz otro arresto injustificado de un hombre negro en Detroit debido a la tecnología de reconocimiento facial.
Incluso antes de esto, los activistas habían estado exigiendo el fin del Proyecto Greenlight, la iniciativa público-privada de toda la ciudad que utiliza el reconocimiento facial en un esfuerzo por reducir el crimen. Y, sin embargo, no solo el proyecto sigue en marcha: a finales de septiembre, el ayuntamiento votó a favor de ampliar el contrato entre el Departamento de Policía de Detroit y su proveedor de reconocimiento facial, DataWorks Plus.
Un año de contradicciones
Los eventos en Detroit ejemplifican nuestra complicada relación con el reconocimiento facial en este momento. Su uso está creciendo y en algunos campos la tecnología se ha vuelto integral. En otros, como el comercio minorista, el reconocimiento facial está comenzando a implementarse con grandes esperanzas para el futuro. Muchos proveedores de tecnología apuestan a que el público se sentirá cada vez más cómodo con el uso de la biometría, y pronto será parte orgánica de la vida digital: Apple ha apostado fuerte por ella, y ahora millones de personas usan su sistema Face ID para desbloquear sus iPhone todos los días.
Pero el público también tiene una nueva conciencia de los peligros que plantea el reconocimiento facial, especialmente en la justicia penal. Hay significativamente más conciencia, más preocupación y más conversación ahora que nunca, y este año ha visto más legislación sobre reconocimiento facial que todos los años anteriores combinados. Hubo prohibiciones o moratorias en seis ciudades de los EE. UU. en 2019, y lo mismo nuevamente este año.
Conciliar estas leyes con el crecimiento de la industria será difícil. Pero los eventos de 2020 dan algunas pistas sobre cómo podrían desarrollarse estos compromisos durante el próximo año.
Pequeños actores, gran industria
En enero, el New York Times publicó una investigación de ClearviewAI, una pequeña empresa de reconocimiento facial que ejecutó su algoritmo en una base de datos de miles de millones de imágenes tomadas de las redes sociales. Los departamentos de policía que usaban el sistema de ClearviewAI accedían de manera efectiva a sus fotos de Facebook para hacer coincidir imágenes policiales a menudo borrosas o incompletas durante las investigaciones.
La empresa fue muy criticada y informes posteriores de BuzzFeed News mostró que el sistema estaba siendo utilizado por hasta 2200 agencias de aplicación de la ley en los EE. UU., así como por el Servicio de Inmigración y Control de Aduanas, el Departamento de Justicia y minoristas como Macy's y Walmart.
La historia de Clearview realmente asustó a mucha gente, como debería ser, dice Jameson Spivack, asociado de políticas en el Centro de Privacidad y Tecnología de la Universidad de Georgetown. Muchas de las preocupaciones se centran en cuán fragmentado está el campo. Si bien las principales empresas como IBM y Microsoft son fuerzas importantes, también hay muchas empresas privadas más pequeñas, como ClearviewAI y NtechLab, que operan con poca supervisión pública. El informe también expuso lo poco que el público sabía sobre el uso generalizado de la tecnología por parte del gobierno.
El catalizador: protestas raciales
Estas historias generaron conciencia sobre los problemas, pero Spivack dice que las protestas de Black Lives Matter luego del asesinato de George Floyd fueron el mayor catalizador para la legislación que restringe el uso del reconocimiento facial en los Estados Unidos. Los estadounidenses de repente comenzaron a reexaminar la vigilancia policial y sus herramientas, políticas y cultura.
La preocupación había comenzado a crecer después de que los investigadores Joy Buolamwini y Timnit Gebru descubrieran y sesgo racial documentado en productos comerciales de reconocimiento facial en 2018, lo que llevó a varias ciudades y estados a aprobar leyes eso impidió que la policía usara el reconocimiento facial junto con las cámaras corporales.
Pero durante el movimiento de protesta más grande en la historia de Estados Unidos, los activistas estaban preocupados que las tecnologías de vigilancia policial se utilizarían como represalia. Desde entonces se ha confirmado que al menos el Nueva York , Miami , y Departamento de policía de Washington, D.C. s usó el reconocimiento facial para vigilar a los manifestantes.
El 1 de junio en Washington, DC, la policía usó bolas de pimienta y gases lacrimógenos para hacer retroceder a los manifestantes en Lafayette Square para que el presidente Trump pudiera sacar una foto en una iglesia cercana. En medio del caos, un manifestante golpeó a un oficial de policía. Días después, los oficiales encontraron una foto del hombre en Twitter y la revisaron en su sistema de reconocimiento facial, encontraron una coincidencia y lo arrestaron. De manera similar, en Miami, una mujer acusada de arrojar piedras a la policía durante una protesta fue arrestada sobre la base de una coincidencia de reconocimiento facial.
Spivack vio a activistas de base contra el reconocimiento facial trabajar de cerca con grupos de reforma policial durante el verano y el otoño, liderados por otros grupos de defensa como la Unión Estadounidense de Libertades Civiles. En Portland, Oregón, un manifestante incluso creó un sistema de reconocimiento facial para identificar policías anónimos .
A medida que avanzaba 2020, se propuso legislación para limitar el uso policial de dicha tecnología a nivel municipal, estatal e incluso federal. En junio, los legisladores demócratas presentaron un proyecto de ley que prohibiría el uso del reconocimiento facial por parte de las fuerzas del orden público federales. En Vermont, una orden ejecutiva del gobernador creó una prohibición en todo el estado sobre el uso de la tecnología por parte del gobierno. En Massachusetts, las ciudades de Cambridge y Boston aprobaron prohibiciones sobre la tecnología este verano y el gobierno estatal aprobó una prohibición de reconocimiento facial para las agencias públicas, que incluye la aplicación de la ley, en diciembre; El gobernador Charlie Baker es actualmente negarse a firmar el proyecto de ley .
California comenzó su propio debate sobre la legislación estatal en mayo, y las ciudades de San Francisco y Oakland ya prohibieron el uso del reconocimiento facial por parte de las fuerzas del orden. En julio, la ciudad de Nueva York instituyó una moratoria sobre el reconocimiento facial en las escuelas hasta 2022. En Portland, Oregón, una nueva prohibición en toda la ciudad prohíbe el uso de la tecnología por parte de cualquier grupo público o privado.
Pero este cambio no está ocurriendo en todas partes, como lo muestra la renovación del compromiso con la vigilancia en Detroit. Spivack especula que la dinámica del poder racial podría estar influyendo en la lucha política en torno a la vigilancia policial. Si observa muchas de las ciudades que fueron algunas de las primeras en prohibir el reconocimiento facial, generalmente eran, no siempre, pero típicamente, más ricas, más blancas, muy progresistas, tal vez con más capital político y capacidad para impactar a los legisladores, más aún. que las comunidades más marginadas, dice.
¿Una perspectiva nacional?
Sin embargo, no toda la reacción ha tomado la forma de legislación. A principios de junio, IBM anunció que había dejado de vender cualquiera de sus productos de reconocimiento facial. Amazon y Microsoft hicieron lo mismo al suspender temporalmente sus contratos con los departamentos de policía. Y en julio, la ACLU presentó una demanda contra ClearviewAI por no cumplir con la Ley de privacidad de información biométrica de Illinois, el primer desafío legal completo para la empresa.
Microsoft, Amazon, IBM y grupos de la industria como la Asociación de la Industria de Seguridad se están preparando para una pelea. Ellos dramáticamente aumentó la cantidad de cabildeo sobre el reconocimiento facial de 2018 a 2019, y se espera que 2020 muestre un aumento aún mayor. Muchos están a favor de una mayor regulación, pero no de prohibiciones. La moratoria de Amazon terminará en junio y la de Microsoft depende de la institución de una ley federal.
Mientras tanto, la ACLU continúa redactando una legislación que busca prohibir la tecnología. Una declaración en su sitio web dice que la organización está tomando los tribunales, las calles, las legislaturas, los ayuntamientos e incluso las salas de juntas corporativas para defender nuestros derechos contra los crecientes peligros de esta tecnología de vigilancia no regulada.
Las prioridades de la nueva administración también darán forma a la regulación en 2021 y más allá. Como candidata presidencial, Kamala Harris citado reglamento de reconocimiento facial en la aplicación de la ley como parte de su plan de reforma policial. Si la administración impulsa la legislación federal, es más probable que se convierta en un problema nacional, con el resultado de que se destinarán menos recursos a más campañas de supervisión local. Pero si no, es probable que la lucha continúe a nivel estatal y municipal.