Podríamos ver una regulación federal sobre el reconocimiento facial tan pronto como la próxima semana

Foto AP/John Minchillo, archivo

El 10 de mayo, 40 grupos de defensa enviaron una carta abierta exigiendo una prohibición permanente sobre el uso del software de reconocimiento facial de Amazon, Rekognition, por parte de la policía estadounidense. La carta estaba dirigida a Jeff Bezos y Andy Jassy, ​​los directores ejecutivos actuales y entrantes de la compañía, y llegó solo unas semanas antes. La moratoria de un año de Amazon sobre las ventas a las fuerzas del orden estaba a punto de expirar.

La carta contrastaba el apoyo vocal de Bezos y Jassy a los activistas de Black Lives Matter durante las protestas por la justicia racial del verano pasado después del asesinato de George Floyd con el informe de que Las fuerzas del orden han utilizado otros productos de Amazon para identificar a los manifestantes. .

El 17 de mayo, Amazon Anunciado extendería su moratoria indefinidamente, uniéndose a los competidores IBM y Microsoft en el purgatorio autorregulado. La medida es un guiño al poder político de los grupos que luchan para frenar la tecnología y un reconocimiento de que están comenzando a surgir nuevos campos de batalla legislativos. Muchos creen que es probable que pronto se produzca una legislación federal sustancial.

la gente esta agotada

El año pasado ha sido fundamental para el reconocimiento facial , con revelaciones del papel de la tecnología en falsos arrestos , y las prohibiciones establecidas por casi dos docenas de ciudades y siete estados a través de los EE.UU. Pero el impulso ha estado cambiando durante algún tiempo.

En 2018, investigadores de IA publicaron un estudio comparando la precisión del software comercial de reconocimiento facial de IBM, Microsoft y Face++. Su trabajo encontró que la tecnología identificaba a los hombres de piel más clara con mucha más precisión que a las mujeres de piel más oscura; El sistema de IBM obtuvo la peor puntuación, con una diferencia del 34,4 % en la tasa de error entre los dos grupos.

También en 2018, la ACLU probó el Rekognition de Amazon y descubrió que identificó erróneamente a 28 miembros del Congreso como delincuentes, un error que afecta de manera desproporcionada a las personas de color. La organización escribió su propia carta abierta a Amazon , exigiendo que la empresa prohíba el uso gubernamental de la tecnología, al igual que el Caucus Negro del Congreso —pero Amazon no hizo cambios.

(Un portavoz de Amazon remitió a MIT Technology Review a un refutación publicado en julio de 2018 que expone los problemas que tuvo la empresa con la precisión y los métodos de la prueba de la ACLU).

'Si vamos a comprometernos con la equidad racial en el sistema de justicia penal... una de las cosas más simples y claras que puede hacer es poner fin al uso de la tecnología de reconocimiento facial'.

Kate Ruane, ACLU

Sin embargo, durante los movimientos de justicia racial contra la brutalidad policial del verano pasado, Amazon sorprendió a muchos al anunciar que suspendería el uso policial de Rekognition, con excepciones para los agentes de la ley federales como ICE. El anuncio de la compañía decía que esperaba que la pausa le diera al Congreso suficiente tiempo para implementar las reglas apropiadas.

Evan Greer es el director de Fight for the Future, un grupo de defensa de la tecnología que cree en la abolición de la tecnología de reconocimiento facial y dice que existe un creciente apoyo público para que se regule. Ella dice que la extensión de la moratoria de esta semana muestra que Amazon está respondiendo a esta enorme presión que está recibiendo, no solo en torno al reconocimiento facial, y agrega que realmente le doy un gran crédito a los levantamientos nacionales por la justicia racial que han ocurrido durante el último año. y medio.

Una realidad política

Si bien se está ejerciendo presión sobre los grandes proveedores de tecnología, la realidad es que la mayoría de los usuarios gubernamentales y encargados de hacer cumplir la ley no compran software de reconocimiento facial de empresas como Amazon. Entonces, aunque las moratorias y las prohibiciones son bienvenidas para los grupos de defensa, no necesariamente impiden que se usen las tecnologías. Mientras tanto, el Congreso aún tiene que aprobar una legislación federal sobre reconocimiento facial en entornos comerciales, gubernamentales o policiales que regularía a los proveedores más pequeños.

Sin embargo, algunos esperan que la legislación federal llegue pronto, ya sea a través de la acción directa del Congreso, una orden ejecutiva presidencial o los próximos proyectos de ley de apropiación y reforma policial.

Creo que el mejor de los casos es que el Congreso apruebe una moratoria sobre su uso, dice Kate Ruane, asesora legislativa sénior de la ACLU. Ella piensa que los nuevos usos solo deberían permitirse después de más trabajo legislativo.

Ya se han propuesto varios proyectos de ley federales que frenarían el acceso al reconocimiento facial.

• El Ley de moratoria de tecnología biométrica y reconocimiento facial pide que se prohíba el uso del software por parte de cualquier entidad federal y que se retenga el dinero de la subvención federal de las autoridades estatales y locales que no promulguen su propia moratoria. Fue propuesta por cuatro miembros demócratas del Congreso y presentada al Senado el año pasado.
• El Ley de justicia en la policía de George Floyd impediría el uso de reconocimiento facial en cámaras corporales. El proyecto de ley ya fue aprobado en la Cámara y se espera que llegue al Senado la próxima semana. El presidente Biden ha pedido que el proyecto de ley se apruebe antes del aniversario de la muerte de George Floyd el 25 de mayo.
• El Ley de la Cuarta Enmienda No Está a la Venta , un proyecto de ley bipartidista presentado por 18 senadores, impide que el gobierno trabaje con proveedores de tecnología que infrinjan los términos de servicio. En la práctica, impediría en gran medida el acceso del gobierno a los sistemas que se dedican al web scraping, como Clearview IA .

Mutale Nkonde, el CEO fundador de AI for the People, una organización sin fines de lucro que aboga por la justicia racial en la tecnología, cree que es probable que veamos una legislación federal adicional para las elecciones de mitad de período del próximo año.

Creo que se introducirá una legislación federal que regirá todos los sistemas algorítmicos, incluido el reconocimiento facial, dice Nkonde. Creo que esa es una realidad política.

Nkonde dice que el concepto de evaluaciones de impacto que evalúan los sistemas tecnológicos sobre la base de los derechos civiles está ganando terreno en los círculos políticos de ambos lados del pasillo.

La ACLU está presionando a la administración Biden para que emita una orden ejecutiva, y recientemente publicó una carta con otros 40 grupos pidiendo una prohibición inmediata del uso gubernamental de la tecnología.

Si nos vamos a comprometer con la justicia racial, si nos vamos a comprometer con la equidad racial en el sistema de justicia penal, nos vamos a comprometer con ese tipo de reformas, una de las cosas más sencillas y claras que puedes hacer es terminar el uso de la tecnología de reconocimiento facial, dice Ruane.

La gente es más radical.

Mientras tanto, Ruane espera que la autorregulación siga siendo uno de los métodos más efectivos para prevenir el uso extendido del reconocimiento facial. Es plausible que las agencias federales como los Departamentos de Vivienda, Seguridad Nacional y Educación consideren imponer reglas que prohíban el uso de la tecnología. .

Nkonde es optimista de que las moratorias se expandirán a prohibiciones y una legislación más permanente: creo que las moratorias parecían ser lo que era posible antes de que mataran a George Floyd. Después de eso, la gente es más radical.

Pero Greer advierte que a pesar de todo el impulso contra el reconocimiento facial, la legislación que se enfoca en gran medida en la precisión racial de los sistemas podría no resolver problemas más profundos. Creo que sería un error si los legisladores ven la precisión como el único problema con el reconocimiento facial que debe abordarse, dice. En realidad, la industria estaría muy contenta con un proyecto de ley que, por ejemplo, diga algo como 'Si va a vender un sistema de reconocimiento facial, tiene que tener una precisión del 99 % en personas de todas las razas y tonos de piel'.

Incluso si el sesgo no está integrado en el sistema, todavía tiene un sistema policial sesgado que ahora se está acelerando y sobrealimentando con esta tecnología, agrega.

Esta historia se ha actualizado para incluir la refutación de Amazon a la prueba de la ACLU del sistema Rekognition de Amazon en 2018.

esconder