La pandemia está poniendo a prueba los límites del reconocimiento facial

Sra. Tecnología | pexels

A primera vista, JB, un artista con sede en Los Ángeles, quizás no se parezca mucho a la imagen de su licencia de conducir. Por un lado, la foto del DNI es de hace unos años. El cabello que alguna vez fue largo y oscuro ahora está rapado y decolorado. Y está el hecho de que JB es transgénero y ha estado tomando testosterona durante más de dos años, lo que ha provocado cambios en los rasgos faciales, cejas más gruesas y acné que antes no tenía. (Pidieron ser identificados solo por sus primeras iniciales debido a preocupaciones de privacidad).

JB perdió un trabajo minorista de medio tiempo cuando los cierres llegaron en marzo pasado y, como millones de otros estadounidenses, intentó solicitar beneficios de desempleo, sin sospechar que su apariencia cambiante se interpondría en el camino. Meses después de enviar el papeleo electrónicamente y de hacer varias llamadas a una línea directa que no llegó a ninguna parte, finalmente se invitó a JB a usar el sistema de reconocimiento facial de California para verificar su identidad. Pero incluso después de varios intentos, el sistema no pudo hacer coincidir la cara y la foto de identificación de JB, lo que los excluyó de los beneficios para los que calificaban. Finalmente, JB dejó de intentarlo: el proceso era demasiado frustrante.

Historia relacionada

Cómo reabrieron estas escuelas de EE. UU. sin provocar un brote de covid

Las escuelas que mantuvieron los casos bajos el año pasado, a pesar del caos pandémico, compartieron algunas estrategias en común. Esto es lo que pueden enseñarnos sobre cómo hacerlo bien.

Las fuerzas del orden público y las empresas privadas han utilizado el reconocimiento facial durante años, pero el uso de la tecnología para distribuir ayuda gubernamental se ha expandido rápidamente durante la pandemia. Estados y Agencias federales han recurrido al reconocimiento facial como una forma automatizada y sin contacto de verificar la identidad de las personas que solicitan beneficios de desempleo y otros beneficios públicos.

A los expertos y activistas les preocupa que las fallas de esta tecnología puedan impedir que las personas obtengan los beneficios que necesitan desesperadamente, y que podría ser aún más peligroso si funciona según lo diseñado.

Usando tu cara para lo mundano

La pandemia aceleró el uso de muchas herramientas de recopilación de datos biométricos: controles de temperatura en las puertas, cámaras térmicas en las escuelas, escaneos faciales en los aeropuertos. Cuando se trata de beneficios como el desempleo, los gobiernos estatales están recurriendo en particular al reconocimiento facial, para verificar la identidad de las personas antes de liberar el dinero al que tienen derecho. La segunda ola de fondos de estímulo de EE. UU., aprobada en diciembre de 2020, requería que los estados verificaran a las personas que solicitaban Asistencia de Desempleo por la Pandemia, un fondo federal de dinero.

Ahora 27 estados agencias de desempleo (California entre ellos) están trabajando con ID.me, una empresa que ofrece tecnología de reconocimiento facial, dice el CEO Blake Hall. El Departamento de Trabajo de los Estados Unidos también proporcionó millones en financiamiento a los estados para que implementen medidas de prevención del fraude, lo que ha bombeó más dólares en el reconocimiento facial. En los últimos meses ha habido informes en todo el pais de incidentes en los que los sistemas de desempleo no reconocieron los escaneos faciales de los solicitantes, poniendo a personas como JB en situaciones financieras precarias. El riesgo de identificación errónea no se distribuye por igual: se ha demostrado que el reconocimiento facial es menos preciso para gente de color que los blancos, y es más probable que los hombres sean identificados con precisión que las mujeres, según un estudio federal publicado en 2019. Los hallazgos se exploraron más a fondo en un estudio el año pasado.

Hall dice que en una muestra de 700 usuarios, ID.me no encontró una correlación entre el tono de piel y la probabilidad de fallar en el paso de coincidencia uno a uno.

El software de reconocimiento facial comenzó a ser más común años antes de la pandemia, y sus fallas potenciales están bien documentadas: los periodistas han revelado cómo los departamentos de policía de EE. UU. usan vastas bases de datos de caras en las investigaciones, con precisión cuestionable. Compañías han detenido o limitado uso de la tecnología en medio de la evidencia de que no funciona tan bien en personas de color. Aun así, sigue propagándose: otras agencias federales plan en la expansión de su uso, mientras que también se está utilizando en todas partes, desde centros comerciales hasta salas de conciertos. Macy's era demandado el año pasado por su presunto uso de reconocimiento facial en los clientes de la tienda. Pero los usos de la tecnología relacionados con la pandemia para detectar cosas como la elegibilidad de beneficios tienen a los críticos especialmente preocupados.

Lo que me mantiene despierto por la noche es que con la pandemia acelerando las cosas, comenzaremos a ver esto aparecer en todas partes, dice Evan Greer, director de Fight for the Future, un grupo de derechos digitales. Estará en las tiendas y tendrás la opción de pagar con tu cara. Se normalizará en el transporte público. Se utilizará en entrevistas de trabajo.

Historia relacionada

¿Cómo ha aumentado la desigualdad la respuesta de Estados Unidos a la pandemia? Mira los salones de uñas de Nueva York.

Si bien muchos trabajadores de cuello blanco se quedaron en casa para evitar el covid, los empleados de los salones enfrentaron altas tasas de infección, decisiones imposibles sobre mantenerse a salvo y poca ayuda del gobierno.

Cada vez más, se está utilizando en lo que se presenta como el interés de la salud pública. Australia recientemente amplió un programa utilizando el reconocimiento facial para hacer cumplir las precauciones de seguridad de covid-19. Las personas que están en cuarentena están sujetas a controles aleatorios, en los que deben enviar una selfie para confirmar que están siguiendo las reglas. También se recopilan datos de ubicación, según Reuters.

Cuando se trata de elementos esenciales como los beneficios de emergencia para pagar la vivienda y los alimentos, la primera prioridad debe ser asegurarse de que todos puedan acceder a la ayuda, dice Greer. Prevenir el fraude es un objetivo razonable en la superficie, agrega, pero el objetivo más apremiante debe ser brindar a las personas los beneficios que necesitan.

Los sistemas deben construirse teniendo en cuenta los derechos humanos y las necesidades de las personas vulnerables desde el principio. Esas no pueden ser ideas de último momento, dice Greer. No pueden ser correcciones de errores después de que ya salió mal.

Hall de ID.me dice que los servicios de su compañía son preferibles a los métodos existentes de verificación de identidad y han ayudado a los estados a reducir el fraude masivo de desempleo desde que implementaron controles de verificación facial. Él dice que los reclamos de desempleo tienen una tasa de aprobación real de alrededor del 91%, ya sea solos o a través de una videollamada con un representante de ID.me.

[Ese] era nuestro objetivo al entrar, dice. Si pudiéramos automatizar el 91% de esto, entonces los estados que simplemente están superados en términos de recursos pueden usar esos recursos para brindar un servicio de conserjería de guante blanco al 9%.

Cuando los usuarios no pueden pasar por el proceso de reconocimiento facial, ID.me les envía un correo electrónico para hacer un seguimiento, según Hall.

Todo acerca de esta empresa se trata de ayudar a las personas a obtener acceso a las cosas para las que son elegibles, dice.

Tecnología en el mundo real

Los meses que JB sobrevivió sin ingresos fueron difíciles. La preocupación financiera fue suficiente para causar estrés, y otros problemas, como una computadora rota, agravaron la ansiedad. Incluso su antiguo empleador no pudo o no quiso ayudar a eliminar la burocracia.

Es muy aislado decir: 'Nadie me está ayudando en ninguna situación', dice JB.

Del lado del gobierno, los expertos dicen que tiene sentido que la pandemia haya traído nuevas tecnologías al frente, pero casos como el de JB muestran que la tecnología en sí misma no es la respuesta completa. Anne L. Washington, profesora asistente de política de datos en la Universidad de Nueva York, dice que es tentador considerar que una nueva tecnología gubernamental es un éxito cuando funciona la mayor parte del tiempo durante la fase de investigación, pero falla el 5 % de las veces en el mundo real. Ella compara el resultado con un juego de sillas musicales, donde en una sala de 100 personas, cinco siempre se quedarán sin asiento.

El problema es que los gobiernos obtienen algún tipo de tecnología y funciona el 95 % de las veces; creen que está resuelto, dice. En cambio, la intervención humana se vuelve más importante que nunca. Dice Washington: Necesitan un sistema para manejar regularmente a las cinco personas que están de pie.

Hay una capa adicional de riesgo cuando se trata de una empresa privada. El mayor problema que surge en el lanzamiento de un nuevo tipo de tecnología es dónde se guardan los datos, dice Washington. Sin un entidad de confianza que tiene el deber legal de proteger la información de las personas, los datos sensibles podrían terminar en manos de terceros. ¿Cómo nos sentiríamos, por ejemplo, si el gobierno federal le hubiera confiado a una empresa privada nuestros números de Seguro Social cuando se crearon?

El problema es que los gobiernos obtienen algún tipo de tecnología y funciona el 95 % de las veces: creen que está resuelto.

Anne L. Washington, Universidad de Nueva York

El uso generalizado y sin control de las herramientas de reconocimiento facial también tiene el potencial de afectar a grupos ya marginados más que a otros. Las personas transgénero, por ejemplo, haber detallado , problemas frecuentes con herramientas como Google Photos, que pueden cuestionar si las fotos anteriores y posteriores a la transición muestran a la misma persona. Significa contar con el software una y otra vez.

[Hay] inexactitud en la capacidad de la tecnología para reflejar la amplitud de la diversidad real y los casos extremos que hay en el mundo real, dice Daly Barnett, tecnólogo de Electronic Frontier Foundation. No podemos confiar en ellos para clasificar, calcular y reflejar con precisión esos hermosos casos extremos.

Peor que el fracaso

Las conversaciones sobre el reconocimiento facial suelen debatir cómo la tecnología podría fallar o discriminar. Pero Barnett alienta a las personas a pensar más allá de si las herramientas biométricas funcionan o no, o si aparece un sesgo en la tecnología. Ella rechaza la idea de que los necesitamos en absoluto. De hecho, activistas como Greer advierten que las herramientas podrían ser aún más peligrosas cuando funcionan a la perfección. El reconocimiento facial ya se ha utilizado para identificar, castigar o sofocar a los manifestantes, aunque la gente se está defendiendo. En Hong Kong, los manifestantes usaron máscaras y gafas protectoras para ocultar su rostro s de tal vigilancia policial. En los Estados Unidos, los fiscales federales cargos retirados contra un manifestante identificado mediante reconocimiento facial que había sido acusado de agredir a policías.

Historia relacionada

Las cifras oficiales de desempleo son aterradoras. La situación real es aún peor. Las cifras récord de desempleo solo insinúan la crisis que enfrentan muchos sin trabajo.

Creo que es comprensible que nos centremos en estos defectos y sesgos, porque esta tecnología se está utilizando en este momento, dice Greer. Pero cuando tomas una tecnología... y la colocas encima de una sociedad que es profundamente injusta, incluso si la tecnología en sí misma es 'neutral' o no tiene ningún tipo de sesgo incorporado, tendrá el efecto de automatizar y exacerbar esa discriminación.

Fight for the Future y EFF apoyan la prohibición del uso gubernamental de herramientas de reconocimiento facial. Y Barnett dice que, incluso cuando se usa la tecnología, las agencias gubernamentales no deben depender de un solo sistema como guardián para acceder, especialmente para obtener los elementos esenciales que las personas necesitan para sobrevivir.

No es muy difícil imaginar cómo, incluso si tienen buenas intenciones ahora, [estas tecnologías] pueden usarse como armas contra las personas para varios propósitos más adelante, dice.

Sin embargo, para las personas marginadas, los roces con el reconocimiento facial ya están causando problemas. Más de un año después de que JB solicitó por primera vez el desempleo, los detalles del arduo proceso aún están grabados en su memoria. Cuando el reclamo original expiró esta primavera, fue un alivio. Recientemente habían conseguido un nuevo trabajo, y finalmente las cosas volvieron a la normalidad.

Fue como, finalmente estoy recuperando mi vida, dicen. Estoy muy contento de no tener que lidiar con ese sistema. Y realmente espero no tener que lidiar con ese sistema nunca más.

Esta historia es parte del Proyecto de Tecnología Pandémica, apoyado por la Fundación Rockefeller.

esconder