Por qué la prohibición del reconocimiento facial en San Francisco es solo el comienzo de una larga lucha

Una imagen de una calle en San Francisco Unsplash

San Francisco se ha convertido en el primera ciudad de EE. UU. en prohibir el uso del reconocimiento facial por parte de su gobierno . Pero aunque los defensores de la privacidad están celebrando, la ordenanza no impide que las empresas privadas usen la identificación facial de una manera que muchas personas encuentran espeluznante.

Sin embargo, podría ser un primer paso.

El uso de la tecnología de reconocimiento facial se ha vuelto cada vez más común, a pesar de la evidencia de que con frecuencia identifica erróneamente a las personas de color . Los activistas advierten que podría dar lugar a detenciones falsas o utilizarse para rastrear el paradero y el paradero de las personas. apuntar a los disidentes que no han hecho nada malo .

En los últimos años, los funcionarios de San Francisco han tenido que cuestionar su uso de herramientas de vigilancia de alta tecnología. En 2009, la policía detuvo a una conductora, Denise Green, y la retuvo a punta de pistola mientras registraba su auto , todo porque un lector de matrículas dijo erróneamente que había sido robado. Green demandó y la ciudad terminó pagándole $ 495,000 . Tales episodios, sin duda, contribuyeron a la presión por la prohibición, aunque la policía de San Francisco actualmente no utiliza tecnología de reconocimiento facial.

Sin embargo, en muchos sentidos, no sorprende que la ciudad obsesionada con la tecnología sea la primera en restringir la tecnología. [Es como] los padres de Silicon Valley tienen más probabilidades de prohibir el tiempo de pantalla para sus hijos, dice Laura Noren, especialista en ética de datos y vicepresidenta de privacidad y confianza en Seguridad de obsidiana . Es probable que otras ciudades con conocimientos tecnológicos sigan su ejemplo, dice Noren, lo que explica por qué las cercanías de Oakland y Somerville en Massachusetts ya han propuesto prohibiciones similares. Aún así, cree que una prohibición federal es poco probable bajo la administración Trump.

Público vs privado

Sin embargo, la experiencia de la mayoría de las personas con el análisis y reconocimiento facial no sucederá debido al monitoreo policial. Más bien, será debido a esfuerzos no gubernamentales, como cámaras de seguridad de la escuela o tiendas que mostrar anuncios dirigidos a los consumidores . Estos usos conllevan los mismos riesgos de identificación errónea y discriminación, pero prohibiciones como la de San Francisco no los prohibirán.

En un ejemplo de los problemas que podrían surgir, un joven de 18 años demandó a Apple el mes pasado porque, alegó, un sistema de reconocimiento facial en una de sus tiendas lo vinculó falsamente con los robos. (Según Apple, no usa tales sistemas en sus tiendas). En otro caso, los inquilinos de Atlantic Plaza Towers, un edificio de apartamentos en la ciudad de Nueva York, están luchando contra el plan de su arrendador para reemplazar un sistema de entrada de llavero con un sistema de reconocimiento facial . La tecnología es discriminatoria, dicen los inquilinos, porque los residentes de la torre son en su mayoría personas de color. ¿Por qué [el propietario] eligió nuestro edificio para probar este sistema? ¿En comparación con otros 11 edificios que tienen una composición diferente? pregunta Icemae Downes, uno de los residentes.

Sin embargo, es poco probable que se produzca una prohibición total en el sector privado. Muchos consumidores ya están usando FaceID para desbloquear sus iPhones o comprando videoporteros, como Nest Hello de Google, que identificar personas conocidas . Cuando su narrativa es 'vigilancia del gobierno', eso tiende a tener una resonancia poderosa, dice José Jerónimo , asesor de políticas del Proyecto de Privacidad y Datos del Centro para la Democracia y la Tecnología. Cuando se trata del sector privado, comenzamos a tener debates sobre lo que constituye una innovación beneficiosa.

Estos debates se complican rápidamente. Si las empresas usan tecnología de reconocimiento facial, ¿cómo deben notificar a los clientes? ¿Qué derechos deberían tener las personas para optar por no participar y qué tan fácil debería ser ese proceso? ¿Se deben dar o vender los datos a terceros? Estas fueron algunas de las preguntas que surgieron durante la discusión de un Proyecto de ley de privacidad del estado de Washington que fracasó a principios de este año, según Jevan Hutson , investigador de políticas tecnológicas de la Universidad de Washington. Las dos partes no pudieron ponerse de acuerdo sobre qué tan fuertes deberían ser las restricciones de privacidad.

Aún así, han comenzado a aparecer restricciones sobre los usos comerciales, dice Jennifer Lynch, directora de litigios de vigilancia en Electronic Frontier Foundation. Por ejemplo, una ley en Illinois requiere que las empresas obtengan el consentimiento antes de recopilar cualquier tipo de datos biométricos. Un proyecto de ley bipartidista con un requisito más limitado, el Ley de Privacidad de Reconocimiento Facial Comercial , se encuentra actualmente en audiencias de comité en el Congreso.

Por su parte, Noren cree que las empresas buscarán un requisito de umbral de precisión; de hecho, propondrán que se permita el reconocimiento facial siempre que puedan demostrar que no comete demasiados errores.

En última instancia, dice Jerome, es demasiado pronto para decir cuánto influirá la ordenanza de SF en la regulación comercial. Creo que impulsará el debate que los estados y el gobierno federal están teniendo en torno al reconocimiento facial, pero no está claro si eso lleva a la acción, dice. Hace unos años hubo una división pública/privada similar sobre los drones, agrega Jerome: muchas ciudades locales restringieron su uso por parte de las fuerzas del orden, pero hicieron poco para regularlos con fines comerciales.

esconder