Los ciudadanos recurren al reconocimiento facial de policías no identificados

La nueva serie de nuestro podcast de IA, In Machines We Trust, trata sobre el reconocimiento facial. En la primera parte de la serie, Jennifer Strong y el equipo de MIT Technology Review exploran las formas inesperadas en que se utiliza la tecnología, incluida la forma en que se vuelve contra la policía.

Nos encontramos:

• Christopher Howell, científico de datos y manifestante.

Créditos:

Este episodio fue informado y producido por Jennifer Strong, Tate Ryan-Mosley y Emma Cillekens, y Karen Hao. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción:

[Anuncio publicitario]

[ID TR]

Fuerte: Han sucedido algunas cosas desde la última vez que hablamos sobre el reconocimiento facial. Hemos visto más lugares moverse para restringir su uso mientras que, al mismo tiempo, las escuelas y otros edificios públicos han comenzado a usar Face ID como parte de sus planes de prevención de covid. Incluso lo estamos usando en animales y no solo en caras similares a las nuestras, como chimpancés y gorilas, las empresas tecnológicas chinas lo usan en cerdos y los científicos canadienses están trabajando para identificar ballenas, incluso osos pardos.

En otras palabras, la cantidad de formas en que podríamos usar esta tecnología se está disparando, al igual que las preocupaciones sobre si eso es factible, y mucho menos si es una buena idea. Y así, las prohibiciones sobre cómo se puede usar la identificación facial se están expandiendo, desde Portland, Maine hasta Portland, Oregón, donde las restricciones más estrictas sobre el reconocimiento facial en el país entrarán en vigencia el próximo año y prohibirán no solo su uso por parte de la policía, sino también comercial. aplicaciones también.

Rodador: Colegas, estamos aquí esta tarde para considerar dos ordenanzas que buscan prohibir el uso de tecnologías de reconocimiento facial por parte de nuestro propio gobierno de la ciudad de Portland y de entidades privadas en los espacios públicos.

Fuerte: Ese es el alcalde de Portland, Ted Wheeler, abriendo la reunión del consejo de la ciudad que aprobó estos proyectos de ley en septiembre. Como ocurre con la mayoría de las cosas en estos días, los comentarios públicos y la votación se realizaron en Zoom.

Rodador: Portland está lejos de ser una ciudad anti-tecnología, y quiero dejar eso muy claro. No estamos en contra de la tecnología con una amplia gama de empresas tecnológicas locales y nacionales. Somos uno de los centros tecnológicos de más rápido crecimiento en cualquier lugar de la costa oeste.

Fuerte: Durante las siguientes horas, abogados, ingenieros de software, ciudadanos preocupados y líderes empresariales expresaron su opinión. Luego, justo antes de que se llevara a cabo la votación. Una última persona, un científico de datos local, levantó su mano virtual para hacer una pregunta.

Rodador: Christopher Howell... por último, pero no menos importante, bienvenido.

Howell: Me gustaría expresar un apoyo condicional a esta ordenanza, pero tengo preocupaciones.

Fuerte: Eso es porque está construyendo algo que utiliza el reconocimiento facial de una manera menos convencional.

Howell: Estoy involucrado en el desarrollo del reconocimiento facial para usarlo con los agentes de policía de Portland, ya que no se identifican ante el público y están cometiendo delitos. ¿Se volvería esto ilegal si aprueba esta ordenanza?

[Música]

Fuerte: Soy Jennifer Strong y durante las próximas semanas vamos a hacer otra inmersión profunda en el aumento del reconocimiento facial. En esta última miniserie, exploraremos cómo se usa en los deportes tanto en atletas como en fanáticos, su uso en tiendas minoristas e incluso cómo se usa para servir a las personas sin hogar. Pero primero, comenzamos con un vistazo a cómo se está devolviendo a la policía.

[MOSTRAR ID]

Fuerte: El anonimato de la policía y otras figuras de autoridad está impregnado de una historia realmente complicada. Hay un delicado equilibrio entre privacidad y responsabilidad en ambos lados para los manifestantes y para la policía.

[Sonido de los disturbios de Chicago.]

Fuerte: Los disturbios de Chicago de 1968 interrumpieron los televisores de los estadounidenses de todo el país cuando sintonizaban para ver la Convención Nacional Demócrata, que se llevó a cabo en Chicago ese año.

[Sonido de los disturbios de Chicago.]

Fuerte: Los manifestantes se manifestaban contra la guerra de Vietnam y contra el Partido Demócrata. Después de enfrentarse con la policía en Grant Park, los manifestantes marcharon por Michigan Avenue hasta el hotel donde se alojaban muchos de los delegados de la convención. Durante 17 minutos, Estados Unidos vio en vivo cómo la Guardia Nacional de Illinois lanzaba gases lacrimógenos... mientras la policía golpeaba a los manifestantes.

[Sonido de disturbios en Chicago. 'Todo el mundo está mirando']

Fuerte: La policía no llevaba etiquetas con su nombre y esto es bastante común cuando la policía trata con los manifestantes. A veces es legal, a veces es ilegal y, a veces, incluso es obligatorio en aras de la seguridad, como este verano en Buffalo, Nueva York.

Reportero: El comisionado de la Policía de Buffalo dice que fue su decisión que los oficiales usaran sus números de placa y no sus nombres en sus uniformes.

Notario: Hubo una creciente preocupación por el acoso de los oficiales y sus familias. Para permitir que los oficiales hicieran su trabajo sin miedo, tomé la decisión en ese momento.

Fuerte: Pero cuando sucede, los ciudadanos y los activistas retroceden. Muchos argumentan que esto le da a la policía incluso más poder del que ya tiene... porque se vuelve casi imposible responsabilizarlos.

Entrevistado: Necesitamos que nuestro consejo se levante y hable por las 255,000 personas que usted representa y aliente y exija que esta fuerza policial cambie la política en lugar de pensar únicamente en la docena o más de oficiales que fueron acosados, quienes podrían estar protegidos bajo la ley actual existente. .

Fuerte: Pero, mucho antes de los hechos de este verano, la gente ha intentado identificar a policías no identificados. Han usado fotos de protestas, investigaciones en las redes sociales, crowdsourcing a través de Internet e incluso han recurrido al robo de información personal. Como en el caso de un colectivo de hackers, llamado Anonymous. Es conocido por alinearse con las protestas de Occupy Wall Street y eliminar brevemente el sitio web de la Bolsa de Valores de Nueva York. Ese mismo grupo luego filtró información privada que robó de sitios web de la policía y del gobierno, incluidas las direcciones de las casas de los oficiales de policía.

Llamada de broma: Se comunicó con la oficina del alguacil del condado de Baldwin... [anillo]

Fuerte: En esta llamada de broma, reclaman el crédito por el hackeo.

[Extractos de la llamada de broma]

Fuerte: Desenmascarar a aquellos que ejercen la fuerza sobre otros no es exclusivo de los EE. UU. En 2014, durante la anexión de Crimea por parte de Rusia, quizás recuerde que los soldados sin insignias en sus uniformes verdes tomaron el control. En ese momento, altos funcionarios, incluido el presidente Vladimir Putin, negaron repetidamente que esas tropas fueran rusas.

Un poquito : No hay tropas en absoluto. No hay tropas rusas al menos.

Fuerte: Este es el embajador de Rusia ante la UE hablando con los periodistas.

Embajador: Estados Unidos, siguiendo la tradición de interferir en otros países y enviar tropas al extranjero, puede estar actuando de acuerdo con su propia mentalidad… diría yo. Pero este no es un caso de interferencia rusa.

Fuerte: Pero fue. Al hacer coincidir las fotos, posiblemente con la ayuda del reconocimiento facial, el gobierno ucraniano determinó que las tropas estaban de hecho vinculadas al ejército ruso. Y publicaron fotos como prueba. Más tarde, Putin también admitió que las tropas eran rusas.

Traducción de Putin: Por supuesto, los militares rusos respaldaron a las fuerzas de autodefensa de Crimea. Actuaron de manera civil, como ya he dicho, pero de manera decidida y profesional.

[Música]

Fuerte: Ahora los manifestantes están tratando cada vez más de hacer que Face I-D vuelva a la policía, para identificar a los oficiales que usan fuerza excesiva. Incluso en Hong Kong, donde el año pasado imágenes dramáticas de enfrentamientos entre manifestantes y policías dominaron las noticias que mostraban a la policía disparando balas reales y a los manifestantes atacando a los oficiales. Este es el reportero del New York Times Paul Mozur hablando en la televisión pública.

Mozur: A medida que continúan las protestas y la policía y los hongkoneses continúan enfrentándose semana tras semana, el rostro se ha convertido en un arma y la identidad en sí misma de alguna manera se convierte en un arma. Ya sabes, los manifestantes saldrán y la policía intentará capturar sus imágenes en video y luego regresar e identificarlos a través de todas las redes sociales y materiales en línea que existen y viceversa. Vimos a la policía quitarse las placas y ahora los manifestantes están haciendo lo mismo con la policía, tratando de regresar y usar las redes sociales para averiguar qué policía está haciendo qué acto. Un manifestante en particular, este tipo, Colin Cheung, que encontramos creó una herramienta de reconocimiento facial para tratar de identificar a la policía... y en realidad no lanzó el producto, pero dice que por eso la policía lo atacó.

Fuerte: Y Cheung fue arrestado poco después de publicar sobre la herramienta en Facebook... pero se están realizando esfuerzos similares en otros lugares, incluido Portland, Oregón.

Howell: Estoy usando exactamente la misma tecnología que usan con nosotros. Y no es como si estuviera tratando de engañar a la gente. Quiero decir, esto es para oficiales que esencialmente están violando la ley en términos de su uso de la fuerza.

Fuerte: Christopher Howell es científico de datos y manifestante.

Howell: Y solo quería dejar constancia. Oye, hay otra forma en que podríamos usar esto. // Y realmente se trata más de, ya sabes, mantener la presión sobre ellos para que se identifiquen en lugar de que nosotros tengamos que hacerlo.

Fuerte: Su testimonio ante el ayuntamiento de Portland sobre esta herramienta en la que está trabajando hizo que su proyecto fuera cubierto por The New York Times. Desde entonces, ha recibido bastante atención al igual que la reacción del alcalde de Portland, quien calificó el proyecto de espeluznante.

Howell: Es espeluznante dejarlos salir y lanzar gases lacrimógenos a la gente noche tras noche // y yo, eso fue realmente, para mí fue solo un momento alucinante de, es espeluznante que estos tipos no tengan sus nombres. Ya sabes, que alguien puede vestirse como un policía, ya sabes [risas]

Fuerte: Él dice que comenzó el proyecto en parte solo para ver cómo funcionaría.

Howell: Quiero decir, hay una curiosidad tecnológica definitiva allí... y ese tipo de algo que puedo hacer cuando es tarde en la noche y es frustrante ver estas cosas, las noticias o vas a Twitter y ves los videos de las protestas de la gente. y bueno, bueno, ¿qué puedo hacer? …y en definitiva me gustaría que no fuera necesario. Creo que deberían usar sus nombres en letras altas para que no tengamos que usar el reconocimiento facial en los policías para tratar de averiguar quiénes son.

Fuerte: Ser capaz de identificar a un oficial no se trata solo de saber si alguien realmente es uno... Es extremadamente difícil presentar una denuncia contra alguien sin saber quién es esa persona.

Howell: Una de las razones por las que empecé esto fue porque en los juicios, no puedes nombrar como el policía que me empujó. Tienes que saber quién es. Simplemente dirán, bueno, no sabemos quién fue. Así que no hay nadie a quien demandar y tratando de obtener registros sobre lo que hicieron los oficiales en particular, no lo dejarán ir a pescarlo. // Necesitas saberlo, si me diste una foto de, ya sabes, aquí está este policía golpeando a alguien con un bastón que quiero, y vamos a averiguarlo, puedes ver su rostro. Así que vamos a averiguar quién es, ¿cómo lo hacemos? E inicialmente estaba pensando más en una búsqueda inversa de imágenes en una base de datos. Recopilaré todas las imágenes que pueda y podremos unirlas para poder decir que todas son la misma persona. Y luego me di cuenta de que podía hacerlo mejor que eso.

Fuerte: Se dio cuenta de que podía construir una herramienta de identificación facial usando imágenes de los oficiales de Internet.

Howell: Entonces comencé a mirar sus fotos donde se identifican o noticias, ya sabes, retrocediendo más y obteniendo artículos de noticias.

Fuerte: El proyecto es técnicamente más fácil que construir un sistema destinado a identificar a cualquier persona.

Howell: Sabemos que quiénes son los policías, ya sabes, no hay, no debería haber personas con equipo antidisturbios que no sean policías. Entonces, si puede obtener todas sus imágenes y ese es el verdadero desafío, pero luego podría tener un problema matemático menos difícil en ese sentido para identificar, está bien, sabemos que esta persona está fuera de este conjunto. Averigüemos cuál de ellos son...

Fuerte: Dice que hasta ahora ha recopilado miles de imágenes... en su mayoría manualmente de Twitter y artículos de noticias en promedio de 15 a 20 por cada oficial que ha identificado.

Howell: Muchas de las imágenes iniciales eran de Twitter. Mucho de eso fui yo entrando en artículos de noticias. // Quiero decir, el accidente de tráfico, uno es, ya sabes, la noticia es un gran ejemplo. Porque encontré un montón de esos. O como parrillada comunitaria y ahí están los uniformados y los nombra.

Fuerte: No es exactamente la misma escala que los sistemas de identificación facial que usa la policía...

Howell : Estoy haciendo todo esto ahora mismo en un script de Python, ya sabes, todo es local en mi computadora portátil.

Fuerte: ... por lo general se entrenan en conjuntos de fotos de millones o miles de millones.

Howell: Porque creo que la precisión es importante y, eh, y la cantidad de imágenes es lo suficientemente pequeña como para que si estuviera tratando de poner mi cara allí, no quiero obtener otro Chris Howell.

Fuerte: Pero son suficientes imágenes que parecen funcionar. Él dice que su herramienta ya se ha utilizado para ayudar a confirmar la identidad de un oficial en un caso que se dirige a los tribunales.

Howell: Alguien me trajo una foto que no había encontrado y me dijo, ayúdame, ya sabes, usa tu sistema y dime qué dice. Y ella ya sabía quién creía que era, pero no me lo dijo. Y luego el resultado superior fue el que se esperaba.

Fuerte: En cuanto a dónde irá esto después, nadie lo sabe, aunque puede imaginar un día en que podría usarse en asociación con la ciudad.

Howell: Podría ver un futuro, tal vez dentro de unos años, cuando las cosas sean un poco diferentes donde la ciudad haga que algo como esto esté disponible y lo albergue ellos mismos y les haga tomar un montón de fotos para que podamos tener una cosa bien entrenada. Entonces, como una cosa similar a la retroalimentación de los ciudadanos. Y, y no necesariamente tendría que ser todo cosas negativas, pero de una manera que también podría usarse para quejas. Quiero decir, una parte de mí piensa que sería útil asociarse con las propias agencias gubernamentales para decir: 'Oye, queremos rendir cuentas'. No creo que sea muy realista en 2020, pero lo creo, ¡podría no estar muy lejos! [reír]

Fuerte: Algo que no quiere es que sea de código abierto.

Howell: No creo que sea una gran idea para nadie tenerlo simplemente como una cara al público en un sitio web. Piensa que es pedir que las cosas salgan mal más allá de las cosas realmente obvias que podrías tener, personas, ya sabes, fingir cosas o poner intencionalmente imágenes engañosas...

[Música]

Fuerte: Las prohibiciones de Portland de Face I-D entrarán en vigencia en enero, pero ¿el proyecto de Howell? No se verá afectado. Escuelas públicas, instituciones religiosas, incluso cómo se usa el reconocimiento facial en el aeropuerto, como la forma en que aerolíneas como Delta abordan a sus pasajeros. Nada de eso se verá afectado tampoco. Las agencias gubernamentales locales no podrán usarlo. Y no se permitirá en la mayoría de los espacios públicos o espacios privados abiertos al público, como un centro comercial. A la policía local tampoco se le permitirá usar la tecnología, aunque las personas en sus hogares privados, como Christopher Howell, sí lo estarán. Las prohibiciones tampoco se aplican a la aplicación de la ley a nivel estatal o federal.

En cierto modo, el uso de esta tecnología de vigilancia se está convirtiendo en una especie de carrera armamentista mundial entre el público y las figuras de autoridad, con la esperanza de quitar la tapadera del anonimato para fomentar el buen comportamiento. Es difícil ver quién podría ser el ganador, pero ciertamente el perdedor es la privacidad.

En el próximo episodio...

Extracto : No es un trauma informado que alguien entre a una instalación y diga, sí, absolutamente puede entrar, pero déjeme tomar sus huellas dactilares.

Fuerte: Analizamos el movimiento para usar el reconocimiento facial en viviendas públicas y refugios para personas sin hogar.

Extracto : El reconocimiento facial es más amable emocionalmente porque es pasivo, no los toca y lo puedes captar más rápido y no hay riesgo de transmisión.

Fuerte: Este episodio fue informado y producido por mí, Tate Ryan-Mosley, Karen Hao y Emma Cillekens. Estamos editados por Michael Reilly y Gideon Lichfield.

Gracias por escuchar, soy Jennifer Strong.

[ID TR]

esconder