211service.com
El activista que desmantela los algoritmos policiales racistas
Damon Casarez
Hamid Khan ha sido un organizador comunitario en Los Ángeles durante más de 35 años, con un enfoque constante en la violencia policial y los derechos humanos. Habló con nosotros el 3 de abril de 2020 para un próximo episodio de podcast sobre inteligencia artificial y vigilancia. A medida que el mundo centra su atención en la brutalidad policial y el racismo institucional, pensamos que nuestra conversación con él sobre cómo cree que la tecnología permite el racismo en la vigilancia debería publicarse ahora.
Khan es el fundador de Stop LAPD Spying Coalition, que ha ganado muchos casos judiciales emblemáticos en nombre de las comunidades minoritarias por las que lucha. Su trabajo es quizás mejor conocido por la defensa contra la vigilancia policial predictiva. El 21 de abril, pocas semanas después de esta entrevista, el LAPD anunció el fin de todos los programas policiales predictivos .
khan es una figura controvertida quien ha rechazado asociaciones con grupos como Electronic Frontier Foundation (EFF) debido a su énfasis en la reforma. No cree que la reforma funcione. La entrevista ha sido editada por su extensión y claridad.
Hablanos sobre tu trabajo. ¿Por qué te preocupas por la vigilancia policial?
El trabajo que hacemos, particularmente el Departamento de Policía de Los Ángeles, analiza cómo la vigilancia, la recopilación, el almacenamiento y el intercambio de información se han utilizado históricamente para causar daño real, rastrear, rastrear, monitorear, acechar comunidades particulares: comunidades que son pobres, que son negros y marrones, comunidades que serían consideradas sospechosas y cuerpos trans queer. Entonces, en varios niveles, la vigilancia es un proceso de control social.
¿Cree que la tecnología tiene un papel en la vigilancia?
La Coalición Stop LAPD Spying tiene algunos valores rectores. La primera es que lo que estamos viendo no es un momento en el tiempo sino una continuación de la historia. La vigilancia se ha utilizado durante cientos de años. Algunos de los primeros procesos de vigilancia se remontan a las leyes de linternas en la ciudad de Nueva York a principios del siglo XVIII. Si eras una persona esclavizada, un negro o un indígena, y si estabas caminando en el área pública sin tu amo, tenías que caminar con una linterna literal real, con la mecha de la vela y todo, básicamente para identificarte a ti mismo. usted mismo como sospechoso, como el otro.
Otro valor rector es que siempre hay un otro. Históricamente hablando, siempre hay una amenaza para el sistema. Siempre hay un cuerpo, un individuo o grupos de personas que se consideran peligrosos. Son considerados sospechosos.
El tercer valor es que siempre estamos buscando desensacionalizar la retórica de la seguridad nacional. Para que sea muy simple y directo, [tratamos de mostrar] cómo se mueve el entorno de recopilación e intercambio de información y cómo es un proceso de vigilar a todos.
Los algoritmos no tienen cabida en la vigilancia.
Y uno de nuestros últimos valores rectores es que nuestra lucha tiene sus raíces en los derechos humanos. Somos un grupo ferozmente abolicionista, por lo que nuestro objetivo es desmantelar el sistema. No nos involucramos en el trabajo reformista. También consideramos que cualquier desarrollo de políticas en torno a la transparencia, la rendición de cuentas y la supervisión es una plantilla para el avance de la misión. Cada vez que la vigilancia se legitima, está abierta para expandirse con el tiempo. En este momento, estamos luchando para mantener los drones en tierra en Los Ángeles, y pudimos mantenerlos en tierra durante algunos años. Y a fines de marzo, el Departamento de Policía de Chula Vista en San Diego anunció que van a equipar sus drones con altavoces para monitorear el movimiento de personas sin hogar.
¿Puede explicar el trabajo que ha estado haciendo la Coalición Stop LAPD Spying en vigilancia policial predictiva? ¿Cuáles son los problemas con él desde su perspectiva?
PredPol era una vigilancia policial predictiva basada en la ubicación en la que se identificaba una ubicación de 500 por 500 pies cuadrados como punto crítico. El otro programa complementario, Operation Laser, era vigilancia policial predictiva basada en personas.
En 2010, analizamos las diversas formas en que se estaban instituyendo estos programas [de vigilancia del LAPD]. La vigilancia predictiva fue un programa clave. Lanzamos formalmente una campaña en 2016 para comprender el impacto de la vigilancia predictiva en Los Ángeles con el objetivo de desmantelar el programa, llevar esta información a la comunidad y contraatacar.
La vigilancia policial predictiva basada en personas afirmó que para las personas que se denominan personas de interés o delincuentes habituales, que pueden haber tenido algún historial en el pasado, podríamos usar una herramienta de evaluación de riesgos para establecer que iban a reincidir. Así que era un juego de números. Si tenían alguna posesión de armas en el pasado, se les asignaban cinco puntos. Si estaban en libertad condicional o en libertad condicional, se les asignaban cinco puntos. Si estaban afiliados a pandillas, se les asignaban cinco puntos. Si hubieran tenido interacciones con la policía como un parar y registrar, se les asignaría un punto. Y esto se convirtió en el lugar donde las personas que estaban en libertad condicional o en libertad condicional o que se ocupaban de sus propios asuntos y reconstruían sus vidas fueron colocadas en lo que se conoció como un Programa de Delincuentes Crónicos, sin que muchas personas lo supieran.
Entonces, la ubicación se criminaliza, las personas son criminalizadas, y solo faltan unos segundos para que salga el arma y alguien sea asesinado a tiros.
Luego, con base en esta evaluación de riesgos, donde Palantir está procesando todos los datos , LAPD creó una lista. Comenzaron a publicar boletines, que eran como un cartel de los más buscados con fotos, direcciones e historial de estas personas, y los pusieron en las patrullas. [Ellos] comenzaron a desplegar lectores de matrículas, stingray, IMSI-Catcher, CCTV y varias otras tecnologías para rastrear sus movimientos, y luego crearon condiciones en el terreno para detenerlos, acosarlos e intimidarlos. Construimos mucho poder de base, y en abril de 2019 se desmanteló formalmente la Operación Láser. Fue descontinuado.
Y ahora mismo vamos tras PredPol y exigimos que también se desmantele PredPol. [LAPD anunció el fin de PredPol el 21 de abril de 2020.] Nuestro objetivo para la abolición y el desmantelamiento de este programa no se basa solo en basura que entra, basura que sale; Entrada de datos racistas y salida de datos racistas. Nuestro trabajo está realmente arraigado en que, en última instancia, sirve a todo el marco ideológico del patriarcado y el capitalismo y la supremacía blanca y el colonialismo de colonos.
Publicamos un informe, Antes de que la bala golpee el cuerpo, en mayo de 2018 sobre vigilancia predictiva en Los Ángeles, lo que llevó a la ciudad de Los Ángeles a celebrar audiencias públicas sobre vigilancia basada en datos, que fueron las primeras de su tipo en el país. Exigimos una auditoría forense de PredPol por parte del inspector general. En marzo de 2019, el inspector general publicó la auditoría y dijo que ni siquiera podemos auditar PredPol porque simplemente no es posible. Es tan, tan complicado.
Los algoritmos no tienen cabida en la vigilancia. Creo que es crucial que entendamos que hay vidas en juego. Este lenguaje de vigilancia basada en la ubicación es en sí mismo un representante del racismo. No están allí para vigilar los baches y los árboles. Están allí para vigilar a las personas en el lugar. Entonces, la ubicación se criminaliza, las personas son criminalizadas, y solo faltan unos segundos para que salga el arma y alguien sea asesinado a tiros.
Los líderes de equipo de Stop LAPD Spying Coalition Hamid Khan (derecha), Jamie García (centro) y Gen Dogon (izquierda) en el vecindario Skid Row de Los Ángeles, donde la coalición tiene su sede.
DAMÓN CASAREZ¿Cómo se asegura de que el público comprenda este tipo de tácticas policiales?
Los registros públicos son una muy buena herramienta para obtener información. ¿Cuál es el origen de este programa? Queremos saber: ¿Cuál fue la visión? ¿Cómo se estaba articulando? ¿Cuál es el propósito de la financiación? ¿Cuál es el vocabulario que están usando? ¿Cuáles son los resultados que están presentando al financiador?
Soy un ser humano, y no estoy aquí para que simplemente me desempaques y comiences a experimentar conmigo y luego me empaques.
Ellos [LAPD] considerarían un área, un edificio de apartamentos, como puntos y zonas calientes. Y la gente estaba siendo detenida a un ritmo mucho más rápido [allí]. Cada vez que detienes a alguien, esa información va a una base de datos. Se convirtió en un importante programa de recopilación de datos.
Exigimos que divulguen la lista secreta que tenían de estos individuos. LAPD se defendió y ganamos esa demanda de registros públicos. Así que ahora tenemos una lista secreta de 679 personas, a las que ahora estamos buscando llegar. Y estos son todos individuos jóvenes, predominantemente alrededor del 90% al 95% negros y marrones.
Remarcar el área crea condiciones sobre el terreno para un mayor desarrollo, más gentrificación, más desalojos, más desplazamiento de personas. De modo que la policía se convirtió en protectora de la propiedad privada y protectora de los privilegios.
¿Qué les dice a las personas que creen que la tecnología puede ayudar a mitigar algunos de estos problemas en la vigilancia, como los sesgos, porque la tecnología puede ser objetiva?
En primer lugar, la tecnología no funciona por sí misma. Desde el diseño hasta la producción, desde la implementación hasta el resultado, hay un sesgo incorporado constantemente. No son solo los sesgos de las personas mismas; su el sesgo inherente dentro del sistema .
Hay tantos puntos de influencia que, francamente, nuestra lucha no es para limpiar los datos. Nuestra lucha no es por un algoritmo imparcial, porque no creemos que, ni siquiera matemáticamente, pueda haber un algoritmo imparcial para la vigilancia.
¿Cuáles son las consideraciones de derechos humanos cuando se trata de tecnología policial y vigilancia?
El primer derecho humano sería dejar de experimentar. Soy un ser humano, y no estoy aquí para que simplemente me desempaques y comiences a experimentar conmigo y luego me empaques. Hay tanta dataficación de nuestras vidas que ha sucedido. Desde el capitalismo de plantación hasta el capitalismo racializado y ahora también el capitalismo de vigilancia, estamos sujetos a ser comprados y vendidos. Nuestras mentes y nuestros pensamientos han sido mercantilizados. Tiene un efecto de embrutecimiento también en nuestra creatividad como seres humanos, como parte de un universo natural. El consentimiento está siendo fabricado por nosotros.
Con algo como el coronavirus, ciertamente estamos viendo que algunas personas están dispuestas a ceder parte de sus datos y parte de su privacidad. ¿Qué opinas sobre la elección o el equilibrio entre la utilidad y la privacidad?
Realmente tenemos que mirarlo a través de una lente mucho más amplia. Volviendo a uno de nuestros valores rectores: no un momento en el tiempo sino una continuación de la historia. Así que tenemos que mirar las crisis del pasado, tanto las reales como las inventadas.
Veamos los Juegos Olímpicos de 1984 en Los Ángeles. Eso condujo a la expansión más masiva de los poderes policiales y la militarización del Departamento de Policía de Los Ángeles y el departamento del alguacil bajo el pretexto de la seguridad pública. La cosa era Bueno, queremos mantener todo a salvo. Pero no solo se convirtió en una característica permanente y en la nueva normalidad, sino que también se desarrollaron tácticas. Debido a que hubo que limpiar las calles, los cuerpos sospechosos, las personas sin hogar, fueron sacados a la fuerza. Los barridos de pandillas supuestamente comenzaron a suceder. Así que los jóvenes negros y morenos estaban siendo arrestados en masa. Esto es como 1983, lo que lleva a 1984.
Para 1986-1987 en Los Ángeles, los mandatos judiciales contra pandillas se convirtieron en una característica permanente. Esto dio como resultado bases de datos de pandillas masivas y niños de hasta nueve meses de edad ingresando a estas bases de datos de pandillas. Eso se convirtió en la Operación Martillo, donde obtuvieron tanques y vehículos blindados, utilizados por SWAT, para cometer delitos de drogas de bajo nivel y derribar y derribar las casas de las personas.
Ahora estamos de nuevo en un momento. No es solo la expansión estructural de los poderes policiales; tenemos que mirar a la policía que ahora asume cada vez más roles como trabajadores sociales. Se ha estado construyendo durante los últimos 10 años. También hay muchos dólares de servicios humanos y de salud adjuntos a eso. Por ejemplo, en Los Ángeles, el controlador de la ciudad salió con una auditoría hace unos cinco años, y analizaron $100 millones para los servicios para personas sin hogar que brinda la ciudad. ¿Bien adivina que? De eso, $ 87 millones iban a LAPD.
¿Puede proporcionar un ejemplo específico de cómo el uso policial de la tecnología está afectando a los miembros de la comunidad?
La vigilancia basada en inteligencia es un concepto que surge de Inglaterra, de la Policía de Kent, y comenzó hace unos 30 años en los EE. UU. El tema central de la vigilancia basada en inteligencia es la vigilancia del comportamiento. El comportamiento de las personas debe ser monitoreado y luego procesado, y esa información debe compartirse. Las personas necesitan ser rastreadas y rastreadas.
No existe tal cosa como un racismo más amable y gentil, y estos programas deben ser desmantelados.
Un programa llamado Informe de actividades sospechosas salió del 11 de septiembre, en el que varias actividades que están completamente protegidas constitucionalmente se enumeran como potencialmente sospechosas. Por ejemplo, tomar fotografías en público, usar cámaras de video en público, ingresar a la infraestructura y preguntar sobre el horario de atención. Es un comportamiento observado razonablemente indicativo de planificación preoperacional de actividad criminal y/o terrorista. Así que estás observando el comportamiento de alguien, lo que indica razonablemente que no hay una causa probable. No crea un hecho, sino una preocupación. Esa vigilancia policial especulativa y basada en corazonadas es real.
Pudimos obtener números del programa See Something, Say Something de LAPD. Y lo que encontramos fue que hubo un impacto dispar de 3:1 en la comunidad negra. Alrededor del 70% de estos informes See Something, Say Something provinieron de comunidades predominantemente blancas en Los Ángeles. Así que ahora un programa se está armando y se convierte en una licencia para perfilar racialmente.
El objetivo siempre es construir poder hacia la abolición de estos programas, porque no se pueden reformar. No existe tal cosa como un racismo más amable y gentil, y estos programas deben ser desmantelados.
Entonces, ¿realmente cree que la reforma no permitirá el uso de estas tecnologías en la vigilancia?
Solo puedo hablar sobre mi propia historia de 35 años de organización en Los Ángeles. No es cuestión de mejorar, es cuestión de empeorar. Y creo que la tecnología está fomentando eso. Cuando miras la historia de la reforma, seguimos golpeándonos la cabeza contra la pared, y sigue volviendo a lo mismo de siempre. Realmente no podemos operar bajo la suposición de que los corazones y las mentes pueden cambiar, particularmente cuando alguien tiene licencia para matar.
No soy tecnólogo. Nuestra precaución es para los tecnólogos: ya saben, permanezcan en su carril. Siga a la comunidad y siga su guía.