Por supuesto, la tecnología perpetúa el racismo. Fue diseñado de esa manera.

Fuente de la foto: Getty / Ms Tech

Hoy Estados Unidos se desmorona bajo el peso de dos pandemias: el coronavirus y la brutalidad policial.

Ambos ejercen violencia física y psicológica. Ambos matan y debilitan desproporcionadamente a las personas negras y morenas. Y ambos están animados por tecnología que diseñamos, reutilizamos e implementamos, ya sea rastreo de contactos, reconocimiento facial o redes sociales.

Esta historia fue parte de nuestra edición de julio de 2020

• Ver el resto del número
• Suscribir

A menudo recurrimos a la tecnología para ayudar a resolver problemas. Pero cuando la sociedad define, enmarca y representa a las personas de color como el problema, esas soluciones a menudo hacen más daño que bien. hemos diseñado tecnologías de reconocimiento facial que se dirigen a los presuntos delincuentes en función del color de la piel. hemos sistemas automatizados de perfiles de riesgo capacitados que identifican desproporcionadamente a las personas latinas como inmigrantes ilegales. hemos algoritmos de puntuación de crédito ideados que identifican desproporcionadamente a las personas negras como riesgos y les impiden comprar casas, obtener préstamos o encontrar trabajo.

Entonces, la pregunta que debemos enfrentar es si continuaremos diseñando y desplegando herramientas que sirvan a los intereses del racismo y la supremacía blanca.

Por supuesto, no es una pregunta nueva en absoluto.

derechos inciviles

En 1960, los líderes del Partido Demócrata se enfrentaron a su propio problema: ¿Cómo podría su candidato presidencial, John F. Kennedy, apuntalar el menguante apoyo de los negros y otras minorías raciales?

Un politólogo emprendedor del MIT, Ithiel de Sola Pool , se acercó a ellos con una solución. Recopilaría datos de votantes de elecciones presidenciales anteriores, los introduciría en una nueva máquina de procesamiento digital, desarrollaría un algoritmo para modelar el comportamiento de votación, predeciría qué posiciones políticas conducirían a los resultados más favorables y luego aconsejaría a la campaña de Kennedy que actuara en consecuencia. Pool fundó una nueva empresa, la Corporación Simulmática , y ejecutó su plan. Tuvo éxito, Kennedy fue elegido y los resultados mostraron el poder de este nuevo método de modelado predictivo.

La tensión racial se intensificó a lo largo de la década de 1960. Luego vino el largo y caluroso verano de 1967. Ciudades de todo el país ardían, desde Birmingham, Alabama, hasta Rochester, Nueva York, Minneapolis, Minnesota, y muchas más en el medio. Los afroamericanos protestaron por la opresión y la discriminación que enfrentaban a manos del sistema de justicia penal de Estados Unidos. Pero el presidente Johnson lo llamó desorden civil y formó la Comisión Kerner para comprender las causas de los disturbios en los guetos. La comisión recurrió a Simulmatics.

Como parte de un proyecto de DARPA destinado a cambiar el rumbo de la Guerra de Vietnam, la compañía de Pool había estado trabajando arduamente preparando una propaganda masiva y una campaña psicológica contra el Vietcong. El presidente Johnson estaba ansioso por implementar la tecnología de influencia conductual de Simulmatics para sofocar la amenaza interna de la nación, no solo a sus enemigos extranjeros. Bajo la apariencia de lo que llamaron un estudio de medios, Simulmatics formó un equipo para lo que equivalía a una campaña de vigilancia a gran escala en las áreas afectadas por los disturbios que captaron la atención de la nación ese verano de 1967.

Equipos de tres miembros entraron en áreas donde se habían producido disturbios ese verano. Identificaron y entrevistaron a personas negras estratégicamente importantes. Hicieron un seguimiento para identificar y entrevistar a otros residentes negros, en todos los lugares, desde barberías hasta iglesias. Preguntaron a los residentes qué pensaban sobre la cobertura de los disturbios por parte de los medios de comunicación. Pero también recopilaron datos sobre mucho más: cómo se movía la gente dentro y alrededor de la ciudad durante los disturbios, con quién hablaron antes y durante, y cómo se prepararon para las secuelas. Recopilaron datos sobre el uso de las cabinas de peaje, las ventas en las gasolineras y las rutas de los autobuses. Consiguieron entrar en estas comunidades con el pretexto de tratar de entender cómo los medios de comunicación supuestamente inflamaron los disturbios. Pero Johnson y los líderes políticos de la nación estaban tratando de resolver un problema. Su objetivo era utilizar la información que recopiló Simulmatics para rastrear el flujo de información durante las protestas para identificar personas influyentes y decapitar a los líderes de las protestas.

No lograron esto directamente. No asesinaron personas, no encarcelaron a personas ni las desaparecieron en secreto.

Pero a fines de la década de 1960, este tipo de información había ayudado a crear lo que se conoció como sistemas de información de justicia penal. Proliferaron a lo largo de las décadas, sentando las bases para la elaboración de perfiles raciales, la vigilancia predictiva y la vigilancia racial. Dejaron un legado que incluye millones de mujeres y hombres negros y marrones encarcelados.

Reencuadrando el problema

La negrura y los negros. Ambos persisten como el problema de nuestra nación, me atrevo a decir incluso de nuestro mundo. Cuando el rastreo de contactos apareció por primera vez al comienzo de la pandemia, era fácil verlo como una herramienta de vigilancia de la salud necesaria pero benigna. El coronavirus era nuestro problema y comenzamos a diseñar nuevas tecnologías de vigilancia en forma de aplicaciones de rastreo de contactos, monitoreo de temperatura y mapeo de amenazas para ayudar a abordarlo.

Pero sucedió algo a la vez curioso y trágico. Descubrimos que las personas negras, latinas y las poblaciones indígenas estaban desproporcionadamente infectadas y afectadas. De repente, también nos convertimos en un problema nacional; amenazamos desproporcionadamente con propagar el virus. Eso se agravó cuando el trágico asesinato de George Floyd a manos de un policía blanco envió a miles de manifestantes a las calles. Cuando comenzaron los saqueos y disturbios, nosotros, los negros, volvimos a ser vistos como una amenaza para la ley y el orden, una amenaza para un sistema que perpetúa el poder racial blanco. Te hace preguntarte cuánto tiempo le tomará a las fuerzas del orden implementar esas tecnologías que primero diseñamos para luchar contra el covid-19 para sofocar la amenaza que supuestamente representan los negros para la seguridad de la nación.

Si no queremos que nuestra tecnología se use para perpetuar el racismo, entonces debemos asegurarnos de no confundir los problemas sociales como el crimen, la violencia o las enfermedades con personas negras y marrones. Cuando hacemos eso, corremos el riesgo de convertir a esas personas en los problemas que desplegamos para resolver nuestra tecnología, la amenaza que diseñamos para erradicar.

Charlton McIlwain es profesor de medios, cultura y comunicación en la Universidad de Nueva York y autor de Black Software: Internet y la justicia racial, de AfroNet a Black Lives Matter

esconder