Los problemas que tiene la IA hoy en día se remontan a siglos atrás

ari liloan

En marzo de 2015, estallaron protestas en la Universidad de Ciudad del Cabo en Sudáfrica por la estatua del colonialista británico Cecil Rhodes en el campus. Rhodes, un magnate de la minería que había donado el terreno en el que se construyó la universidad, cometió genocidio contra los africanos y sentó las bases para el apartheid. Bajo el lema de Rhodes Must Fall, los estudiantes exigieron que se retirara la estatua. Sus protestas provocaron un movimiento mundial para erradicar los legados coloniales que perduran en la educación.

Los eventos también provocaron que Shakir Mohamed, un investigador sudafricano de inteligencia artificial en DeepMind, reflexionara sobre qué legados coloniales podrían existir también en su investigación. En 2018, justo cuando el campo de la IA empezaba a enfrentarse a problemas como la discriminación algorítmica, Mohamed escribió una entrada de blog con sus pensamientos iniciales. En él, pidió a los investigadores que descolonizaran la inteligencia artificial, para reorientar el trabajo del campo lejos de los centros occidentales como Silicon Valley y comprometer nuevas voces, culturas e ideas para guiar el desarrollo de la tecnología.

Ahora a raíz de llantos renovados para Rhodes Must Fall en el campus de la Universidad de Oxford, impulsado por el asesinato de George Floyd y el movimiento mundial contra el racismo, Mohamed ha publicó un nuevo artículo junto con su colega William Isaac y la candidata a doctorado de Oxford Marie-Therese Png. Desarrolla las ideas originales de Mohamed con ejemplos específicos de cómo los desafíos de la IA están arraigados en el colonialismo y presenta estrategias para abordarlos reconociendo esa historia.

Cómo se manifiesta la colonialidad en la IA

Aunque el colonialismo histórico puede haber terminado, sus efectos aún existen hoy. Esto es lo que los académicos denominan colonialidad: la idea de que los desequilibrios de poder modernos entre razas, países, ricos y pobres y otros grupos son extensiones de los desequilibrios de poder entre colonizadores y colonizados.

Tomemos como ejemplo el racismo estructural. Los europeos inventaron originalmente el concepto de razas y las diferencias entre ellas para justificar el comercio de esclavos africanos y luego la colonización de los países africanos. En los EE. UU., los efectos de esa ideología ahora se pueden rastrear a través de la propia historia de esclavitud, Jim Crow y brutalidad policial del país.

De la misma manera, argumentan los autores del artículo, esta historia colonial explica algunas de las características e impactos más preocupantes de la IA. Identifican cinco manifestaciones de la colonialidad en el campo:

Discriminación algorítmica y opresión. Los vínculos entre la discriminación algorítmica y el racismo colonial son quizás los más obvios: los algoritmos creados para automatizar procedimientos y entrenados con datos dentro de una sociedad racialmente injusta terminan replicando esos resultados racistas en sus resultados. Pero gran parte de la investigación sobre este tipo de daño de la IA se centra en ejemplos en los EE. UU. Examinarlo en el contexto de la colonialidad permite una perspectiva global: Estados Unidos no es el único lugar con desigualdades sociales. Siempre hay grupos que son identificados y sometidos, dice Isaac.

Trabajo fantasma. el fenómeno de trabajo fantasma , el trabajo de datos invisible requerido para respaldar la innovación de IA, amplía claramente la relación económica histórica entre colonizador y colonizado. Muchas antiguas colonias de EE. UU. y el Reino Unido (Filipinas, Kenia e India) se han convertido en centros de trabajo fantasma para empresas de EE. UU. y el Reino Unido. Las fuerzas laborales baratas de habla inglesa de los países, que los hacen aptos naturalmente para el trabajo de datos, existen debido a sus historias coloniales.

Pruebas beta. Los sistemas de IA a veces se prueban en grupos más vulnerables antes de implementarse para usuarios reales. Cambridge Analytica, por ejemplo, probó sus algoritmos en las elecciones de Nigeria de 2015 y Kenia de 2017 antes de usarlos en los EE. UU. y el Reino Unido. Estudios posteriores encontraron que estos experimentos interrumpido activamente el proceso electoral de Kenia y erosionó la cohesión social. Este tipo de prueba se hace eco del tratamiento histórico del Imperio Británico de sus colonias como laboratorios de nuevos medicamentos y tecnologías.

Gobernanza de la IA. Los desequilibrios de poder geopolíticos que dejó la era colonial también moldean activamente la gobernanza de la IA. Esto se ha reflejado en la reciente carrera por formar pautas globales de ética de la IA: los países en desarrollo de África, América Latina y Asia Central han quedado en gran parte fuera de las discusiones, lo que ha llevado a algunos a negarse a participar en acuerdos internacionales de flujo de datos . El resultado: los países desarrollados continúan beneficiándose desproporcionadamente de las normas globales creadas para su beneficio, mientras que los países en desarrollo continúan rezagándose.

Desarrollo social internacional. Finalmente, los mismos desequilibrios de poder geopolítico afectan la forma en que se utiliza la IA para ayudar a los países en desarrollo. Las iniciativas de IA para el bien o IA para el desarrollo sostenible suelen ser paternalistas. Obligan a los países en desarrollo a depender de los sistemas de IA existentes en lugar de participar en la creación de otros nuevos diseñados para su propio contexto.

Los investigadores señalan que estos ejemplos no son exhaustivos, pero demuestran cuán importantes son los legados coloniales en el desarrollo global de la IA. También unen lo que parecen ser problemas dispares bajo una tesis unificadora. Nos permite una nueva gramática y vocabulario para hablar sobre por qué estos temas son importantes y qué vamos a hacer para pensar y abordar estos problemas a largo plazo, dice Isaac.

Cómo construir una IA decolonial

El beneficio de examinar los impactos dañinos de la IA a través de esta lente, argumentan los investigadores, es el marco que proporciona para predecir y mitigar daños futuros. Png cree que realmente no existen las consecuencias no deseadas, solo las consecuencias de los puntos ciegos que tienen las organizaciones y las instituciones de investigación cuando carecen de representación diversa.

En este sentido, los investigadores proponen tres técnicas para lograr una IA decolonial, o más inclusiva y beneficiosa:

Desarrollo técnico consciente del contexto. En primer lugar, los investigadores de IA que construyan un nuevo sistema deben considerar dónde y cómo se utilizará. Su trabajo tampoco debe terminar con escribir el código, sino que debe incluir probarlo, respaldar políticas que faciliten su uso adecuado y organizar acciones contra los inadecuados.

Tutela inversa. En segundo lugar, deberían escuchar a los grupos marginados. Un ejemplo de cómo hacer esto es la práctica en ciernes de aprendizaje automático participativo , que busca involucrar a las personas más afectadas por los sistemas de aprendizaje automático en su diseño. Esto brinda a los sujetos la oportunidad de desafiar y dictar cómo se enmarcan los problemas de aprendizaje automático, qué datos se recopilan y cómo, y dónde se utilizan los modelos finales.

Solidaridad. Los grupos marginados también deben recibir el apoyo y los recursos para iniciar su propio trabajo de IA. Ya existen varias comunidades de profesionales de la IA marginados, incluidos Aprendizaje profundo Indaba , Negro en IA , y Queer en IA , y su trabajo debe ser ampliado.

Desde la publicación de su artículo, dicen los investigadores, han visto un interés y un entusiasmo abrumadores. Al menos me indica que hay una receptividad a este trabajo, dice Isaac. Parece que esta es una conversación en la que la comunidad quiere comenzar a participar.

esconder