Los grupos de ética de la IA están repitiendo uno de los errores clásicos de la sociedad

Getty

Las organizaciones y corporaciones internacionales están compitiendo para desarrollar pautas globales para el uso ético de la inteligencia artificial. Declaraciones, manifiestos y recomendaciones inundan Internet. Pero estos esfuerzos serán inútiles si no tienen en cuenta los contextos culturales y regionales en los que opera AI.

Se ha demostrado repetidamente que los sistemas de IA causan problemas que afectan de manera desproporcionada a los grupos marginados mientras benefician a unos pocos privilegiados. Los esfuerzos globales de ética de la IA que se llevan a cabo hoy, de los cuales hay docenas, tienen como objetivo ayudar a todos a beneficiarse de esta tecnología y evitar que cause daños. En términos generales, hacen esto mediante la creación de pautas y principios para que los sigan los desarrolladores, financiadores y reguladores. Podrían, por ejemplo, recomendar auditorías internas de rutina o exigir protecciones para la información de identificación personal de los usuarios.

Creemos que estos grupos tienen buenas intenciones y están haciendo un trabajo que vale la pena. La comunidad de IA debería, de hecho, acordar un conjunto de definiciones y conceptos internacionales para la IA ética. Pero sin más representación geográfica, producirán una visión global de la ética de la IA que refleje las perspectivas de las personas en solo unas pocas regiones del mundo, particularmente en América del Norte y el noroeste de Europa.

Este trabajo no es fácil ni directo. Equidad, privacidad y parcialidad significan cosas diferentes (pdf) en diferentes lugares. Las personas también tienen expectativas dispares de estos conceptos dependiendo de sus propias realidades políticas, sociales y económicas. Los desafíos y riesgos que plantea la IA también difieren según la ubicación.

Si las organizaciones que trabajan en la ética global de la IA no reconocen esto, corren el riesgo de desarrollar estándares que, en el mejor de los casos, no tienen sentido ni son efectivos en todas las regiones del mundo. En el peor de los casos, estos estándares defectuosos conducirán a más sistemas y herramientas de IA que perpetúan los sesgos existentes y son insensibles a las culturas locales.

En 2018, por ejemplo, Facebook tardó en actuar ante la desinformación propagándose en myanmar que finalmente condujo a abusos contra los derechos humanos. Una evaluación (pdf) pagado por la compañía descubrió que este descuido se debió en parte a las pautas de la comunidad de Facebook y las políticas de moderación de contenido, que no abordaron las realidades políticas y sociales del país.

Existe una clara falta de diversidad regional en muchas juntas asesoras, paneles de expertos y consejos de IA.

Para evitar tales abusos, las empresas que trabajan en pautas éticas para sistemas y herramientas impulsados ​​por IA deben involucrar a usuarios de todo el mundo para ayudar a crear estándares apropiados para gobernar estos sistemas. También deben ser conscientes de cómo se aplican sus políticas en diferentes contextos.

A pesar de los riesgos, existe una clara falta de diversidad regional en muchos consejos asesores, paneles de expertos y consejos de IA designados por organizaciones internacionales líderes. El grupo asesor de expertos para el proyecto AI for Children de Unicef, por ejemplo, no tiene representantes de las regiones con la concentración más alta de niños y adultos jóvenes, incluidos Oriente Medio, África y Asia.

Desafortunadamente, tal como está hoy, todo el campo de la ética de la IA corre el grave riesgo de limitarse a lenguajes, ideas, teorías y desafíos de un puñado de regiones, principalmente América del Norte, Europa Occidental y Asia Oriental.

Esta falta de diversidad regional refleja la actual concentración de la investigación en IA (pdf) : el 86 % de los artículos publicados en congresos de IA en 2018 se atribuyeron a autores de Asia oriental, América del Norte o Europa. Y menos del 10 % de las referencias enumeradas en artículos de AI publicados en estas regiones corresponden a artículos de otra región. Las patentes también están muy concentradas: el 51 % de las patentes de IA publicadas en 2018 se atribuyeron a América del Norte.

Aquellos de nosotros que trabajamos en la ética de la IA haremos más daño que bien si permitimos que la falta de diversidad geográfica del campo defina nuestros propios esfuerzos. Si no tenemos cuidado, podríamos terminar codificando los sesgos históricos de la IA en pautas que distorsionen la tecnología para las generaciones venideras. Debemos comenzar a priorizar las voces de los países de bajos y medianos ingresos ( especialmente t manguera en el mundo Sur ) y los de comunidades históricamente marginadas.

Los avances tecnológicos a menudo han beneficiado a Occidente mientras exacerban la desigualdad económica, la opresión política y la destrucción ambiental en otros lugares. Incluir a los países no occidentales en la ética de la IA es la mejor manera de evitar que se repita este patrón.

Historia relacionada

El lavado de participación podría ser la próxima moda peligrosa en el aprendizaje automático Mucha gente ya participa en el trabajo de campo sin reconocimiento ni remuneración.

La buena noticia es que hay muchos expertos y líderes de regiones subrepresentadas para incluir en dichos grupos asesores. Sin embargo, muchas organizaciones internacionales parecen no esforzarse mucho en solicitar la participación de estas personas. El recién formado Consorcio Global de Ética de IA , por ejemplo, no tiene miembros fundadores que representen a instituciones académicas o centros de investigación de Medio Oriente, África o América Latina. Esta omisión es un claro ejemplo de patrones coloniales (pdf) repitiéndose.

Si vamos a construir sistemas de IA éticos, seguros e inclusivos en lugar de participar en lavado de ética , primero debemos generar confianza con aquellos que históricamente han sido perjudicados por estos mismos sistemas. Eso comienza con un compromiso significativo.

En el Instituto de ética de IA de Montreal , donde ambos trabajamos, estamos tratando de adoptar un enfoque diferente. Organizamos reuniones de ética de IA digital, que son discusiones abiertas a las que puede unirse cualquier persona con una conexión a Internet o un teléfono. Durante estos eventos, nos hemos conectado con un grupo diverso de personas, desde un profesor que vive en Macao hasta un estudiante universitario que estudia en Mumbai.

Mientras tanto, grupos como Partnership on AI, reconociendo la falta de diversidad geográfica en AI en términos más generales, han cambios recomendados a las leyes de visas y las políticas propuestas que facilitan que los investigadores viajen y compartan su trabajo. Maskhane , una organización de base, reúne a investigadores de procesamiento de lenguaje natural de África para impulsar el trabajo de traducción automática que ha descuidado los idiomas no dominantes.

Es alentador ver organizaciones internacionales tratando de incluir perspectivas más diversas en sus debates sobre IA. Es importante que todos recordemos que la diversidad regional y cultural es clave para cualquier conversación sobre la ética de la IA. Hacer que la IA responsable sea la norma, en lugar de la excepción, es imposible sin las voces de las personas que aún no tienen poder e influencia.

A bhishek Gupta es el fundador de la Instituto de ética de IA de Montreal e ingeniero de aprendizaje automático en Microsoft, donde se desempeña en la Junta de IA responsable de CSE. victoria brezo es investigador de la Instituto de ética de IA de Montreal y un investigador senior en el Asociación OTAN de Canadá .

esconder