Establecer un código de ética de IA será más difícil de lo que la gente piensa

Varoon Mathur / Instituto AI Now

En los últimos seis años, el departamento de policía de la ciudad de Nueva York ha compilado una base de datos masiva que contiene los nombres y datos personales de al menos 17.500 personas que cree que están involucradas en bandas criminales. El esfuerzo ya ha sido criticado por activistas de derechos civiles que dicen que es inexacto y racialmente discriminatorio.

'Ahora imagine combinar la tecnología de reconocimiento facial con el desarrollo de una base de datos que teóricamente supone que usted está en una pandilla', dijo Sherrilyn Ifill, presidenta y directora-consejera del fondo de Defensa Legal de la NAACP, en la conferencia. Simposio AI Now en Nueva York el martes pasado.

Abogados, activistas e investigadores enfatizan la necesidad de ética y responsabilidad en el diseño e implementación de sistemas de IA. Pero esto a menudo ignora un par de preguntas difíciles: ¿quién puede definir esa ética y quién debería hacerla cumplir?

Sherrilyn Ifill (Fondo de Defensa Legal de la NAACP), Timnit Gebru (Google) y Nicole Ozer (ACLU) en una conversación en el Simposio AI Now 2018. Andrew Federman para el Instituto AI Now

No solo el reconocimiento facial es imperfecto, estudios han demostrado que el software líder es menos preciso para las personas de piel oscura y las mujeres. Según la estimación de Ifill, la base de datos de la policía tiene entre un 95 y un 99 por ciento de afroamericanos, latinos y asiáticos americanos. “Estamos hablando de crear una clase de […] personas marcadas con una especie de etiqueta criminal”, dijo Ifill.

Mientras tanto, los departamentos de policía de los EE. UU., el Reino Unido y China han comenzado a adoptar el reconocimiento facial como una herramienta para encontrar delincuentes conocidos. En junio, la policía de Gales del Sur publicado una declaración que justifique su uso de la tecnología debido al 'beneficio público' que proporciona.

De hecho, la tecnología a menudo destaca los diferentes estándares éticos de las personas, ya sea censurar el discurso de odio o utilizando herramientas de evaluación de riesgos para mejorar la seguridad publica .

En un intento por resaltar cuán divergentes pueden ser los principios de las personas, los investigadores del MIT crearon una plataforma llamada the Maquina Moral para conocer la opinión humana sobre las decisiones morales que deben seguir los automóviles autónomos. Le pidieron a millones de personas de todo el mundo que opinaran sobre las variaciones del clásico ' problema del carro ' eligiendo a quién debe tratar de priorizar un automóvil en un accidente. Los resultados muestran una gran variación entre diferentes culturas.

Establecer estándares éticos tampoco necesariamente cambia el comportamiento. En junio, por ejemplo, después de Google acordado para interrumpir su trabajo en el Proyecto Maven con el Pentágono, estableció un nuevo conjunto de principios éticos para guiar su participación en futuros proyectos de IA. Solo unos meses después, muchos empleados de Google sienten que esos principios se han dejado de lado con una oferta para un Contrato del Departamento de Defensa de $ 10 mil millones . A estudio reciente de la Universidad Estatal de Carolina del Norte también descubrió que pedirles a los ingenieros de software que lean un código de ética no cambia su comportamiento.

Philip Alston, jurista internacional de la Facultad de Derecho de la NYU, propone una solución a la naturaleza ambigua e irresponsable de la ética: reformular las consecuencias impulsadas por la IA en términos de derechos humanos. '[Los derechos humanos están] en la constitución', dijo Alston en la misma conferencia. 'Están en la declaración de derechos; han sido interpretados por los tribunales', dijo. Si un sistema de inteligencia artificial les quita los derechos básicos a las personas, entonces no debería ser aceptable, dijo.

Philip Alston (Facultad de Derecho de la NYU), Virginia Eubanks (Universidad de Albany, SUNY) y Vincent Southerland (Centro de Raza, Desigualdad y Derecho de la NYU) en el escenario del simposio. Andrew Federman para el Instituto AI Now

Alston no es el único que ha encontrado esta solución. Menos de una semana antes del Simposio, el Data & Society Research Institute publicó un propuesta por utilizar los derechos humanos internacionales para gobernar AI. El informe incluye recomendaciones para que las empresas de tecnología se involucren con grupos de derechos civiles e investigadores, y realicen evaluaciones de impacto en los derechos humanos en los ciclos de vida de sus sistemas de IA.

'Hasta que comencemos a incluir [los derechos humanos] en la discusión sobre la IA', agregó Alston, 'no hay un ancla sólida'.

esconder