Investigadores de Harvard quieren educar al Congreso sobre IA

Foto de Harvard Square Chensiyuan/Wikimedia commons

Cuando el presidente ejecutivo de Facebook, Mark Zuckerberg, testificó ante el Congreso de los EE. UU., los expertos en tecnología rápidamente se dieron cuenta de lo mal informados que estaban sus interlocutores. Por mucho que el Congreso quisiera regular el gigante tecnológico, estaba claro que no tenían idea de cómo. En cambio, lo dejaron salirse con la suya con afirmaciones grandiosas sobre cómo la IA resolvería todos los problemas de la empresa.

Para Dipayan Ghosh, investigador de la Escuela Kennedy de Harvard (HKS), la audiencia enfatizó la necesidad apremiante de poner al día a los legisladores estadounidenses sobre los principales problemas tecnológicos, y la IA en particular.

La IA es una tecnología tremenda, pero hay problemas realmente destacados que hemos visto tomar vida propia en la sociedad, dice Ghosh, quien fue asesor de política tecnológica en la administración de Obama. Necesitamos informar a las personas en posiciones de poder sobre cómo funcionan realmente estos sistemas, para que la próxima vez que lancen un esfuerzo regulatorio, no estén mal informados.

Ghosh está codirigiendo una nueva iniciativa de política de IA , lanzado hoy, con Tom Wheeler, investigador principal de HKS y presidente de la Comisión Federal de Comunicaciones de EE. UU. bajo Obama.

Financiada por el Centro Shorenstein de Medios, Política y Políticas Públicas de HKS, la iniciativa se centrará en ampliar los conocimientos académicos y legales en torno a la ética y la regulación de la IA. También organizará un campo de entrenamiento para los miembros del Congreso de los EE. UU. para ayudarlos a aprender más sobre la tecnología. La esperanza es que con estos esfuerzos combinados, el Congreso y otros legisladores estarán mejor equipados para regular y guiar de manera efectiva el creciente impacto de la IA en la sociedad.

Durante el año pasado, una serie de escándalos tecnológicos de alto perfil han dejado cada vez más claras las consecuencias de una IA mal implementada. Esto incluye el uso de aprendizaje automático para difundir desinformación a través de las redes sociales y la automatización de prácticas sesgadas y discriminatorias a través del reconocimiento facial y otros sistemas automatizados.

En octubre, en el Simposio anual AI Now, tecnólogos, activistas de derechos humanos y expertos legales enfatizaron repetidamente la necesidad de sistemas para responsabilizar a AI.

El gobierno tiene una visión a largo plazo, dijo Sherrilyn Ifill, presidenta y directora asesora del Fondo de Defensa Legal de la NAACP. Tienen, en muchos sentidos, la responsabilidad de comunicar la historia a las corporaciones y otras empresas que están desarrollando estas tecnologías.

Pero el gobierno carece del conocimiento para asumir esta responsabilidad, dice Ghosh. Si le pregunta a un miembro del Congreso si la IA es parte del problema de la desinformación, podría responder 'No lo creo' o 'No lo sé', dice.

Como parte de la iniciativa, Ghosh y Wheeler le pidieron a aproximadamente 30 expertos líderes en informática, filosofía, economía y otros campos que opinaran sobre temas como la discriminación, la equidad, la transparencia y la responsabilidad.

Esas perspectivas se publicarán en los próximos meses, comenzando con tres esta semana: Catherine Tucker, profesora de la Escuela de Administración Sloan del MIT, sobre el contexto económico del sesgo algorítmico; M.C. Elish y Danah Boyd, líder de investigación y fundadora del Instituto de Investigación de Datos y Sociedad, respectivamente, sobre la ética de cuándo y cómo usar los sistemas de IA sin exacerbar la injusticia existente; y Joseph Turow, profesor de la Annenberg School for Communication, sobre las consecuencias discriminatorias del marketing hiperpersonalizado.

La iniciativa organizará un campo de entrenamiento en Washington, DC, el próximo febrero para los miembros del Congreso y su personal de políticas tecnológicas para ayudar a traducir los artículos en debates productivos sobre políticas. El campamento explorará lo que significa diseñar IA de manera ética y qué medidas regulatorias podrían tomarse para mitigar su daño y fomentar sus beneficios.

Ghosh reconoce que el clima político actual dificulta alinear a ambos partidos hacia cualquier objetivo, pero tiene la esperanza de que encuentren puntos en común sobre la urgencia del problema.

esconder