El Congreso quiere respuestas de Google sobre el despido de Timnit Gebru

yvette clarke

Representante Yvette Clarke Foto AP/Kathy Willens





Nueve miembros del Congreso de los EE. UU. han enviado una carta a Google pidiéndole que aclare las circunstancias en torno a la partida forzada de su ex codirector ético de inteligencia artificial, Timnit Gebru. Dirigido por la Representante Yvette Clarke y el Senador Ron Wyden, y firmado conjuntamente por los Senadores Elizabeth Warren y Cory Booker, la carta envía una señal importante sobre cómo el Congreso está examinando a los gigantes tecnológicos y pensando en la próxima regulación.

Gebru, una voz líder en ética de IA y una de las pocas mujeres negras en Google, fue despedido sin contemplaciones hace dos semanas, después de un prolongado desacuerdo sobre un trabajo de investigación. El papel detalló los riesgos de los grandes modelos de lenguaje de IA capacitado en enormes cantidades de datos de texto, que son una línea central de la investigación de Google, impulsando varios productos, incluida su lucrativa Búsqueda de Google.



Citando la cobertura de MIT Technology Review, la carta plantea tres problemas: el potencial de sesgo en los modelos de lenguaje grande, la creciente influencia corporativa sobre la investigación de IA y la falta de diversidad de Google. Solicita al CEO de Google, Sundar Pichai, un plan concreto sobre cómo abordará cada uno de estos, así como su política actual sobre la revisión de la investigación y detalles sobre su investigación en curso sobre la salida de Gebru (Pichai se comprometió con esta investigación en una nota interna , publicado por primera vez por Axios). Como miembros del Congreso que buscan activamente mejorar la investigación, la responsabilidad y la diversidad de la IA a través de la legislación y la supervisión, solicitamos respetuosamente su solicitud para las siguientes consultas, dice la carta.

En abril de 2019, Clarke y Wyden presentaron un proyecto de ley, el Ley de responsabilidad algorítmica , eso requeriría que las grandes empresas auditen sus sistemas de aprendizaje automático en busca de sesgos y tomen medidas correctivas de manera oportuna si se identificaran tales problemas. También requeriría que esas empresas auditen todos los procesos que involucran datos confidenciales, incluida la información de identificación personal, biométrica y genética, para detectar riesgos de privacidad y seguridad. En ese momento, muchos expertos legales y tecnológicos elogiaron el proyecto de ley por su comprensión matizada de la IA y las tecnologías basadas en datos. Gran primer paso, escribió Andrew Selbst, profesor asistente de la Facultad de Derecho de la Universidad de California en Los Ángeles, en Twitter. Requeriría documentación, evaluación e intentos de abordar los impactos previstos. Eso es nuevo, emocionante e increíblemente necesario.

Historia relacionada

Leímos el artículo que obligó a Timnit Gebru a salir de Google. Esto es lo que dice.

El investigador estrella de ética de la empresa destacó los riesgos de los grandes modelos de lenguaje, que son clave para el negocio de Google.



La última carta no se relaciona directamente con la Ley de Responsabilidad Algorítmica, pero es parte del mismo movimiento de ciertos miembros del Congreso para elaborar una legislación que mitigue el sesgo de la IA y los otros daños de los sistemas automatizados basados ​​en datos. En particular, se produce en medio de una creciente presión por la regulación antimonopolio. A principios de este mes, la Comisión Federal de Comercio de EE. presentó una demanda antimonopolio contra Facebook por su conducta anticompetitiva y métodos desleales de competencia. Durante el verano, los demócratas de la Cámara publicaron un informe de 449 páginas sobre las prácticas monopólicas de Big Tech.

La carta también llega en el contexto de crecientes tensiones geopolíticas. Dado que las relaciones entre Estados Unidos y China han alcanzado un mínimo histórico durante la pandemia, los funcionarios estadounidenses han subrayado la importancia estratégica de las tecnologías emergentes como la IA y la 5G. La carta también plantea esta dimensión, reconociendo el liderazgo de Google en IA y su papel en el mantenimiento del liderazgo de EE. UU. Pero deja en claro que esto no debería socavar la acción regulatoria, una línea de argumentación popularizado por el CEO de Facebook Mark Zuckerberg . Para garantizar que Estados Unidos gane la carrera de la IA, dice la carta, las empresas tecnológicas estadounidenses no solo deben liderar el mundo en innovación; también deben garantizar que dicha innovación refleje los valores de nuestra nación.

Nuestra carta debería advertir a todos en el sector de la tecnología, no solo a Google, que estamos prestando atención, dijo Clarke en un comunicado a MIT Technology Review. La IA ética es el campo de batalla por el futuro de los derechos civiles. Nuestras preocupaciones sobre los desarrollos recientes no son solo sobre una persona; se trata de cómo será el siglo XXI si la libertad académica y la inclusión pasan a un segundo plano frente a otras prioridades. No podemos mitigar el sesgo algorítmico si obstaculizamos a quienes buscan investigarlo y estudiarlo.



esconder