211service.com
Los empleados de Google hacen cola para destrozar el consejo de ética de IA de Google
Getty Images/León Neal
Casi mil empleados de Google, investigadores académicos y otras figuras de la industria tecnológica han firmado una carta protestando por la composición de un consejo independiente que Google creó para guiar la ética de sus proyectos de IA.
El gigante de las búsquedas Anunciado la creación del consejo la semana pasada en EmTech Digital, el evento de MIT Technology Review en San Francisco. Conocido como el Consejo Asesor Externo de Tecnología Avanzada (ATEAC), tiene ocho miembros que incluyen economistas, filósofos, formuladores de políticas y tecnólogos con experiencia en temas como el sesgo algorítmico. Está destinado a realizar cuatro reuniones al año, a partir de este mes, y redactar informes destinados a retroalimentar los proyectos de la empresa que utilizan inteligencia artificial.
Pero dos de esos miembros resultaron controvertidos. Uno, Dyan Gibbens, es director ejecutivo de Trumbull, una empresa que desarrolla sistemas autónomos para la industria de la defensa, una elección polémica dado que miles de empleados de Google protestaron por la decisión de la empresa de proporcionar a la Fuerza Aérea de EE. UU. IA para imágenes de drones. Sin embargo, la mayor indignación se produjo por la inclusión de Kay Coles James, presidenta de Heritage Foundation, un grupo de expertos que se opone a la regulación de las emisiones de carbono, adopta una línea dura con respecto a la inmigración y ha argumentado en contra de la protección de los derechos LGBTQ.
Un miembro del consejo, Alessandro Compras , profesor de la Universidad Carnegie Mellon que se especializa en temas de privacidad digital, anunció el 30 de marzo que no asumiría el cargo. Si bien me dedico a la investigación que aborda cuestiones éticas clave de equidad, derechos e inclusión en la IA, no creo que este sea el foro adecuado para participar en este importante trabajo'. tuiteó .
La creación de ATEAC, y la inclusión de Gibbens y James, de hecho puede haber sido diseñada para apaciguar a los críticos de derecha de Google. Aproximadamente al mismo tiempo que se anunció el consejo, Sundar Pichai, director ejecutivo de Google, se reunía con el presidente Donald Trump. Más tarde, Trump tuiteó: Declaró enfáticamente que está totalmente comprometido con las Fuerzas Armadas de EE. UU., no con las Fuerzas Armadas chinas. [Nosotros] también discutimos la equidad política y varias cosas que Google puede hacer por nuestro país. ¡La reunión terminó muy bien!
Pero un empleado de Google involucrado en la redacción de la carta de protesta, que habló bajo condición de anonimato, dijo que James es más que una simple voz conservadora en el consejo. Es una reaccionaria que niega que existan las personas trans, que respalda posiciones radicalmente antiinmigrantes y respalda posiciones contra el cambio climático y la ciencia.
Algunos algoritmos de IA destacados pueden reforzar los sesgos que ya se ven en la sociedad; se ha demostrado que algunos identificar erróneamente a las personas transgénero , por ejemplo. En ese contexto, el hecho de que [James] estuviera incluido es bastante impactante, dijo el empleado. Estas tecnologías están dando forma a nuestras instituciones sociales, nuestras vidas y el acceso a los recursos. Cuando la IA falla, no falla para los hombres blancos ricos que trabajan en empresas de tecnología. Falla exactamente para las poblaciones a las que las políticas de Heritage Foundation ya pretenden dañar.
Los mensajes publicados en una plataforma de comunicaciones internas de Google criticaron especialmente el nombramiento de James. Según una publicación anterior reportado por el borde y confirmado por el empleado, James no merece una plataforma legitimada por Google, y ciertamente no pertenece a ninguna conversación sobre cómo se debe aplicar la tecnología de Google al mundo.
A las 5:30 p. m., hora del este de EE. UU., la carta pública, publicada en Medium, había sido firmada por 855 empleados de Google y otras 143 personas, incluidos varios académicos destacados. Las opiniones de James no solo son contrarias a los valores declarados de Google, dice la carta, sino que son directamente contrarias al proyecto de garantizar que el desarrollo y la aplicación de la IA prioricen la justicia sobre las ganancias. En cambio, dicho proyecto debería colocar a los representantes de las comunidades vulnerables en el centro de la toma de decisiones.
Corrección : Una versión anterior de esta historia decía que solo siete empleados de Google habían firmado la carta en Medium.