Una destacada investigadora de ética de la IA dice que la han despedido de Google

Timnit Gebru

Kimberly White / Larguero





El 2 de diciembre, la comunidad de investigación de IA se sorprendió al saber que Timnit Gebru había sido despedida de su puesto en Google. Gebru, una de las voces líderes en la investigación responsable de la IA, es conocido, entre otras cosas, por ser coautor de un trabajo innovador que reveló la carácter discriminatorio del reconocimiento facial , cofundador del grupo de afinidad Black in AI, y abogar sin descanso por la diversidad en la industria tecnológica .

Pero el miércoles por la noche, anunció en Twitter que había sido despedida de su puesto como codirectora ética de inteligencia artificial de Google. Aparentemente, el gerente de mi gerente envió un correo electrónico [a] mis subordinados directos diciendo que aceptó mi renuncia. No había renunciado, dijo.

En una entrevista con Bloomberg el jueves, Gebru dijo que el despido ocurrió después de una prolongada pelea con sus superiores por la publicación de un artículo de investigación sobre ética de la IA. Uno de los tuits de Gebru y un posterior correo electrónico interno de Jeff Dean, jefe de Google AI, sugieren que el artículo criticaba los costos ambientales y sesgos incrustados de grandes modelos de lenguaje.



Gebru, que había escrito el documento con cuatro colegas de Google y dos colaboradores externos, lo envió a una conferencia de investigación que se realizará el próximo año. Después de una revisión interna, se le pidió que retractara el artículo o eliminara los nombres de los empleados de Google. Ella respondió que lo haría si sus superiores cumplían una serie de condiciones. Si no pudieran, ella lo haría. trabajar en una ultima cita , ella dijo.

Ella también envió un correo electrónico frustrado a un servidor de listas interno, Google Brain Women and Allies, detallando las repetidas dificultades que había experimentado como investigadora negra. Acabamos de tener una investigación negra en todas las manos con una muestra tan emocional de exasperación, escribió. ¿Sabes lo que pasó desde entonces? Silenciar de la manera más fundamental posible.

Luego, Gebru se fue de vacaciones y recibió un correo electrónico de terminación de Megan Kacholia, vicepresidenta de ingeniería de Google Research, antes de su regreso. Gracias por aclarar tus condiciones, el correo electrónico indicado , como tuiteó Gebru. No podemos estar de acuerdo con el n.° 1 y el n.° 2 como lo solicita. Como resultado, respetamos su decisión de dejar Google y aceptamos su renuncia. Su correo electrónico al servidor de listas no coincidía con las expectativas de un gerente de Google, continuó. Como resultado, aceptamos su renuncia de inmediato, a partir de hoy.

El jueves por la mañana, después de una gran cantidad de apoyo a Gebru en las redes sociales, Dean envió un correo electrónico interno al grupo de IA de Google con su versión de la situación. Dijo que el artículo de Gebru no cumplió con nuestro estándar de publicación porque ignoró demasiada investigación relevante. También dijo que las condiciones de Gebru incluían revelar las identidades de todas las personas con las que Megan y yo habíamos hablado y consultado como parte de la revisión del artículo y los comentarios exactos.



Dado el papel de Timnit como investigador respetado y gerente en nuestro equipo de IA ética, me siento mal de que Timnit haya llegado a un lugar en el que se siente así sobre el trabajo que estamos haciendo, escribió. Sé que todos compartimos genuinamente la pasión de Timnit por hacer que la IA sea más equitativa e inclusiva.

Ni Gebru, Dean ni las comunicaciones de Google respondieron a las solicitudes de comentarios, y muchos detalles sobre la progresión exacta de los eventos o la causa de la terminación siguen sin estar claros. A medida que continúan surgiendo, muchos han atraído una atención renovada a un tuit del 30 de noviembre que Gebru fijó en la parte superior de su perfil. ¿Hay alguien trabajando en la regulación que proteja a los investigadores de IA ética, similar a la protección de los denunciantes? se lee. Porque con la cantidad de censura e intimidación que existe hacia las personas en grupos específicos, ¿cómo puede alguien confiar en que se pueda llevar a cabo una investigación real en esta área?

esconder