211service.com
Empecé a llorar: dentro de los últimos días de Timnit Gebru en Google, y lo que sucede después
.
Nhung Le
16 de diciembre de 2020
A estas alturas, todos hemos escuchado alguna versión de la historia. El 2 de diciembre, después de un prolongado desacuerdo sobre la publicación de un trabajo de investigación, Google expulsó a su codirector de inteligencia artificial ética, Timnit Gebru . El papel estaba en el riesgos de los grandes modelos de lenguaje , modelos de IA entrenados en cantidades asombrosas de datos de texto, que son una línea de investigación fundamental para el negocio de Google. Gebru, una voz líder en ética de la IA, fue una de las únicas mujeres negras en Google Research.
Desde entonces, la medida ha provocado un debate sobre la creciente influencia corporativa sobre la IA, la falta de diversidad en la tecnología desde hace mucho tiempo y lo que significa hacer una investigación significativa sobre la ética de la IA. Al 15 de diciembre, más de 2600 empleados de Google y otros 4300 del mundo académico, la industria y la sociedad civil habían firmó una petición denunciando el despido de Gebru, llamándolo una censura de investigación sin precedentes y un acto de represalia.
Historia relacionada
Leímos el artículo que obligó a Timnit Gebru a salir de Google. Esto es lo que dice. El investigador estrella de ética de la empresa destacó los riesgos de los grandes modelos de lenguaje, que son clave para el negocio de Google.
Gebru es conocido por su trabajo fundacional en revelando la discriminación de la IA , desarrollando metodos para documentar y auditoría de modelos de IA y abogar por una mayor diversidad en la investigación. En 2016, cofundó la organización sin fines de lucro Black in AI , que se ha convertido en un recurso central para activistas de derechos civiles, organizadores laborales e investigadores líderes en ética de IA, cultivando y destacando el talento de investigación de Black AI.
Perder su trabajo no detuvo a Gebru. La semana siguiente, participó en varios talleres en NeurIPS, la mayor conferencia anual de investigación de IA, a la que asistieron más de 20 000 personas este año. Fue terapéutico, dice, ver cómo la comunidad que había ayudado a construir apareció y se apoyó mutuamente. Ahora, otra semana después, se está relajando y recuperando el aliento, y tratando de encontrarle sentido a todo.
El lunes 14 de diciembre me encontré con Gebru vía Zoom. Ella relató lo que sucedió durante su tiempo en Google, reflexionó sobre lo que significó para el campo y la investigación de la ética de la IA, y dio algunos consejos de despedida a aquellos que quieren seguir responsabilizando a las empresas de tecnología. También puede escuchar un episodio especial de nuestro podcast, In Machines We Trust, para conocer los aspectos más destacados de la entrevista. (Google rechazó una solicitud de comentarios sobre el contenido de esta entrevista).
Lo siguiente ha sido editado y condensado.
Primero quería ver cómo estás.
Siento que realmente no he tenido tiempo para procesar todo lo que sucedió y sus repercusiones emocionalmente. Solo estoy como yendo y yendo y yendo. Así que siento que probablemente me derrumbaré en algún momento cuando haya un poco de calma. Pero en este momento estoy muy preocupado por mi equipo y las personas que me apoyan, y los tipos de riesgos que están tomando, y asegurándome de que no sufran represalias.
Ha habido tantos relatos de lo que ha sucedido. Quería comenzar desde un punto mucho más temprano en esta historia. ¿Qué te hizo elegir originalmente trabajar en Google y cómo era Google en ese entonces?
creo Samy [Bengio, director de Google AI] y Jeff [Decano, vicepresidente sénior de Google Research] estuvieron en el taller Black in AI [en NeurIPS en 2017]. Me preguntaban a qué me dedicaba y me dijeron: Oh, sí, deberías venir a trabajar en Google. No lo estaba planeando. Estaba haciendo mi posdoctorado en ese momento en Microsoft Research [MSR]. No había descubierto qué iba a hacer a continuación. Pero sabía que quería volver al Área de la Bahía y estaban creando una oficina en Accra, Ghana. Pensé que sería bueno para mí ayudar con eso.
Tenía muchas reservas. Estuve en la ciudad de Nueva York en MSR, y había muchas mujeres vocales allí: Danah Boyd, Hannah Wallach, Jen [Wortman Vaughan], Kate Crawford, Mary Gray. No había realmente mujeres de color. Las únicas mujeres negras que conozco de todo Microsoft Research son Danielle Bellgrave en el Reino Unido y Shawndra Hill en Nueva York. Pero aún así, incluso los hombres fueron un gran apoyo. Tenía muchas dudas de ir a un entorno donde sabía que Google Research no era muy conocido por su defensa de las mujeres. Hubo una serie de problemas que había escuchado a través de mis redes de susurros. De hecho, cuando dije que iba a ir a Google Research, varias personas me sentaron. Así que ya lo estaba temiendo, como Oh, hombre, está bien, ¿en qué me estoy metiendo?
Definitivamente fui la primera mujer negra en ser científica investigadora en Google. Después de mí, tenemos dos mujeres negras más. Eso es, como, de tantos científicos investigadores. Cientos y cientos. Tres de Dios sabe cuántos.
No defraudaron. Era solo una lucha constante. Estaba tratando de abordarlo como si hablara con la gente, tratando de educarlos, tratando de que vieran un cierto punto de vista. Seguí pensando que podrían hacerlo mejor, ¿sabes? Con Samy, se ha convertido en un gran defensor. La gente se quejaba de que esta organización [Google Research] contrataba solo al 14 % de mujeres. Samy, mi gerente, contrató al 39% de mujeres. No era como si tuviera ningún incentivo para hacer eso en absoluto. Él fue la única razón por la que siento que esto no me había pasado antes. Probablemente sea porque nos estaba protegiendo. Y al protegernos, él mismo se metería en problemas. Si otros líderes te controlan con el tono y eres demasiado ruidoso, eres como un alborotador (todos sabemos que eso es lo que le sucede a la gente como yo), entonces si alguien te defiende, obviamente también será un problema. para los demás líderes.
Esos fueron mis dos años en Google. De hecho, pensé que tal vez estábamos progresando hasta el último incidente, porque nuestro equipo creció. Pasó de casi desintegrarse: dos meses después de mi tiempo en Google, mi codirectora, Meg Mitchell, iba a renunciar. Pero luego ampliamos nuestro equipo y ahora somos como 12 personas. Así que pensé que estábamos avanzando poco a poco.
Se habló tanto de diversidad e inclusión, pero también de hipocresía. Soy una del 1,6 % de mujeres negras en Google. En [Google] Research, no es 1.6%, es mucho más bajo. Definitivamente fui la primera mujer negra en ser científica investigadora en Google. Después de mí, tenemos dos mujeres negras más. Eso es, como, de tantos científicos investigadores. Cientos y cientos. Tres de Dios sabe cuántos.
Así que en algún momento pensé, ¿sabes qué? Ni siquiera quiero hablar de diversidad. Es agotador. Quieren reunirse contigo, no te escuchan y luego quieren volver a reunirse contigo. He escrito un millón de documentos sobre un millón de cosas relacionadas con la diversidad, sobre alfabetización racial y aprendizaje automático [ML], iniciativas de equidad de ML, sobre la retención de mujeres y los problemas. Tantos documentos y tantos correos electrónicos.
Así que ha sido una cosa tras otra. No hubo una sola vacación que tomé dentro de Google en la que no estuviera en medio de un problema u otro. Simplemente nunca ha sido paz mental. Imagina que alguien te está disparando con un arma y estás gritando. Y en lugar de tratar de detener a la persona que te está disparando con un arma, están tratando de evitar que grites. Así es como se sintió. Era tan doloroso estar en esa posición una y otra y otra vez.
Construiste con éxito uno de los equipos más diversos en la industria de la IA. ¿Qué se necesitó realmente para hacer eso?
Tuvimos que luchar contra todo tipo de cosas. Tenía que ser gerente, y luego la gente no quería que yo fuera gerente. Pensé, está bien, comencé una organización sin fines de lucro muy conocida. ¿Por qué tienes 'preocupaciones' acerca de que yo sea gerente? Samy no me dijo esto, pero tenía que entregar este mensaje: ¿Ella sabe que la pueden despedir por cosas? ¿Sabe que si se convierte en gerente, tendrá que ser representante de Google? Luego, la gente expresó su preocupación acerca de que yo parecía infeliz en Google. No es como, Oh, hay una cultura tóxica que hace que la gente como ella sea infeliz. Así que arreglemos esa cultura. No, esa no fue la conversación. La conversación fue Ella parece estar infeliz, así que no la hagamos gerente.
Yo estaba furioso en ese momento. Yo estaba tan enojado. Le preguntaba a todas las demás personas que se convirtieron en gerentes de mi nivel cuál había sido su experiencia. Estoy como, esta persona se convirtió en gerente y nadie les preguntó si sabían que iban a ser despedidos por X, Y y Z. Esta otra persona se convirtió en gerente. Nadie tenía que hablar con ellos. No hubo discusión alguna. Para mí no fue así.
Imagina que alguien te está disparando con un arma y estás gritando. Y en lugar de tratar de detener a la persona que te está disparando con un arma, están tratando de evitar que grites.
Otra cosa: queríamos contratar científicos sociales. Muchas veces los investigadores simplemente contratan a sus amigos y no queríamos hacer eso. Lanzamos una llamada. Recibimos 300 solicitudes. Los revisamos a mano porque queríamos asegurarnos de que los reclutadores no estuvieran filtrando ciertos grupos de personas. Tuvimos una llamada rápida con 20 y tantos, tuvimos una entrevista en el sitio con 10 personas y luego contratamos a dos de ellos.
Pensé que estábamos progresando porque pudimos obtener recursos para contratar a estas personas. Entonces pensé que tal vez Jeff estaba comenzando a apoyar a nuestro equipo y apoyar el tipo de cosas que estábamos haciendo. Nunca imaginé, no sé exactamente cómo sucedió esto en absoluto, pero simplemente no imaginé que él aprobaría [mi despido]. No puedo imaginarlo iniciándolo, pero incluso él firmando fue algo muy sorprendente para mí.
Durante el tiempo que estuvo formando el equipo, ¿pudo establecer relaciones con otros equipos en Google? ¿Ciertas partes de la organización se volvieron más receptivas a los problemas de ética de la IA?
La mayoría de las personas de nuestro equipo están inundadas de solicitudes de otros equipos o de otras personas. Y uno de nuestros retos era no estar siempre en medio de un incendio, porque queríamos tener previsión. Queríamos dar forma a lo que sucede en el futuro y no solo reaccionar.
El mayor desajuste que veo es que hay muchas personas que nos respetan, pero luego hay personas en la parte superior, como los vicepresidentes, que tal vez no nos soportan o simplemente no respetan nuestra autoridad o experiencia en absoluto. Lo he visto varias veces. Pero las personas en Google Cloud, o Cloud AI específicamente, algunos de los líderes senior, fueron de gran apoyo. Sentí que realmente respetaban nuestro liderazgo, por lo que tratarían de empujarnos a muchas cosas. Por otro lado, este último fiasco no fue de ellos. Tengo mis sospechas de qué vicepresidentes procedía y ciertamente no respetaron nuestra experiencia o liderazgo.
¿Podrías hablar un poco más sobre eso?
Bueno, incluso si solo ves el correo electrónico de jeff —Supongo que él no escribió este correo electrónico; Supongo que alguien lo escribió y lo envió; habla de cómo nuestra investigación [artículo sobre modelos de lenguaje grandes] tenía lagunas, faltaba algo de literatura. [El correo electrónico no] suena como si estuvieran hablando con personas que son expertas en su área. Esto no es una revisión por pares. Este no es el revisor n. ° 2 que le dice: Oye, falta esta cita. Este es un grupo de personas, que no conocemos, que ocupan un lugar destacado porque han estado en Google durante mucho tiempo, a quienes, por alguna razón y proceso desconocidos que nunca he visto, se les otorgó el poder. para cerrar esta investigación.
Tuvimos 128 citas [en ese documento], y enviamos nuestro documento a muchas de estas personas que citamos. Éramos tan minuciosos. Dije, está bien, quiero clasificar a las personas a las que les vamos a pedir comentarios en cuatro secciones. Una es la gente que ha desarrollado grandes modelos de lenguaje, solo para tener su perspectiva. Uno es la gente que trabaja en el área de entender y mitigar el sesgo en estos modelos. Una es la gente que podría estar en desacuerdo con nuestra opinión. Uno es la gente que usa estos grandes modelos de lenguaje para varias cosas. Y tenemos un documento completo con todos estos comentarios que se suponía que íbamos a abordar, y que aún quiero hacer antes de publicar este trabajo.
Pero la forma en que ellos [los líderes de Google] nos hablaban, no era como si estuvieran hablando con expertos y lingüistas de renombre mundial. Al igual que Emily Bender [profesora de la Universidad de Washington y coautora del artículo] no es una persona al azar que simplemente pone su nombre en un artículo al azar. Sentí que todo el asunto fue tan irrespetuoso.
Antes de este documento en particular, ¿hubo casos anteriores en los que alguna vez sintió que Google estaba restringiendo o limitando la capacidad de su equipo para realizar investigaciones?
Sentí que hubo instancias anteriores en las que diluyeron mucho los resultados de la investigación. La gente tenía conversaciones con relaciones públicas y política o lo que sea, y discrepaban con cierta redacción o discrepaban con ciertos detalles. Eso es lo que pensé que podrían intentar hacer con este documento también. Así que escribí un documento y seguí preguntándoles: ¿Cuáles son exactamente sus comentarios? ¿Tu comentario es para agregar una sección? ¿Para eliminar? ¿Qué significa esto? ¿Qué nos estás preguntando?
Este fue literalmente mi correo electrónico el viernes después del Día de Acción de Gracias [ 27 de noviembre, cinco días antes del despido de Gebru ] porque el día de Acción de Gracias me había pasado el día escribiendo este documento en lugar de pasar un buen rato con mi familia. Al día siguiente, el viernes, que es cuando se suponía que debía retractarme de este artículo, escribí: Bien, he escrito este documento de seis páginas abordando en un nivel alto y bajo cualquier comentario que pueda recopilar. Y espero que al menos haya una apertura para más conversaciones en lugar de solo más órdenes. Escribí ese correo electrónico. Como eso. ¿Cómo responde Megan [Kacholia, vicepresidenta de ingeniería de Google Research] a este correo electrónico? El lunes, ella responde y dice: ¿Puede confirmar que se retractó del artículo o que eliminó los nombres de los autores de este artículo? Gracias. Y puede confirmar después de haber hecho esto. Envíame un correo electrónico y confirma. Como si no tuviera agencia.
Eso no es lo que le hacen a las personas que han cometido una falta grave. Les dan 80 millones de dólares y les dan una buena salida. No hacen lo que me hicieron.
Luego, en ese documento, escribí que esto ha sido extremadamente irrespetuoso con el equipo de IA ética, y debe haber una conversación, no solo con Jeff y nuestro equipo, y Megan y nuestro equipo, sino con toda la investigación sobre el respeto por los investigadores. y cómo tener este tipo de discusiones. No. Ningún compromiso con eso en absoluto.
Lloré, por cierto. Cuando tuve esa primera reunión, que fue el jueves antes del Día de Acción de Gracias, un día antes de irme de vacaciones, cuando Megan nos dijo que tenían que retractarse de este artículo, comencé a llorar. Estaba tan molesto porque dije, estoy tan cansado de pelear constantemente aquí. Pensé que si simplemente ignoraba toda esta hipocresía de DEI [diversidad, equidad e inclusión] y otras cosas, y solo me enfocaba en mi trabajo, entonces al menos podría hacer mi trabajo. Y ahora vienes por mi trabajo. Así que literalmente comencé a llorar.
¿Qué crees que fue en este documento en particular que desencadenó estos eventos? ¿Crees que en realidad se trató de este artículo o hubo otros factores en juego?
No sé. Samy estaba horrorizado por todo el asunto. Él estaba como, así no es como tratamos a los investigadores. Quiero decir, así no es como tratas a la gente en general. La gente habla de cómo, si esto le sucede a alguien con tantos logros, me hace imaginar lo que le hacen a las personas, especialmente a las personas en grupos vulnerables.
Probablemente pensaron que estaría muy callado al respecto. No sé. No creo que el resultado final fuera solo sobre este artículo. Tal vez se sorprendieron de que retrocediera de alguna manera. Todavía estoy tratando de averiguar qué pasó.
¿Alguna vez sospechó, en base a los eventos y tensiones anteriores, que terminaría de esta manera? ¿Y esperabas la respuesta de la comunidad?
Pensé que podrían hacerme lo suficientemente miserable como para irme, o algo así. Pensé que serían más inteligentes que hacerlo exactamente de esta manera, porque es una confluencia de tantos problemas con los que están lidiando: censura de investigación, IA ética, derechos laborales, DEI, todas las cosas a las que se han enfrentado. fuego por antes. Así que no esperaba que fuera de esa manera, como cortar mi cuenta corporativa por completo. Eso es tan despiadado. Eso no es lo que le hacen a las personas que han cometido una falta grave. Ellos darles $ 80 millones , y les dan una pequeña salida agradable, o tal vez no los promueven de forma pasiva-agresiva, o lo que sea. No le hacen a las personas que en realidad están creando un entorno de trabajo hostil lo que me hicieron a mí.
Me enteré por mis informes directos, ¿sabes? Lo cual es tan, tan triste. Estaban tan traumatizados. Creo que mi equipo se quedó despierto hasta las 4 o 5 de la mañana juntos, tratando de entender lo que sucedió. Y rodear a Samy, todo era tan terrible y despiadado.
Pensé que si solo... me concentraba en mi trabajo, al menos podría terminar mi trabajo. Y ahora vienes por mi trabajo. Así que literalmente comencé a llorar.
Esperaba cierta cantidad de apoyo, pero definitivamente no esperaba la cantidad de efusión que hay. Ha sido increíble verlo. Nunca, nunca he experimentado algo como esto. Quiero decir, parientes al azar me están enviando mensajes de texto, vi esto en las noticias. Eso definitivamente no es algo que esperaba. Pero la gente está tomando tantos riesgos en este momento. Y eso me preocupa, porque realmente quiero asegurarme de que estén a salvo.
Has mencionado que esto no se trata solo de ti; no se trata solo de Google. Es una confluencia de tantos problemas diferentes. ¿Qué dice esta experiencia en particular sobre la influencia de las empresas de tecnología en la IA en general y su capacidad para hacer un trabajo significativo en la ética de la IA?
Ya sabes, había un número de personas comparando las grandes tecnológicas y las tabacaleras , y cómo estaban censurando la investigación a pesar de que conocían los problemas por un tiempo. Rechazo la dicotomía academia versus tecnología, porque ambos tienen el mismo tipo de paradigma muy racista y sexista. El paradigma que aprendes y llevas a Google o donde sea empieza en la academia. Y la gente se mueve. Van a la industria y luego vuelven a la academia, o viceversa. Todos son amigos; todos van a las mismas conferencias.
No creo que la lección sea que no debería haber investigación sobre la ética de la IA en las empresas de tecnología, pero creo que la lección es que a) debe haber mucha más investigación independiente. Necesitamos tener más opciones que solo DARPA [la Agencia de Proyectos de Investigación Avanzada de Defensa] versus corporaciones. Y b) debe haber supervisión de las empresas de tecnología, obviamente. En este punto, simplemente no entiendo cómo podemos seguir pensando que van a autorregularse en DEI o ética o lo que sea. No han estado haciendo lo correcto, y no van a hacer lo correcto.
Creo que las instituciones académicas y las conferencias deben repensar sus relaciones con las grandes corporaciones y la cantidad de dinero que les están quitando. Algunas personas incluso se preguntaban, por ejemplo, si algunas de estas conferencias deberían tener un código de conducta sin censura o algo por el estilo. Así que creo que hay mucho que estas conferencias e instituciones académicas pueden hacer. Hay demasiado desequilibrio de poder en este momento.
¿Qué papel cree que pueden jugar los investigadores de ética si están en las empresas? Específicamente, si su antiguo equipo permanece en Google, ¿qué tipo de camino ve para ellos en términos de su capacidad para producir un trabajo impactante y significativo?
Creo que debe haber algún tipo de protección para personas así o investigadores así. En este momento, obviamente es muy difícil imaginar cómo alguien puede hacer una investigación real dentro de estas corporaciones. Pero si tuviera protección laboral, si tuviera protección para denunciantes, si tuviera más supervisión, podría ser más fácil proteger a las personas mientras realizan este tipo de trabajo. Es muy peligroso si tienes este tipo de investigadores haciendo lo que mi codirector llamaba trabajo de encubrimiento de hoja de parra. Como, no estamos cambiando nada, solo estamos poniendo una hoja de parra en el arte. Si estás en un entorno donde las personas que tienen el poder no están comprometidas con cambiar nada de verdad, porque no tienen ningún incentivo, obviamente tener este tipo de investigadores integrados allí no ayudará en absoluto. Pero creo que si podemos crear mecanismos de responsabilidad y supervisión, mecanismos de protección, espero que podamos permitir que investigadores como este continúen existiendo en las corporaciones. Pero mucho tiene que cambiar para que eso suceda.
Además de tener conferencias o regulaciones que cambien las estructuras de incentivos, ¿hay otros mecanismos o cosas que podría ver como parte de este marco de supervisión externa? ¿Ve algún papel que el público podría desempeñar para responsabilizar a las empresas tecnológicas?
Tengo que pensar más en esto. Creo que el público debe estar más informado sobre el papel que desempeñan las empresas de tecnología, y también la IA, en nuestra vida diaria. Mucha gente ha estado haciendo un muy buen trabajo al respecto. La gente ha estado escribiendo libros— Armas de destrucción matemática fue un muy buen libro para mí para leer. hay Sesgo codificado , el documental. También estoy feliz de que estoy empezando a ver universidades que ofrecen algunas de estas clases en ciencias de la computación. Creo que deberían ser obligatorios. nicki washington tiene una clase en Duke que desearía haber podido tomar. Ruha [Benjamín] tiene una clase [en Princeton] . Creo que nuestra comprensión de cómo se desarrolla la ciencia y cómo se desarrolla la ingeniería, solo necesita cambiar. El público necesita entender la naturaleza política de este trabajo. Los sistemas de educación superior, en mi opinión, están muy atrasados en este sentido. Necesitan hacer mucho trabajo.
En cuanto al público, creo que si volviera a hace tres, cuatro años, había mucha menos conciencia. Ahora entidades como la ACLU [Unión Estadounidense de Libertades Civiles] están muy involucradas; tienes la Liga de la Justicia Algorítmica , Datos para Black Lives , haciendo mucho trabajo aquí. Así que creo que el público puede aprender más. Pero creo que esto depende más de los políticos, porque tenemos un mecanismo para involucrar al público en varias cosas. Pero los políticos no le están dando al público una forma de involucrarse. Por ejemplo, [empresa de análisis de datos] Palantir estaba siendo utilizado en Nueva Orleans para la policía predictiva y nadie lo sabía. No hubo votación. No hubo factura. No hubo discusión al respecto. Por lo tanto, nuestro gobierno debe brindar activamente al público la oportunidad de opinar sobre este tipo de problemas.
¿Qué significa realmente hacer un trabajo significativo de ética de IA?
Creo que tal vez signifique que puedes cuestionar las premisas fundamentales y los problemas fundamentales de la IA. No tienes que encubrir las cosas, o no tienes que ser reaccionario. Puede tener una previsión sobre el futuro, y puede entrar temprano mientras se piensa y desarrolla los productos, y no solo hacer las cosas después del hecho. Esa es la cosa número uno en la que pienso. Y que las personas más afectadas por la tecnología deberían tener una gran influencia, desde el principio.
Mencionó antes cómo la ética en las empresas de tecnología a menudo proviene de arriba hacia abajo, de personas que no son necesariamente las que se ven afectadas por la tecnología. ¿Cuál es el equilibrio ideal entre tener voces marginadas que impulsen la conversación y, al mismo tiempo, contar con la participación de los principales líderes?
Si las personas en los márgenes no tienen poder, entonces no hay incentivo para que nadie los escuche o haga que den forma a la discusión. Entonces, creo que las personas en la parte superior deben fomentar un entorno en el que las personas en los márgenes sean las que den forma a las discusiones sobre estas cosas, sobre la ética de la IA, sobre la diversidad y la inclusión.
Se nos enseña cuando estamos aprendiendo ciencia de manera objetiva, lo que se llama la vista de la nada, como si se supusiera que no debes aportar tu punto de vista. Creo que la gente debería hacer exactamente lo contrario.
Eso no es lo que está sucediendo en este momento. Vas a Google y ves a todas las personas de alto nivel que practican la ética de la IA; en absoluto, ni siquiera son personas de grupos subrepresentados. Esa fue la conversación que tuvimos cuando estuve allí, y muchos de nosotros estábamos súper frustrados por eso. Teníamos estos principios llamados Nada sobre nosotros sin nosotros, y lo primero que se nos ocurrió fue la seguridad psicológica. ¿Puedes imaginar? Eso significa que no me castiguen por hablar, que es exactamente lo que hicieron. Por lo tanto, debe buscar la entrada, pero, de nuevo, no lo haga de manera depredadora. Antes de siquiera pensar en los productos que está construyendo o la investigación que está realizando, debe comenzar a imaginar: ¿cómo puede trabajar con personas en los márgenes para dar forma a esta tecnología?
¿De alguna manera te ves a ti mismo como un mártir?
No estaba tratando de ser uno, y no creo que sea un mártir en este momento. Espero ser más un agente de cambio. Pero sí, Google me convirtió en uno, más de lo que hubiera sido si no me hubieran hecho esto.
¿Qué sigue para ti?
Oh hombre. No he tenido tiempo de pensar en eso. En este momento, estoy literalmente tratando de asegurarme de que mi equipo esté a salvo, asegurarme de que la narrativa sobre lo que me está pasando sea precisa y tomar un respiro cuando pueda. Con suerte, beber un poco de vino, comer algo, comer chocolate, pasar el rato con la familia. Y tal vez lo averigüe después. Pero mi mayor prioridad es no estar en el tipo de entorno en el que estaba. Esa es mi mayor prioridad.
¿Qué consejo tienes para otras personas que quieran aprovechar el trabajo que has hecho?
Mi consejo es leer sobre algunos de los trabajos que mencioné, especialmente por Vestido [Benjamín] , Meredith [Broussard] , Safiya [Noble] , simone browne , y un número de otras personas. Y traiga su experiencia vivida en ella. No intentes salirte de este trabajo. Tiene mucho que ver contigo. Así que tu ángulo y tu fuerza dependerán de cuál sea tu experiencia vivida. Di una charla llamada La jerarquía del conocimiento y el aprendizaje automático , y se trataba más o menos de eso: cómo nos enseñan cuando estamos aprendiendo ciencia de manera objetiva, lo que se llama la vista de la nada, como si se supusiera que no debes aportar tu punto de vista. Creo que la gente debería hacer exactamente lo contrario.
Actualización: Aclaramos el título del trabajo de Samy Bengio y corregimos una referencia a un investigador. Timnit se refería a Jen Wortman Vaughan, investigadora principal sénior de MSR, no a Jen Chayes, exdirectora de la misma empresa.