La comunidad de IA debe asumir la responsabilidad de su tecnología y sus acciones.

Celeste Kidd Niall Carson / AP

El lunes, en la apertura de una de las reuniones más grandes del mundo de investigadores de IA, Celeste Kidd se dirigió a miles de asistentes en una sala de casi el doble del tamaño de un campo de fútbol. Ella no estaba tirando sus golpes.

No existe tal cosa como una plataforma neutral, dijo el influyente científico y prominente testaferro de #metoo a los reunidos en la conferencia NeurIPS en Vancouver. Los algoritmos que impulsan el contenido en línea tienen un profundo impacto en lo que creemos.

Kidd, profesora de psicología en la Universidad de California, Berkeley, es conocida dentro de su campo por hacer importantes contribuciones a nuestra comprensión de la teoría de la mente: cómo adquirimos conocimiento y cómo formamos creencias. Hace dos años, también se dio a conocer en todo el mundo cuando Time la nombró Persona del año entre otros que se pronunciaron contra el abuso y el acoso sexual.

En el escenario, Kidd compartió cinco lecciones de su investigación y demostró cómo las decisiones de la industria tecnológica podrían influir en las personas para desarrollar creencias falsas, por ejemplo, negar el cambio climático. Cerca del final de su charla, también compartió su experiencia con el acoso sexual como estudiante de posgrado y directamente dirigido algunos de los malentendidos que había escuchado sobre el movimiento #metoo de los hombres.

Puede parecer un momento aterrador para ser un hombre en tecnología en este momento, dijo a los asistentes a la conferencia, de los cuales aproximadamente el 80% son hombres este año. Existe la sensación de que una carrera podría destruirse por pases incómodos o malentendidos.

Lo que quiero decirles hoy a todos los hombres en la sala es que les han engañado, dijo.

Su charla recibió una ovación de pie, un momento poco común en la historia de la conferencia.

Los comentarios de Kidd llegan en un momento en que la comunidad de IA, y la industria tecnológica en general, se ha visto obligada a tener en cuenta los daños no intencionales de sus tecnologías. Solo el año pasado, una serie de casos de alto perfil expusieron cómo los deepfakes pueden abusar de las mujeres, cómo los algoritmos pueden tomar decisiones discriminatorias en la atención médica y los préstamos crediticios, y cómo el desarrollo de modelos de IA puede ser inmensamente costoso para el medio ambiente. Al mismo tiempo, la comunidad ha sido sacudida por varios escándalos de acoso y abuso sexual , incluyendo algunos incidentes en años anteriores de la propia conferencia . También ha seguido sufriendo de cifras de diversidad espantosas.

Pero la charla de Kidd destacó un cambio importante que ha comenzado a ocurrir, uno que se sintió palpablemente en la habitación esa noche. Después de su charla, decenas de personas se alinearon frente a los micrófonos repartidos por la sala para agradecerle por hablar sobre estos temas. Docenas más se reunieron a su alrededor después de la sesión, algunos solo para estrecharle la mano en agradecimiento. Para los asistentes que recuerdan la reunión anual incluso hace dos años, hay una nueva apertura para reconocer estos desafíos y un enfoque renovado para hacerlo mejor.

El día después de su charla, me senté con Kidd para hablar más sobre los dos mensajes que entregó, cómo se relacionan y sus esperanzas para el futuro.

Esta entrevista ha sido editada y resumida para mayor claridad.

En la parte de investigación de su charla, terminó con su mensaje: No existe tal cosa como una plataforma neutral. ¿Cómo llegaste a esta conclusión de tu investigación?

Algo de lo que solo me di cuenta en los últimos años, debido a mis interacciones con mis dos estudiantes graduados, es que realmente no hay una distinción entre conocimiento y creencias. Esos son lo mismo, básicamente.

Ahora nos estamos moviendo hacia la comprensión de cómo estas dinámicas que hemos observado en los experimentos de laboratorio se extienden al mundo real. Cuando alguien va a Internet sin estar seguro de lo que debe creer, ¿con qué tiende a salir de estas búsquedas neutrales? ¿Podemos usar ese mismo tipo de ideas para tratar de explicar por qué la gente cree que la tierra es plana y por qué esos conceptos erróneos no se corrigen? Esa no es un área en la que haya visto mucha atención, pero es una que creo que es muy importante.

¿Por qué fue importante para usted compartir su mensaje en esta conferencia?

Gran parte de lo que creemos ahora proviene de fuentes en línea. Especialmente los niños: están formando los componentes básicos del conocimiento que luego darán forma a lo que creen, lo que les interesa aprender más adelante. Para los niños pequeños, también hay razones para esperar que consuman más reproducción automática y contenido sugerido que los adultos. Entonces, inicialmente, corren más riesgo de verse influenciados por el algoritmo que impulsa el contenido, porque esa es su única opción.

Mi charla tenía la intención de ser un mensaje para las personas que trabajan en los sistemas para que sean considerados acerca de cómo esas decisiones de back-end influyen en las creencias de una persona individual, pero también en la sociedad en su conjunto. No creo que haya suficiente sensibilidad en la tecnología sobre cómo las decisiones que tomas detrás de escena sobre cómo impulsar el contenido impactan en la vida de las personas.

Hay un grito de batalla común cuando surgen preguntas sobre cómo se ofrece el contenido: la afirmación de que las plataformas son neutrales. Y creo que eso es deshonesto. Las decisiones de back-end que tomas influyen directamente en lo que la gente cree, y la gente lo sabe. Así que pretender que eso no es una cosa es deshonesto.

Cuando cambiamos el comportamiento de las personas, lo que estamos haciendo es cambiar sus creencias. Y esos cambios tienen consecuencias reales y concretas. Cuando un padre busca información sobre si debe o no vacunar a su hijo, si se acerca a su computadora portátil indeciso y se aleja decidido, realmente importa qué contenido se ofreció, qué opiniones se representaron.

No creo que sea razonable decir que no tiene ninguna responsabilidad por lo que una madre le hace a su hijo, ya sea que decida vacunarlos o no, porque eso no fue algo que consideró cuando creó el sistema. Creo que tiene la responsabilidad de considerar cuáles son las repercusiones de las decisiones finales.

Mencionaste en las preguntas y respuestas privadas después de tu charla que nunca has presentado tanto tu investigación como tus experiencias de acoso sexual en un foro público. ¿Por qué normalmente separas esos dos y por qué decidiste combinarlos?

Comenzaré con el segundo: hice una excepción a la regla en este caso porque pensé que era muy importante que esta comunidad escuchara ese mensaje. La ciencia de la computación es un campo en el que las mujeres han tenido muchas dificultades durante mucho tiempo para obtener tracción y entrar. Hay un alto grado de interés desde el principio, y luego hay una tubería con fugas. Y sé que una de las cosas que hacen que sea muy difícil para una mujer tener un buen desempeño en este campo son las pocas oportunidades de tutoría.

Sé que es muy común que los hombres de informática con buenas intenciones se preocupen por ofender a las mujeres. La implicación posterior de eso es que las mujeres están perdiendo oportunidades de capacitación, pero también los hombres están perdiendo las ideas y la innovación que las mujeres traerían. Los estudios empíricos muestran que la diversidad conduce a mayores tasas de innovación. Y la oportunidad de hablar con una gran parte de estos hombres en una habitación al mismo tiempo, sentí que era importante y que tenía que hacerlo.

La razón por la que normalmente no los mezclo: no elegí lo que me sucedió en mi primer año de posgrado en Rochester. No elegí cuál sería la respuesta de la universidad. Quería una carrera en ciencias y quiero proteger eso, así que no quiero dejar de hablar de ciencia porque me he pronunciado sobre este tema. Pero también soy consciente de que la mayoría de las personas no tienen la oportunidad, no obtienen una plataforma para hablar. Por lo general, lo que les sucede a las personas que fueron acosadas sexualmente al principio de sus carreras y su institución tomó represalias contra ellas es que desaparecen. No me sentiría bien sin hacer nada. Las personas que tienen privilegios necesitan usarlos donde puedan. Y esta fue una oportunidad de usar el privilegio de dar una charla en NeurIPS para ayudar a las mujeres más jóvenes que merecen un trato igualitario.

¿Le preocupaba la forma en que llegarían estos comentarios?

Por supuesto. Pero tener miedo de la respuesta no es una razón para no hablar. Hablé un poco sobre el privilegio. También estoy en una posición relativamente privilegiada en esta conferencia en particular porque hay mucha gente en la industria, y creo que las presiones para mantener a la gente en silencio son mayores en las empresas que en la academia, al menos en tecnología en este momento. Entonces, si me preocupaba que me despidieran, eso sería algo adicional para mantenerme callado. UC Berkeley sabía que yo hablaba sobre estos temas antes de contratarme, y no me han mostrado más que apoyo y aliento en la lucha por la equidad. Al estar en un lugar que me apoya así, puedo decir cosas sin miedo a perder mi trabajo y no poder pagar la comida de mi hijo. Y esa es la otra razón por la que sentí que debía hablar.

Esperaba que algunas personas se enfadaran. Son 13.000 personas. Por supuesto, algunas personas pueden malinterpretarme. Literalmente hablé sobre cómo cuando usamos palabras, son ambiguas y las personas activan diferentes conceptos. No es posible convencer a todas las personas exactamente de lo que tienes en mente.

Aunque por lo general separas tus charlas sobre tu investigación y tu activismo, y las separaste en dos secciones en NeurIPS, para mí realmente abordan lo mismo: cómo desarrollar tecnología responsable asumiendo más responsabilidad por tus decisiones y acciones.

Correcto. Me mencionaste que se habla más en la comunidad de IA sobre las implicaciones éticas, que se aprecia más la conexión entre la tecnología y la sociedad. Y creo que parte de eso se debe a que la comunidad se vuelve más diversa e involucra a más personas. Vienen de un lugar menos privilegiado y son más conscientes de cosas como el sesgo y la injusticia y cómo las tecnologías que fueron diseñadas para un determinado grupo demográfico en realidad pueden dañar a las poblaciones desfavorecidas.

Espero que eso continúe. Tenemos que estar hablando entre nosotros para poder avanzar. Y todos merecemos sentirnos seguros cuando interactuamos entre nosotros.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder