211service.com
Ok Google, lamento que hayas perdido tu consejo de ética, así que creamos uno para ti
Bueno, eso no tomó mucho tiempo. Después de poco más de una semana, Google dio marcha atrás en la creación de su Consejo Asesor Externo de Tecnología Avanzada, o ATEAC, un comité destinado a brindar orientación a la empresa sobre cómo desarrollar éticamente nuevas tecnologías como la IA. La inclusión de la presidenta de Heritage Foundation, Kay Coles James, en el consejo provocó protestas por sus puntos de vista antiambientalistas, anti-LGBTQ y antiinmigrantes, y dirigió a casi 2500 empleados de Google para firmar una petición para su remoción. En cambio, el gigante de Internet simplemente decidió cerrar todo.
¿Cómo salieron las cosas tan mal? ¿Y puede Google corregirlos? Tenemos una docena de expertos en inteligencia artificial, tecnología y ética para que nos digan dónde perdió la empresa su rumbo y qué podría hacer a continuación. Si estas personas hubieran estado en ATEAC, la historia podría haber tenido un desenlace diferente.
'Sea transparente y específico sobre las funciones y responsabilidades que tienen los consejos de ética'
Rashida Richardson, directora de investigación de políticas en AI Now Institute
'No tenemos idea de si las juntas de ética son en realidad una brújula moral o simplemente otro sello de goma'
En teoría, las juntas de ética podrían ser un gran beneficio cuando se trata de garantizar que los productos de IA sean seguros y no discriminatorios. Pero para que las juntas de ética tengan un impacto significativo, deben rendir cuentas públicamente y tener una autoridad de supervisión real.
Eso significa que las empresas de tecnología deberían estar dispuestas a compartir los criterios que utilizan para seleccionar quién se sienta en estos consejos de ética. También deben ser transparentes y específicos sobre las funciones y responsabilidades que tienen sus consejos de ética para que el público pueda evaluar su eficacia. De lo contrario, no tenemos idea de si las juntas de ética son en realidad una brújula moral o simplemente otro sello de goma. Dada la influencia global y la responsabilidad de las grandes empresas de IA, este nivel de transparencia y rendición de cuentas es esencial.
Considere lo que realmente significa gobernar la tecnología de manera efectiva y justa
Jake Metcalf, investigador de ética tecnológica en Data & Society
El alboroto de ATEAC nos muestra cuán tensa y polémica será probablemente esta nueva era de ética tecnológica. Google claramente interpretó mal la habitación en este caso. Es probable que las poblaciones políticamente marginales que están sujetas a los caprichos clasificatorios de las tecnologías AI/ML experimenten los peores daños éticos por la toma de decisiones automatizada. El hecho de que Google favorezca a Kay Coles James por la diversidad de puntos de vista sobre su odio abierto hacia las personas transgénero muestra que no están considerando adecuadamente lo que realmente significa gobernar la tecnología de manera efectiva y justa.
'Ética significa dos cosas diferentes que pueden ser contradictorias en la práctica. Las empresas están dispuestas a lo primero y aterrorizadas por lo segundo'
Es complicado para las empresas porque la ética significa dos cosas diferentes que pueden ser contradictorias en la práctica: es tanto el trabajo diario de comprender y mitigar las consecuencias (como ejecutar una herramienta de detección de prejuicios o organizar una reunión deliberativa de diseño) y el juicio sobre cómo la sociedad se pueden ordenar de la manera más justa (por ejemplo, si los daños dispares a las comunidades marginadas significan que una línea de productos debe aumentar). Las corporaciones están dispuestas a lo primero y aterrorizadas por lo segundo. Pero si la ética de la IA no se trata de prevenir el abuso automatizado, bloquear la transferencia de tecnologías peligrosas a gobiernos autocráticos o prohibir la automatización de la violencia estatal, entonces es difícil saber qué piensan las empresas de tecnología que no sean gestos vacíos. Debajo de la nueva y agradable herramienta de informe de ética que es compatible con las métricas de KPI de la empresa, hay una preocupación genuina de que hay vidas en juego. Tenerlos en la cabeza todos a la vez es un desafío para las empresas desde el punto de vista burocrático y para los especialistas en ética interesados en ver que ganen tecnologías más justas.
Primero reconozca al elefante en la habitación: los principios de IA de Google
Evan Selinger, profesor de filosofía en el Instituto de Tecnología de Rochester
Google puso el kibosh en ATEAC sin reconocer primero el elefante en la habitación: los principios de la IA que el CEO Sundar Pichai articuló durante el verano. Académicos destacados, miembros de organizaciones de la sociedad civil y empleados sénior de empresas de tecnología me han dicho constantemente que, si bien los principios se ven bien en el papel, son lo suficientemente flexibles como para interpretarlos de manera que eviten que Google tenga que comprometer cualquier crecimiento a largo plazo. estrategias, sobre todo porque los mecanismos de aplicación para violar los principios no están bien definidos y, al final, toda la empresa sigue siendo un esfuerzo de autorregulación.
Dicho esto, sin duda ayudaría a que el liderazgo sea más responsable ante una junta de ética si el grupo estuviera (a) debidamente constituido; (b) con poderes institucionales claros y sólidos (en lugar de simplemente estar allí para ofrecer asesoramiento); y (c) también, en sí mismo, estar sujeto a estándares transparentes de rendición de cuentas para garantizar que no se convierta en un engranaje en una lavadora racionalizadora y ética.
Cambiar a las personas encargadas de armar estos grupos
Ellen Pao, fundadora del Proyecto Incluir
Este esfuerzo fallido muestra exactamente por qué Google necesita mejores asesores. Pero tal vez también necesiten cambiar a las personas a cargo de armar estos grupos, y tal vez sus equipos internos también deberían estar haciendo este trabajo. Hubo varios problemas con el resultado como todos hemos visto, pero también problemas con el proceso. Cuando no le ha comunicado a todo el grupo con quién trabajarán, es un gran error. Reunir a personas que reflejan mejor el mundo en el que vivimos debería haber ocurrido internamente antes de intentar formar un grupo externo.
Nota al margen, las personas deben examinar los grupos a los que se unen, los paneles de conferencias en los que hablan y sus equipos antes de comprometerse para saber en qué se están inscribiendo. Es sorprendente cuánto puedes influir en ellos y cómo puedes cambiar la composición de un grupo con solo preguntar.
Potenciar el antagonismo, no estas amistosas asociaciones internas y esfuerzos de mano.
Meg Leta Jones, profesora asistente de Comunicación, Cultura y Tecnología en la Universidad de Georgetown
Los foros éticos no son el trabajo diario de nadie y solo ofrecen la posibilidad de mantener conversaciones poco frecuentes de alto nivel que, en el mejor de los casos, brindan información y, en el peor, encubren. Si queremos establecer confianza en instituciones que incluyen tecnologías, empresas de tecnología, medios y gobierno, nuestra cultura política actual exige antagonismo, no estas amistosas asociaciones internas y esfuerzos de colaboración. Empoderar a los antagonistas y apoyar el antagonismo puede cumplir de manera más apropiada y efectiva los objetivos de la 'IA ética'.
'Los consejos de ética, en el mejor de los casos, brindan información y, en el peor, encubren'
Mire hacia adentro y empodere a los empleados que se solidarizan con los grupos vulnerables
Anna Lauren Hoffmann, profesora adjunta de The Information School en la Universidad de Washington
La fallida junta de ATEAC de Google deja en claro que la ética de la IA no se trata solo de cómo concebimos, desarrollamos e implementamos tecnologías de IA, sino también de cómo hacemos la ética. Las vulnerabilidades vividas, las distribuciones de poder e influencia, y las voces de quién se elevan, son todas consideraciones integrales cuando se persigue la ética en el mundo real. En ese sentido, la debacle de ATEAC y otras instancias de rechazo (por ejemplo, contra Project Maven, Dragonfly y las políticas de acoso sexual) dejan claro que Google ya tiene un tremendo recurso en muchos de sus propios empleados. Si bien también necesitamos una regulación significativa y una supervisión externa, la empresa debe mirar hacia adentro y empoderar a los empleados que ya están marginados y están listos para organizarse y solidarizarse con los grupos vulnerables para abordar los problemas generalizados de transfobia, racismo, xenofobia y odio.
Una junta no puede ser simplemente 'algunas personas importantes que conocemos'. Necesitas especialistas en ética reales
Patrick Lin, director de la Grupo Ética + Ciencias Emergentes en Cal Poly
En palabras de Aaliyah, creo que el siguiente paso de Google es desempolvarte e intentarlo de nuevo. Pero deben ser más cuidadosos acerca de a quiénes ponen en la junta; no puede ser simplemente una lista de 'preguntemos a algunas personas importantes que conocemos', como parecía haber sido la versión 1.0 del consejo. En primer lugar, si hay un interés sincero en obtener orientación ética, entonces necesita verdaderos especialistas en ética, expertos que tengan capacitación profesional en ética teórica y aplicada. De lo contrario, sería un rechazo del valor de la experiencia, que ya estamos viendo demasiado en estos días, por ejemplo, cuando se trata de ciencia básica.
'Imagínese si la empresa quisiera convocar un consejo legal de IA, pero solo hubiera un abogado en él'
Imagínese si la empresa quisiera convocar un consejo legal de IA, pero solo hubiera un abogado en él (al igual que solo había un filósofo en el consejo de ética de IA v1.0). Eso levantaría serias banderas rojas. No es suficiente que alguien trabaje en temas de importancia legal: muchas personas lo hacen, incluyéndome a mí, y bien pueden complementar la opinión experta de los juristas y abogados. Pero para que ese consejo sea realmente efectivo, debe incluir expertos en el dominio en su núcleo.
Las últimas semanas demostraron que la organización directa funciona
Os Keyes, estudiante de doctorado en el Laboratorio de Ecología de Datos de la Universidad de Washington
Para ser honesto, no tengo ningún consejo para Google. Google está haciendo precisamente lo que las entidades corporativas de nuestra sociedad deben hacer; trabajando por una ventaja política (y por lo tanto regulatoria y financiera) sin dejar que un rastro de moralidad afecte sus resultados trimestrales o su plan estratégico. Mi consejo es para todos menos para Google. Para personas ajenas a Google: llame a sus representantes. Pregunte qué están haciendo con respecto a la regulación de la IA. Pregunte qué están haciendo con respecto a los controles de cabildeo. Pregunte qué están haciendo con respecto a la regulación corporativa. Para personas en la academia: llame a sus instructores. Pregunte qué están haciendo para enseñar a los estudiantes de ética que la ética solo es importante si se aplica y se vive. Para las personas dentro de Google: llame a las personas de afuera y pregúnteles qué necesitan de usted. Los eventos de las últimas semanas mostraron que la organización directa funciona; obras solidarias.
No es probable que cuatro reuniones al año tengan un impacto. Necesitamos aportes ágiles de ética
Irina Raicu, directora del programa de ética en internet de la Universidad de Santa Clara
Creo que esta fue una gran oportunidad perdida. Me dejó preguntándome quién, dentro de Google, estaba involucrado en la toma de decisiones sobre a quién invitar. (Esa decisión, en sí misma, requirió aportes diversos). Pero esto habla del problema más amplio aquí: el hecho de que Google hizo el anuncio sobre la creación de la junta sin ninguna explicación de sus criterios para seleccionar a los participantes. También hubo muy poca discusión sobre sus razones para crear la junta, cuál esperaban que fuera el impacto de la junta, etc. Si hubieran brindado más contexto, la discusión posterior podría haber sido diferente.
También hay otros problemas; dada la rapidez con la que se desarrolla y se implementa la IA, es poco probable que cuatro reuniones (incluso con un grupo diverso de asesores de ética de la IA) en el transcurso de un año tengan un impacto significativo, es decir, para cambiar realmente la trayectoria de la investigación o el desarrollo de productos. Siempre que el modelo sea un desarrollo ágil, también necesitamos aportes de ética ágil.
El grupo tiene que tener autoridad para decir no a los proyectos.
Sam Gregory, director de programa en Witness
Si Google quiere realmente generar respeto por la ética o los derechos humanos en las iniciativas de IA, primero debe reconocer que una junta asesora, o incluso una junta de gobierno, es solo una parte de un enfoque más amplio. Deben tener claro desde el principio que el grupo realmente tiene autoridad para decir no a los proyectos y ser escuchado. Luego, deben ser explícitos en el marco (recomendamos que se base en las leyes y normas internacionales de derechos humanos establecidas) y, por lo tanto, un individuo o grupo que tenga antecedentes de ser discriminatorio o abusivo no debería ser parte de él.
Evite tratar la ética como un juego de relaciones públicas o un problema técnico
Anna Jobin, investigadora del Laboratorio de Ética y Políticas de Salud del Instituto Federal Suizo de Tecnología
Si Google se toma en serio la IA ética, la empresa debe evitar tratar la ética como un juego de relaciones públicas o un problema técnico e integrarla en sus prácticas y procesos comerciales. Es posible que necesite rediseñar sus estructuras de gobierno para crear una mejor representación y rendición de cuentas tanto para su fuerza laboral interna como para la sociedad en general. En particular, debe priorizar el bienestar de las minorías y las comunidades vulnerables en todo el mundo, especialmente las personas que se ven o pueden verse afectadas negativamente por su tecnología.
'Buscar no solo la experiencia tradicional, sino también las ideas de personas que son expertas en sus propias experiencias vividas'
Joy Buolamwini, fundadora de la Liga de la Justicia Algorítmica
Al pensar en la gobernanza de la IA, no solo debemos buscar la experiencia tradicional, sino también los conocimientos de las personas que son expertas en sus propias experiencias vividas. ¿Cómo podríamos involucrar a las voces marginadas en la configuración de la IA? ¿Cómo podría ser la IA participativa que centra las opiniones de aquellos que corren mayor riesgo de sufrir los impactos adversos de la IA?
'No puedo imaginar ninguna recomendación de un panel asesor de este tipo que se interponga en el camino de lo que exige el mercado'.
Aprendiendo de la experiencia de ATEAC Google debería incorporar procesos de revisión de la comunidad compensada en el desarrollo de sus productos y servicios. Esto requerirá una transparencia significativa y una supervisión continua. Y Google y otros miembros de la Asociación sobre IA deberían reservar una parte de las ganancias para proporcionar fondos de consorcio para la investigación sobre la ética y la responsabilidad de la IA, sin centrarse solo en la investigación de la equidad de la IA que eleva las perspectivas técnicas por sí solas.
Tal vez sea mejor que la hoja de parra del 'desarrollo ético' haya sido eliminada.
Adam Greenfield, autor de Tecnologías radicales
Todo lo que hemos escuchado sobre este tablero ha sido vergonzoso, desde el instinto inicial de invitar a James hasta la decisión de cerrarlo en lugar de dedicar energía a lidiar con las consecuencias de esa elección. Pero dado que mis sentimientos sobre la IA son más o menos los de Butlerian Jihad, tal vez sea mejor que la hoja de parra del 'desarrollo ético' se haya eliminado. Al final, no puedo imaginar ninguna recomendación de tal panel asesor, independientemente de cómo esté constituido, interponiéndose en el camino de lo que demanda el mercado y/o la necesidad percibida de competir con otros actores involucrados en el desarrollo de IA.
'Es alentador ver el poder del activismo de los empleados'
Tess Posner, CEO de AI4ALL
Es genial ver empresas, organizaciones e investigadores trabajando para crear marcos éticos para la IA. La industria de la tecnología está experimentando dolores de crecimiento en esta área; descubrir cómo hacer esto correctamente es un desafío y llevará tiempo e iteraciones. Creemos que es una oportunidad para seguir preguntando qué voces se deben incluir y asegurarnos de incluir voces diversas y voces que pueden verse directamente afectadas por los resultados de las decisiones tomadas. Es alentador ver el poder del activismo de los empleados que influye en el cambio en torno a este y otros problemas tecnológicos.