211service.com
Los verdaderos peligros de la IA están más cerca de lo que pensamos
Olvídate de la IA superinteligente: los algoritmos ya están creando un daño real. La buena noticia: la lucha ha comenzado.
21 de octubre de 2020
William Isaac comenzó a investigar el sesgo en los algoritmos policiales predictivos en 2016. David Vintiner
Mientras los humanos han construido máquinas, hemos temido el día en que puedan destruirnos. Stephen Hawking advirtió que la IA podría significar el fin de la civilización. Pero para muchos investigadores de IA, estas conversaciones se sienten sueltas. No es que no teman que la IA se vuelva loca, es que ven que ya está sucediendo, solo que no de la manera que la mayoría de la gente esperaría.
AI ahora está evaluando candidatos para el trabajo, diagnosticando enfermedades e identificando sospechosos criminales. Pero en lugar de hacer que estas decisiones sean más eficientes o justas, a menudo perpetúa los prejuicios de los humanos en cuyas decisiones se entrenó.
Esta historia fue parte de nuestra edición de noviembre de 2020
- Ver el resto del número
- Suscribir
William Isaac es científico investigador sénior del equipo de ética y sociedad de DeepMind, una startup de inteligencia artificial que Google adquirió en 2014. También copreside la conferencia Equidad, responsabilidad y transparencia, la principal reunión anual de expertos en inteligencia artificial, científicos sociales, y abogados que trabajan en esta área. Le pregunté sobre los desafíos actuales y potenciales que enfrenta el desarrollo de IA, así como las soluciones.
P: ¿Deberíamos preocuparnos por la IA superinteligente?
R: Quiero cambiar la pregunta. Las amenazas se superponen, ya sea vigilancia predictiva y evaluación de riesgos a corto plazo, o sistemas más escalados y avanzados a más largo plazo. Muchos de estos temas también tienen una base en la historia. Por lo tanto, los riesgos potenciales y las formas de abordarlos no son tan abstractos como pensamos.
Hay tres áreas que quiero marcar. Probablemente la más apremiante sea esta pregunta sobre la alineación de valores: ¿cómo se diseña realmente un sistema que pueda comprender e implementar las diversas formas de preferencias y valores de una población? En los últimos años, hemos visto intentos por parte de los formuladores de políticas, la industria y otros para tratar de incorporar valores en los sistemas técnicos a escala, en áreas como vigilancia predictiva, evaluaciones de riesgos, contratación, etc. Está claro que exhiben algún tipo de sesgo. que refleja la sociedad. El sistema ideal equilibraría todas las necesidades de muchas partes interesadas y muchas personas en la población. Pero, ¿cómo concilia la sociedad su propia historia con la aspiración? Todavía estamos luchando con las respuestas, y esa pregunta se volverá exponencialmente más complicada. Solucionar ese problema no es solo algo para el futuro, sino para el aquí y ahora.
El segundo sería lograr un beneficio social demostrable. Hasta este punto, todavía hay pocas pruebas empíricas que validen que las tecnologías de IA lograrán el beneficio social de base amplia al que aspiramos.
Por último, creo que lo más importante que preocupa a cualquiera que trabaje en el espacio es: cuáles son los mecanismos sólidos de supervisión y rendición de cuentas.
P: ¿Cómo superamos estos riesgos y desafíos?
R: Tres áreas recorrerían un largo camino. El primero es construir un músculo colectivo para la innovación y la supervisión responsables. Asegúrese de estar pensando en dónde existen las formas de desalineación, sesgo o daño. Asegúrese de desarrollar buenos procesos para garantizar que todos los grupos participen en el proceso de diseño tecnológico. Los grupos que históricamente han sido marginados a menudo no son los que satisfacen sus necesidades. Entonces, la forma en que diseñamos procesos para hacer eso realmente es importante.
El segundo es acelerar el desarrollo de las herramientas sociotécnicas para hacer este trabajo. No tenemos muchas herramientas.
El último está proporcionando más fondos y capacitación para investigadores y profesionales, en particular investigadores y profesionales de color, para realizar este trabajo. No solo en el aprendizaje automático, sino también en STS [ciencia, tecnología y sociedad] y las ciencias sociales. No solo queremos tener unas pocas personas sino una comunidad de investigadores para comprender realmente la gama de daños potenciales que plantean los sistemas de IA y cómo mitigarlos con éxito.
P: ¿Hasta dónde han llegado los investigadores de IA al pensar en estos desafíos y cuánto les queda por recorrer?
R: En 2016, recuerdo, la Casa Blanca acababa de publicar un informe de big data y había una fuerte sensación de optimismo de que podríamos usar los datos y el aprendizaje automático para resolver algunos problemas sociales difíciles de resolver. Simultáneamente, hubo investigadores en la comunidad académica que habían estado señalando en un sentido muy abstracto: Oye, hay algunos daños potenciales que podrían causarse a través de estos sistemas. Pero en gran medida no habían interactuado en absoluto. Existían en silos únicos.
Desde entonces, hemos tenido muchas más investigaciones dirigidas a esta intersección entre fallas conocidas dentro de los sistemas de aprendizaje automático y su aplicación a la sociedad. Y una vez que las personas comenzaron a ver esa interacción, se dieron cuenta: Bien, esto no es solo un riesgo hipotético. Es una amenaza real. Entonces, si ve el campo en fases, la primera fase destacó y sacó a la luz que estas preocupaciones son reales. La segunda fase ahora está comenzando a lidiar con cuestiones sistémicas más amplias.
P: Entonces, ¿es optimista acerca de lograr una IA beneficiosa de base amplia?
R: Lo soy. Los últimos años me han dado mucha esperanza. Mira el reconocimiento facial como un ejemplo. Hubo un gran trabajo de Joy Buolamwini, Timnit Gebru y Deb Raji al sacar a la luz las disparidades interseccionales en la precisión de los sistemas de reconocimiento facial [es decir, demostrar que estos sistemas eran mucho menos precisos en los rostros de mujeres negras que en los de hombres blancos]. Está la promoción que ocurrió en la sociedad civil para montar una defensa rigurosa de los derechos humanos contra la aplicación incorrecta del reconocimiento facial. Y también el gran trabajo que estaban haciendo los legisladores, los reguladores y los grupos comunitarios de base para comunicar exactamente qué eran los sistemas de reconocimiento facial y qué riesgos potenciales planteaban, y para exigir claridad sobre cuáles serían los beneficios para la sociedad. Ese es un modelo de cómo podríamos imaginarnos interactuando con otros avances en IA.
Pero el desafío con el reconocimiento facial es que tuvimos que resolver estas cuestiones éticas y de valores mientras implementábamos públicamente la tecnología. En el futuro, espero que algunas de estas conversaciones sucedan antes de que surjan los daños potenciales.
P: ¿Con qué sueñas cuando sueñas con el futuro de la IA?
R: Podría ser un gran ecualizador. Por ejemplo, si tuviera profesores o tutores de IA que pudieran estar disponibles para los estudiantes y las comunidades donde el acceso a la educación y los recursos es muy limitado, eso sería muy enriquecedor. Y eso no es algo trivial que desear de esta tecnología. ¿Cómo sabes que es empoderador? ¿Cómo sabes que es socialmente beneficioso?
Fui a la escuela de posgrado en Michigan durante la crisis del agua de Flint. Cuando surgieron las incidencias iniciales de las tuberías de plomo, los registros que tenían sobre la ubicación de los sistemas de tuberías estaban en fichas en la parte inferior de un edificio administrativo. La falta de acceso a las tecnologías los había puesto en una desventaja significativa. Significa que las personas que crecieron en esas comunidades, más del 50 % de las cuales son afroamericanos, crecieron en un entorno donde no obtienen servicios ni recursos básicos.
Entonces, la pregunta es: si se hace correctamente, ¿podrían estas tecnologías mejorar su nivel de vida? El aprendizaje automático pudo identificar y predecir dónde estaban las tuberías de plomo, por lo que redujo los costos reales de reparación para la ciudad. Pero eso fue una gran empresa, y fue raro. Y como sabemos, Flint aún no ha eliminado todas las tuberías, por lo que también existen desafíos políticos y sociales: el aprendizaje automático no los resolverá todos. Pero la esperanza es que desarrollemos herramientas que empoderen a estas comunidades y proporcionen un cambio significativo en sus vidas. En eso pienso cuando hablamos de lo que estamos construyendo. Eso es lo que quiero ver.