Si la IA nos va a ayudar en una crisis, necesitamos un nuevo tipo de ética

Sra. Tecnología | pixabay

Jess Whittlestone del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge y sus colegas publicaron un pieza de comentario en Nature Machine Intelligence esta semana argumentando que si la inteligencia artificial va a ayuda en una crisis , necesitamos una forma nueva y más rápida de hacer ética de IA, a la que llaman ética por urgencia.

JESS PIEDRA BLANCA

Para Whittlestone, esto significa anticipar los problemas antes de que sucedan, encontrar mejores formas de incorporar seguridad y confiabilidad en los sistemas de IA y enfatizar la experiencia técnica en todos los niveles del desarrollo y uso de la tecnología. En el centro de estas recomendaciones está la idea de que la ética debe convertirse simplemente en una parte de cómo se fabrica y utiliza la IA, en lugar de un complemento o una ocurrencia tardía.

En última instancia, la IA será más rápida de implementar cuando sea necesario si se hace con ética incorporada, argumenta. Le pedí que me explicara lo que esto significa.

Esta entrevista ha sido editada por su extensión y claridad.

¿Por qué necesitamos un nuevo tipo de ética para la IA?

Con esta pandemia, de repente nos encontramos en una situación en la que la gente realmente está hablando sobre si la IA podría ser útil, si podría salvar vidas. Pero la crisis ha dejado en claro que no tenemos procedimientos éticos lo suficientemente sólidos para que la IA se implemente de manera segura, y ciertamente no los que se pueden implementar rápidamente.

¿Qué tiene de malo la ética que tenemos?

Pasé los últimos dos años revisando las iniciativas de ética de la IA, observando sus limitaciones y preguntando qué más necesitamos. En comparación con algo como la ética biomédica, la ética que tenemos para la IA no es muy práctica. Se enfoca demasiado en principios de alto nivel. Todos podemos estar de acuerdo en que la IA debe usarse para el bien. Pero, ¿qué significa esto realmente? ¿Y qué sucede cuando los principios de alto nivel entran en conflicto?

Por ejemplo, la IA tiene el potencial de salvar vidas, pero esto podría tener el costo de las libertades civiles como la privacidad. ¿Cómo abordamos esas compensaciones de manera que sean aceptables para muchas personas diferentes? No hemos descubierto cómo lidiar con los inevitables desacuerdos.

La ética de la IA también tiende a responder a los problemas existentes en lugar de anticipar otros nuevos. La mayoría de los problemas que la gente está discutiendo hoy en día sobre el sesgo algorítmico surgieron solo cuando las cosas de alto perfil salieron mal, como las decisiones policiales y de libertad condicional.

Pero la ética debe ser proactiva y prepararse para lo que podría salir mal, no para lo que ya salió mal. Obviamente, no podemos predecir el futuro. Pero a medida que estos sistemas se vuelvan más poderosos y se utilicen en más dominios de alto riesgo, los riesgos serán mayores.

¿Qué oportunidades hemos perdido al no contar con estos procedimientos?

Es fácil exagerar lo que es posible, y la IA probablemente nunca jugaría un papel importante en esta crisis. Los sistemas de aprendizaje automático no son lo suficientemente maduros.

Pero hay un puñado de casos en los que la IA se está probando para el diagnóstico médico o para la asignación de recursos entre hospitales. Podríamos haber utilizado ese tipo de sistemas más ampliamente, reduciendo parte de la carga de la atención médica, si se hubieran diseñado desde el principio teniendo en cuenta la ética.

Con la asignación de recursos en particular, está decidiendo qué pacientes son de máxima prioridad. Necesita un marco ético incorporado antes de usar la IA para ayudar con ese tipo de decisiones.

Entonces, ¿la ética de la urgencia es simplemente un llamado para mejorar la ética de la IA existente?

Eso es parte de eso. El hecho de que no tengamos procesos sólidos y prácticos para la ética de la IA dificulta las cosas en un escenario de crisis. Pero en momentos como este también tienes una mayor necesidad de transparencia. La gente habla mucho de la falta de transparencia con los sistemas de aprendizaje automático como cajas negras. Pero hay otro tipo de transparencia, con respecto a cómo se utilizan los sistemas.

Esto es especialmente importante en una crisis, cuando los gobiernos y las organizaciones toman decisiones urgentes que implican compensaciones. ¿La salud de quién priorizas? ¿Cómo salvar vidas sin destruir la economía? Si se utiliza una IA en la toma de decisiones públicas, la transparencia es más importante que nunca.

¿Qué necesita cambiar?

Tenemos que pensar en la ética de manera diferente. No debería ser algo que suceda al margen o después, algo que lo frene. Simplemente debería ser parte de cómo construimos estos sistemas en primer lugar: ética por diseño.

A veces siento que ética es la palabra equivocada. Lo que estamos diciendo es que los investigadores e ingenieros de aprendizaje automático deben estar capacitados para pensar en las implicaciones de lo que están construyendo, ya sea que estén haciendo una investigación fundamental como diseñar un nuevo algoritmo de aprendizaje por refuerzo o algo más práctico como desarrollar una aplicación para el cuidado de la salud. Si su trabajo encuentra su camino en productos y servicios del mundo real, ¿cómo sería eso? ¿Qué tipo de problemas podría plantear?

Algo de esto ya ha comenzado. Estamos trabajando con algunos investigadores de inteligencia artificial en los inicios de su carrera, hablando con ellos sobre cómo llevar esta forma de pensar a su trabajo. Es un poco de un experimento, para ver qué pasa. Pero incluso NeurIPS [una conferencia líder en IA] ahora les pide a los investigadores que incluyan una declaración al final de sus documentos que describa los posibles impactos sociales de su trabajo.

Ha dicho que necesitamos personas con experiencia técnica en todos los niveles de diseño y uso de IA. ¿Porqué es eso?

No estoy diciendo que la experiencia técnica sea el todo y el fin de la ética, pero es una perspectiva que necesita ser representada. Y no quiero sonar como si estuviera diciendo que toda la responsabilidad recae en los investigadores, porque muchas de las decisiones importantes sobre cómo se usa la IA se toman más adelante en la cadena, por la industria o por los gobiernos.

Pero me preocupa que las personas que toman esas decisiones no siempre entiendan por completo las formas en que podría salir mal. Por lo tanto, debe involucrar a personas con experiencia técnica. Nuestras intuiciones sobre lo que la IA puede y no puede hacer no son muy confiables.

Lo que necesita en todos los niveles de desarrollo de IA son personas que realmente entiendan los detalles del aprendizaje automático para trabajar con personas que realmente entiendan la ética. Sin embargo, la colaboración interdisciplinaria es difícil. Las personas con diferentes áreas de especialización a menudo hablan sobre las cosas de diferentes maneras. Lo que un investigador de aprendizaje automático quiere decir con privacidad puede ser muy diferente de lo que un abogado quiere decir con privacidad, y puede terminar con personas hablando entre sí. Por eso es importante que estos diferentes grupos se acostumbren a trabajar juntos.

Estás presionando por una reforma institucional y cultural bastante grande. ¿Qué te hace pensar que la gente querrá hacer esto en lugar de establecer juntas de ética o comités de supervisión, que siempre me hacen suspirar un poco porque tienden a ser desdentados?

Sí, yo también suspiro. Pero creo que esta crisis está obligando a la gente a ver la importancia de las soluciones prácticas. Tal vez en lugar de decir, Oh, tengamos esta junta de supervisión y esa junta de supervisión, la gente dirá, Necesitamos hacer esto, y necesitamos hacerlo correctamente.

esconder