211service.com
Dar a los algoritmos una sensación de incertidumbre podría hacerlos más éticos
Los algoritmos son mejores para perseguir un solo objetivo matemático, pero los humanos a menudo quieren múltiples cosas incompatibles. 18 de enero de 2019
Sra. tecnología
Los algoritmos se utilizan cada vez más para tomar decisiones éticas. Quizás el mejor ejemplo de esto es una versión de alta tecnología del dilema ético conocido como el problema del tranvía: si un automóvil autónomo no puede evitar matar a uno de los dos peatones, ¿cómo debería el software de control del automóvil elegir quién vive y quién muere? ?
En realidad, este enigma no es una descripción muy realista de cómo se comportan los autos sin conductor. Pero muchos otros sistemas que ya están aquí o no muy lejos tendrán que hacer todo tipo de compensaciones éticas reales. Las herramientas de evaluación que se utilizan actualmente en el sistema de justicia penal deben considerar los riesgos para la sociedad frente a los daños a los acusados individuales; las armas autónomas tendrán que sopesar las vidas de los soldados frente a las de los civiles.
El problema es que los algoritmos nunca fueron diseñados para manejar decisiones tan difíciles. Están diseñados para perseguir un solo objetivo matemático, como maximizar la cantidad de vidas de soldados salvadas o minimizar la cantidad de muertes de civiles. Cuando comienza a lidiar con objetivos múltiples, a menudo competitivos, o intenta dar cuenta de intangibles como la libertad y el bienestar, no siempre existe una solución matemática satisfactoria.
Nosotros, como humanos, queremos múltiples cosas incompatibles, dice Peter Eckersley, director de investigación de Partnership on AI, quien recientemente publicó un papel que explora este tema. Hay muchas situaciones de alto riesgo en las que en realidad es inapropiado, tal vez peligroso, programar en una sola función objetiva que intente describir su ética.
Estos dilemas sin solución no son específicos de los algoritmos. Los especialistas en ética los han estudiado durante décadas y se refieren a ellos como teoremas de imposibilidad. Entonces, cuando Eckersley reconoció por primera vez sus aplicaciones a la inteligencia artificial, tomó prestada una idea directamente del campo de la ética para proponer una solución: ¿y si construimos incertidumbre en nuestros algoritmos?
Como seres humanos, tomamos decisiones de manera bastante incierta la mayor parte del tiempo, dice. Nuestro comportamiento como seres morales está lleno de incertidumbre. Pero cuando tratamos de tomar ese comportamiento ético y aplicarlo en IA, tiende a concretarse y hacerse más preciso. En cambio, Eckersley propone, ¿por qué no diseñar explícitamente nuestros algoritmos para que no estén seguros de qué hacer correctamente?
Eckersley propone dos técnicas posibles para expresar esta idea matemáticamente. Comienza con la premisa de que los algoritmos suelen programarse con reglas claras sobre las preferencias humanas. Tendríamos que decirle, por ejemplo, que definitivamente preferimos a los soldados amigos a los civiles amigos, y a los civiles amigos a los soldados enemigos, incluso si no estuviéramos realmente seguros o no pensáramos que ese debería ser siempre el caso. El diseño del algoritmo deja poco espacio para la incertidumbre.
La primera técnica, conocida como ordenamiento parcial, comienza a introducir un mínimo de incertidumbre. Puede programar el algoritmo para que prefiera a los soldados amigos sobre los soldados enemigos y a los civiles amigos sobre los soldados enemigos, pero no especificaría una preferencia entre soldados amigos y civiles amigos.
En la segunda técnica, conocida como ordenación incierta, tiene varias listas de preferencias absolutas, pero cada una tiene una probabilidad asociada. Las tres cuartas partes de las veces es posible que prefiera soldados amigos a civiles amigos a soldados enemigos. Una cuarta parte de las veces, es posible que prefieras civiles amigos a soldados amigos a soldados enemigos.
El algoritmo podría manejar esta incertidumbre calculando múltiples soluciones y luego brindando a los humanos un menú de opciones con sus compensaciones asociadas, dice Eckersley. Digamos que el sistema de IA estaba destinado a ayudar a tomar decisiones médicas. En lugar de recomendar un tratamiento sobre otro, podría presentar tres opciones posibles: una para maximizar la vida útil del paciente, otra para minimizar el sufrimiento del paciente y una tercera para minimizar el costo. Haga que el sistema sea explícitamente inseguro, dice, y devuelva el dilema a los humanos.
Carla Gomes, profesora de informática en la Universidad de Cornell, ha experimentado con técnicas similares en su trabajo. En un proyecto, ha estado desarrollando un sistema automatizado para evaluar el impacto de nuevos proyectos de represas hidroeléctricas en la cuenca del río Amazonas. Las presas proporcionan una fuente de energía limpia. Pero también alteran profundamente las secciones del río y alteran los ecosistemas de vida silvestre.
Este es un escenario completamente diferente al de los autos autónomos u otros [dilemas éticos comúnmente mencionados], pero es otro escenario donde estos problemas son reales, dice ella. Hay dos objetivos en conflicto, entonces, ¿qué debe hacer?
El problema general es muy complejo, agrega. Se necesitará un cuerpo de investigación para abordar todos los problemas, pero el enfoque de Peter está dando un paso importante en la dirección correcta.
Es un problema que solo crecerá con nuestra dependencia de los sistemas algorítmicos. Cada vez más, los sistemas complicados requieren que la IA esté a cargo, dice Roman V. Yampolskiy, profesor asociado de informática en la Universidad de Louisville. Ninguna persona por sí sola puede comprender la complejidad de, ya sabes, todo el mercado de valores o los sistemas de respuesta militar. Así que no tendremos más remedio que ceder parte de nuestro control a las máquinas.
Una versión anterior de esta historia apareció originalmente en nuestro boletín de AI The Algorithm. Para recibirlo directamente en su bandeja de entrada, suscríbase aquí de forma gratuita.