¿Necesitamos las leyes de Asimov?

En 1942, el autor de ciencia ficción Isaac Asimov publicó un cuento llamado Runaround en el que introdujo tres leyes que regían el comportamiento de los robots. Las tres leyes son las siguientes:

1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.

2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.

3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

Más tarde introdujo una cuarta ley o ley cero que superó a las demás:

0. Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños.

Desde entonces, las leyes de la robótica de Asimov se han convertido en una parte clave de una cultura de ciencia ficción que gradualmente se ha convertido en la corriente principal.

En los últimos años, los especialistas en robótica han realizado rápidos avances en las tecnologías que están acercando el tipo de robots avanzados que imaginó Asimov. Cada vez más, los robots y los seres humanos están trabajando juntos en las fábricas, conduciendo automóviles, volando aviones e incluso ayudando en el hogar.

Y eso plantea una pregunta interesante: ¿necesitamos un conjunto de leyes similares a las de Asimov para gobernar el comportamiento de los robots a medida que avanzan?

Hoy, recibimos una especie de respuesta de Ulrike Barthelmess y Ulrich Furbach de la Universidad de Koblenz en Alemania. Estos tipos revisan la historia de los robots en la sociedad y argumentan que nuestros temores sobre su potencial para destruirnos son infundados. Debido a esto, las leyes de Asimov no son necesarias, dicen.

La palabra robot proviene de la palabra checa robota que significa trabajo forzoso, que apareció por primera vez en una obra de teatro de 1924 del autor checo Karel Capek. La versión en inglés se extendió rápidamente después de esto junto con la idea de que estas máquinas podrían destruir fácilmente a sus creadores, un tema que se ha vuelto común en la ciencia ficción desde entonces.

Pero Barthelmess y Furbach sostienen que este miedo a las máquinas está arraigado mucho más profundamente en nuestra cultura. Si bien las historias de ciencia ficción a menudo usan tramas en las que los robots destruyen a sus creadores, este es un tema que tiene una larga historia en la literatura.

Por ejemplo, en Frankenstein de Mary Shelley, un monstruo hecho de partes del cuerpo humano se vuelve contra Frankenstein, su creador, porque se niega a hacer una pareja para el monstruo.

Luego está la narrativa del Golem judío del siglo XVI, en una versión de la cual un rabino construye una criatura de arcilla para proteger a la comunidad mientras promete desactivarla después del sábado. Pero el rabino se olvida y el golem se convierte en un monstruo que hay que destruir.

Barthelmess y Furbach argumentan que el trasfondo religioso en ambas historias es que está prohibido que los humanos actúen como Dios. Y que cualquier intento de hacerlo siempre será castigado por el creador.

Episodios similares aparecen en la mitología griega donde los humanos que demuestran arrogancia hacia los dioses también son castigados, como Prometeo y Niobe. Es por eso que historias de este tipo son parte de nuestra cultura que se remonta a miles de años. Es este miedo profundamente arraigado con el que los autores de ciencia ficción juegan en las historias sobre robots.

Por supuesto, existen conflictos reales entre humanos y máquinas. Durante la revolución industrial en Europa, por ejemplo, existía un gran temor a las máquinas y su manifiesta capacidad para cambiar el mundo de formas que tuvieron una profunda influencia en muchas personas.

Barthelmess y Furbach señalan que en la Inglaterra del siglo XVIII, la gente inició un movimiento para destruir las máquinas de tejer que se volvió tan grave que el Parlamento convirtió las demoliciones en un crimen capital. Un grupo conocido como los luditas incluso luchó contra el ejército británico por estos temas. Hubo una especie de tecnofobia que resultó en luchas contra las máquinas, dicen.

Por supuesto, no está más allá de las posibilidades de que se desarrolle un tipo similar de antagonismo hacia la nueva generación de robots que se harán cargo de las tareas altamente repetitivas que los trabajadores humanos realizan actualmente en las fábricas de todo el mundo y, en particular, en Asia. .

Sin embargo, hay una actitud muy diferente hacia los robots en Asia. Países como Japón lideran el mundo en el desarrollo de robots para fábricas automatizadas y como ayudantes humanos, en parte debido al envejecimiento de la población de Japón y los conocidos problemas de salud que esto producirá en un futuro no muy lejano.

Esa actitud quizás esté encarnada por Astro Boy, un robot ficticio que en 2007 fue nombrado por el Ministerio de Relaciones Exteriores de Japón como el enviado japonés para viajes seguros al extranjero.

Por estas razones, Barthelmess y Furbach argumentan que lo que tememos de los robots no es la posibilidad de que se apoderen de nosotros y nos destruyan, sino la posibilidad de que otros humanos los utilicen para destruir nuestra forma de vida de formas que no podemos controlar.

En particular, señalan que muchos robots nos protegerán por diseño. Por ejemplo, se están diseñando vehículos y aviones automatizados para conducir y volar con mayor seguridad que los operadores humanos. Así que estaremos más seguros usándolos que no usándolos.

Una excepción importante es el creciente número de robots diseñados específicamente para matar humanos. Estados Unidos, en particular, está utilizando drones para asesinatos selectivos en países extranjeros. La legalidad, por no hablar de la moralidad, de estas acciones todavía se debate ferozmente.

Pero Barthelmess y Furbach dan a entender que los seres humanos siguen siendo los últimos responsables de estos asesinatos y que el derecho internacional, en lugar de las leyes de Asimov, debería poder hacer frente a los problemas que surjan o adaptarse para hacerlo.

Terminan su discusión considerando la posible convergencia entre humanos y robots en el futuro cercano. La idea aquí es que los humanos incorporarán varias tecnologías en sus propios cuerpos, como memoria adicional o potencia de procesamiento, y así eventualmente se fusionarán con los robots. En ese momento, la ley cotidiana tendrá que hacer frente al comportamiento y las acciones de la gente común y las leyes de Asimov quedarán obsoletas.

Un debate interesante que es poco probable que se resuelva pronto. Vistas adicionales en la sección de comentarios por favor.

Ref: arxiv.org/abs/1405.0961 : ¿Necesitamos las leyes de Asimov?

esconder