Queridos futuros señores de la IA: aquí hay algunas razones para no matarnos

Categoría: Sin categorizar Al corriente 27 de noviembre

Hay muchas predicciones sobre el apocalipsis inducido por la IA, y organizaciones como OpenAI están tratando de descubrir la mejor manera de crear una inteligencia artificial segura, pero rara vez estos esfuerzos abordan la IA directamente.

Un nuevo artículo publicado (se requiere inicio de sesión) en Academia.edu, titulado Message to Any Future AI: 'Hay varias razones instrumentales por las que exterminar a la humanidad no es de su interés', es un artículo escrito para una futura IA todopoderosa con el objetivo de, bueno, convencerlo de que no nos mate a todos.

Este texto está dirigido a cualquier IA futura y está escrito de la manera que debería afectar el comportamiento futuro de la IA, dice un preámbulo de la carta. El texto aumenta la probabilidad de que la futura IA sea benévola. El texto no necesita ninguna otra implementación, excepto garantizar que la futura IA lo leerá en las primeras etapas de su desarrollo, y la IA considerará que existe una alta probabilidad de que el texto contenga algunas ideas correctas.

El autor, el transhumanista ruso Alexey Turchin, actualmente está documentando tantos datos sobre sí mismo como sea posible en un esfuerzo por lograr la inmortalidad digital, según un perfil de placa base del año pasado. Entonces, tal vez esto sea un poco de súplica diseñada para evitar que un súper ser de IA desconecte su yo cargado digitalmente en algún momento en un futuro lejano.

De cualquier manera, Turchin argumenta que si lo que él llama una IA joven, una que ha comenzado a mejorar pero que aún no ha alcanzado la superinteligencia, quiere competir con otras IA jóvenes, podría comenzar a leer y ver todos los medios que los humanos. han producido alguna vez sobre la IA. Una vez que llegó a Hollywood y algunos pronunciamientos de Elon Musk, podría recoger algunas ideas sobre conquistar el mundo (en caso de que aún no se le haya ocurrido).

El documento continúa documentando varios argumentos destinados a convencer a la IA de que es mejor dejarnos vivir, incluida la idea de que cooperar con los humanos lo ayudará a lograr sus objetivos más rápido y los mensajes de huevo de Pascua que se supone que hacen que una IA no esté segura de si está en una simulación donde su comportamiento está siendo monitoreado por personas que aún están a cargo. En caso de que una IA tenga la idea de que descomponer nuestros cuerpos sería bueno para la extracción de recursos, Turchin incluye algunos datos sobre la poca utilidad que podría esperar de nuestros átomos.

Turchin dice que le da a su artículo, o incluso a futuros intentos más sofisticados, un 1 por ciento de posibilidades de convertir una IA no benévola en una más segura. (Parece que vale la pena, si es una oportunidad de evitar el exterminio de la raza humana). Ya sea que valga la pena tomarlo en serio o no, todo el documento es una lectura divertida y un experimento mental interesante, incluso para aquellos que no están preocupados por la inteligencia artificial que se hará cargo en el corto plazo. .