211service.com
Cómo crear una inteligencia artificial malévola
La posibilidad de que una inteligencia artificial malévola pueda representar una seria amenaza para la humanidad se ha convertido en un tema muy debatido. Varias personas de alto perfil, desde el físico Stephen Hawking hasta el empresario tecnológico Elon Musk, han advertido sobre el peligro.
Es por eso que el campo de la seguridad de la inteligencia artificial está emergiendo como una disciplina importante. Los informáticos han comenzado a analizar las consecuencias no deseadas de los sistemas de IA mal diseñados, de los sistemas de IA creados con marcos éticos defectuosos o que no comparten los valores humanos.
Pero hay una omisión importante en este campo, dicen los investigadores independientes Federico Pistono y Roman Yampolskiy de la Universidad de Louisville en Kentucky. Según nuestro conocimiento, no se ha publicado nada sobre cómo diseñar una máquina malévola.
Ese es un problema importante porque los especialistas en seguridad informática deben comprender a la bestia a la que se enfrentan antes de que puedan aspirar a derrotarla.
Hoy, Pistono y Yampolskiy intentan corregir eso, al menos en parte, y el punto clave que hacen es que es más probable que surja una IA malévola solo en ciertos entornos. Así que han establecido las condiciones en las que podría surgir un sistema malévolo de IA. Y sus conclusiones serán de lectura incómoda para una o dos empresas.
Entonces, ¿qué señales de advertencia indican que podría ser posible trabajar en un sistema de IA malévolo? Pistono y Yampolskiy dicen que es probable que haya algunas señales claras.
Uno de los más evidentes sería la ausencia de juntas de supervisión en el desarrollo de sistemas de IA. Si un grupo decide crear una inteligencia artificial malévola, se deduce que evitar que un comité de la junta de supervisión global llegue a existir aumentaría su probabilidad de éxito, dicen.
Tal grupo hace esto minimizando la importancia de su trabajo y los peligros que plantea e incluso haciendo circular información confusa. La estrategia es difundir información contradictoria que crearía dudas en la imaginación del público sobre los peligros y oportunidades de la investigación de inteligencia artificial general, dicen.
Otra señal importante sería la existencia de un código fuente cerrado detrás del sistema de inteligencia artificial. Es bien sabido entre los expertos en criptografía y seguridad informática que el software y los algoritmos de código cerrado son menos seguros que su contraparte libre y de código abierto, dicen Pistono y Yampolskiy. La existencia misma de software y hardware que no es libre pone a la humanidad en mayor riesgo.
En cambio, dicen que la inteligencia artificial podría desarrollarse utilizando software de código abierto, aunque no está claro si esto sería más seguro. El proceso de código abierto permite que más personas busquen y corrijan fallas. Pero también da acceso a delincuentes, terroristas y similares, que podrían utilizar el software con fines nefastos.
La inteligencia artificial se está desarrollando actualmente de ambas formas.
Los sistemas de código cerrado han tenido éxitos muy publicitados. El sistema de inteligencia artificial de Google triunfó recientemente sobre la humanidad en el antiguo juego de Go, por ejemplo. Facebook también tiene un grupo de investigación de IA de alto perfil, aunque uno que ha tenido menos éxito público.
Ninguna de las dos compañías ha sido clara sobre la forma en que se rige su investigación. La subsidiaria DeepMind de Google, por ejemplo, dice que tiene una junta de ética de IA, pero se ha negado constantemente a revelar quién forma parte de ella. Facebook simplemente dice que los temores sobre la IA han sido exagerados.
El desarrollo de la inteligencia artificial de código abierto está menos avanzado. Pero recientemente ha comenzado a cobrar impulso, impulsado al menos en parte por los temores sobre los rivales comerciales.
El perfil más alto de estos esfuerzos es OpenAI, una organización de inteligencia artificial sin fines de lucro que comenzó en 2015 con el objetivo de hacer avanzar la inteligencia digital de la manera que sea más probable que beneficie a la humanidad en su conjunto, sin las limitaciones de la necesidad de generar retorno financiero.
Está respaldado por compromisos de hasta $ 1 mil millones en fondos de, entre otros, el empresario tecnológico Elon Musk, quien ha advertido repetidamente sobre los peligros de la IA. (Musk también financió parcialmente el trabajo de uno de los autores de este estudio, Roman Yampolskiy).
No está claro si OpenAI aumentará o reducirá las posibilidades de que surja un sistema de IA malévolo. Pero el objetivo al menos es garantizar que pase lo que pase ocurra a la vista del público.
Una deficiencia de todo esto es que la práctica de la ciberseguridad para los sistemas de IA está mucho menos desarrollada que para el software ordinario.
Los expertos en seguridad informática han reconocido durante mucho tiempo que el software malicioso representa una amenaza importante para la sociedad moderna. Muchas aplicaciones críticas para la seguridad (estaciones de energía nuclear, control de tráfico aéreo, sistemas de soporte vital, etc.) son poco más que una falla de diseño grave que los aleja del desastre. La situación se ve agravada por los diseñadores de software intencionalmente malicioso (virus, troyanos y similares) que buscan y explotan estas fallas.
Para combatir esto, los expertos en seguridad han desarrollado un poderoso ecosistema que identifica fallas y las corrige antes de que puedan ser explotadas. Estudian el software malicioso y buscan formas de neutralizarlo.
También tienen un sistema de comunicaciones para difundir esta información dentro de su comunidad pero no más allá. Esto permite que cualquier defecto se corrija rápidamente antes de que se difunda el conocimiento de ellos.
Pero un sistema similar aún no funciona de manera efectiva en el mundo de la investigación de IA.
Eso puede no importar mientras los sistemas de IA sean relativamente benignos. La mayor parte de la IA actual se centra en temas como el procesamiento del lenguaje natural, el reconocimiento de objetos y tareas como la conducción.
Pero, dado el ritmo de desarrollo de los últimos años, es probable que esto cambie rápidamente. Una pregunta importante es cómo los humanos podrían combatir una inteligencia artificial malévola que podría tener consecuencias nefastas para la humanidad. Es una pregunta que vale la pena considerar en detalle ahora.
Ref: arxiv.org/abs/1605.02817 : Investigación poco ética: cómo crear una inteligencia artificial malévola