El control de armas de IA puede no ser posible, advierte Henry Kissinger

Categoría: Inteligencia artificial Al corriente Mar 01

Henry Kissinger, exsecretario de Estado de EE. UU. y un controvertido gigante de la política exterior estadounidense, cree que puede ser mucho más difícil controlar el desarrollo de armas de IA que las nucleares.

Disparos de advertencia: Hablando en un evento en el MIT ayer, Kissinger advirtió que los nuevos desarrollos en IA traerán todo tipo de peligros. En particular, le preocupa que las armas de la IA puedan ser más difíciles de controlar que las armas nucleares porque el desarrollo de la tecnología ocurrirá en secreto: con la IA, la ignorancia del otro lado es una de sus mejores armas: compartir será mucho más difícil.

movimiento de paz: Él no es la única persona preocupada por una carrera armamentista de IA. Un número significativo de académicos, investigadores de la industria y luminarias tecnológicas han respaldado una campaña para prohibir el uso de armas autónomas .

Trafico de armas: Sin embargo, el problema es desafiante. Como escribe el investigador de seguridad Paul Scharre en un libro reciente, ejército de ninguno , la autonomía se ha estado infiltrando en los sistemas de armas durante décadas. No siempre es fácil trazar una línea alrededor de los sistemas autónomos, y la tecnología es atractiva porque puede usarse para hacer que las armas sean más confiables.

Embrutecimiento: Kissinger ha sido algo así como un detractor de la IA últimamente. Después de enterarse de AlphaGo, escribió un artículo en el Atlántico advirtiendo que la tecnología podría alterar la naturaleza del conocimiento y el descubrimiento humanos de formas que, en última instancia, dañarían a la humanidad ( Cómo termina la Ilustración ).

Al dominar ciertas competencias de forma más rápida y definitiva que los humanos, [la IA] podría, con el tiempo, disminuir la competencia humana y la propia condición humana a medida que la convierte en datos, escribió Kissinger. Filosófica e intelectualmente, en todos los sentidos, la sociedad humana no está preparada para el surgimiento de la inteligencia artificial.