211service.com
Cómo saber si la inteligencia artificial está a punto de destruir la civilización
ilustración de canarios mecánicos Sra. tecnología
¿Podríamos despertarnos una mañana estupefactos porque ha surgido una IA superpoderosa, con consecuencias desastrosas? libros como superinteligencia por Nick Bostrom y Vida 3.0 por Max Tegmark, así como artículos más recientes , argumentan que la superinteligencia malévola es un riesgo existencial para la humanidad.
Pero uno puede especular infinitamente. Es mejor hacer una pregunta más concreta y empírica: ¿Qué nos alertaría de que la superinteligencia está realmente a la vuelta de la esquina?
Podríamos llamar a esos heraldos canarios en las minas de carbón de AI. Si un programa de inteligencia artificial desarrolla una nueva capacidad fundamental, eso es el equivalente al colapso de un canario: una advertencia temprana de los avances de la IA en el horizonte.
¿Podría el famoso test de Turing servir de canario? La prueba, inventada por Alan Turing en 1950, postula que la IA de nivel humano se logrará cuando una persona no pueda distinguir una conversación con un humano de una conversación con una computadora. Es una prueba importante, pero no es un canario; es, más bien, la señal de que la IA a nivel humano ya ha llegado. Muchos científicos informáticos creen que si ese momento llega, la superinteligencia lo seguirá rápidamente. Necesitamos más hitos intermedios.
¿El rendimiento de la IA en juegos como Vamos , póker o Terremoto 3 , un canario? No lo es. La mayor parte de la llamada inteligencia artificial en estos juegos es en realidad humano trabajar para enmarcar el problema y diseñar la solución. La victoria de AlphaGo sobre los campeones humanos de Go fue un mérito del talentoso equipo humano de DeepMind, no de la máquina, que simplemente ejecutó el algoritmo que la gente había creado. Esto explica por qué lleva años de arduo trabajo traducir el éxito de la IA de un desafío limitado al siguiente. Incluso AlphaZero, que aprendió a jugar Go de clase mundial en unas pocas horas, no ha ampliado sustancialmente su alcance desde 2017. Los métodos como el aprendizaje profundo son generales, pero su aplicación exitosa a una tarea en particular requiere una amplia intervención humana.
En términos más generales, el aprendizaje automático está en el centro de los éxitos de la IA durante la última década más o menos. Sin embargo, el término aprendizaje automático es un nombre inapropiado. Las máquinas poseen solo una pequeña porción de las ricas y versátiles habilidades de aprendizaje de los humanos. Decir que las máquinas aprenden es como decir que los pingüinos bebés saben pescar. La realidad es que los pingüinos adultos nadan, capturan pescado , digerirlo, regurgitar en sus picos y poner bocados en la boca de sus hijos. La IA también está siendo alimentada con cuchara por científicos e ingenieros humanos.
En contraste con el aprendizaje automático, el aprendizaje humano asigna una motivación personal (quiero conducir para ser independiente de mis padres) a un plan de aprendizaje estratégico (tomar clases de conducción y practicar los fines de semana). Un ser humano formula objetivos de aprendizaje específicos (mejorar en el estacionamiento en paralelo), recopila y etiqueta datos (el ángulo fue incorrecto esta vez) e incorpora comentarios externos y conocimientos previos (el instructor explicó cómo usar los espejos laterales). Los seres humanos identifican, enmarcan y dan forma a los problemas de aprendizaje. Ninguna de estas habilidades humanas es replicada ni remotamente por máquinas. Las máquinas pueden realizar cálculos estadísticos sobrehumanos, pero esa es simplemente la última milla del aprendizaje.
Las máquinas pueden realizar cálculos estadísticos sobrehumanos, pero esa es simplemente la última milla del aprendizaje.
La formulación automática de problemas de aprendizaje, entonces, es nuestro primer canario. No parece estar cerca de morir.
Los coches autónomos son un segundo canario. Están más lejos en el futuro de lo previsto por impulsores como Elon Musk . La IA puede fallar catastróficamente en situaciones atípicas, como cuando una persona en silla de ruedas cruza la calle. Conducir es mucho más desafiante que las tareas anteriores de IA porque requiere tomar decisiones en tiempo real críticas para la vida basadas tanto en el mundo físico impredecible como en la interacción con conductores humanos, peatones y otros. Por supuesto, deberíamos implementar automóviles autónomos limitados una vez que reduzcan las tasas de accidentes, pero solo cuando se logre una conducción a nivel humano se puede decir que este canario se ha derrumbado.
Los médicos de IA son un tercer canario. La IA ya puede analizar imágenes médicas con una precisión sobrehumana, pero eso es solo una pequeña parte del trabajo de un médico humano. Un médico de IA tendría que entrevistar a los pacientes, considerar las complicaciones, consultar a otros médicos y más. Estas son tareas desafiantes que requieren comprender a las personas, el lenguaje y la medicina. Tal médico no tendría que engañar a un paciente haciéndole creer que es humano, por eso es diferente de la prueba de Turing. Pero tendría que aproximarse a las habilidades de los médicos humanos en una amplia gama de tareas y circunstancias imprevistas.
Y aunque la prueba de Turing en sí misma no es un buen canario, las versiones limitadas de la prueba podrían servir como canarios. Las IA existentes no pueden comprender a las personas y sus motivaciones, o incluso preguntas físicas básicas como ¿Entrará un avión jumbo por una ventana? Podemos administrar una prueba de Turing parcial al conversar con una IA como Alexa o Google Home durante unos minutos, lo que expone rápidamente su comprensión limitada del lenguaje y el mundo. Considere un ejemplo muy simple basado en los esquemas de Winograd propuestos por el científico informático Héctor Levesque. Le dije a Alexa: Mi trofeo no cabe en mi equipaje de mano porque es demasiado grande. ¿Qué tengo que hacer? La respuesta de Alexa fue No sé esa. Dado que Alexa no puede razonar sobre el tamaño de los objetos, no puede decidir si se refiere al trofeo o al equipaje de mano. Cuando la IA no puede entender su significado, es difícil creer que está a punto de conquistar el mundo. Si Alexa pudiera tener un diálogo sustantivo sobre un tema rico, ese sería un cuarto canario.
Las IA actuales son idiotas sabios: tienen éxito en tareas limitadas, como jugar Go o categorizar imágenes de resonancia magnética, pero carecen de la generalidad y versatilidad de los humanos. Cada sabio idiota se construye manualmente y por separado, y estamos a décadas de distancia de las habilidades versátiles de un niño de cinco años. Los canarios que propongo, en cambio, indican puntos de inflexión para el campo de la IA.
Foto de cortesía de Oren Etzioni
Algunos teóricos, como Bostrom, argumentan que, no obstante, debemos planificar eventos de muy baja probabilidad pero de gran consecuencia como si fueran inevitables. Las consecuencias, dicen, son tan profundas que nuestras estimaciones de su probabilidad no son importantes. Este es un argumento tonto: puede usarse para justificar casi cualquier cosa. Es una versión moderna del argumento del filósofo del siglo XVII Blaise Pascal de que vale la pena actuar como si existiera un Dios cristiano porque de lo contrario corres el riesgo de un infierno eterno. Usó el costo infinito de un error para argumentar que un curso de acción en particular es racional incluso si se basa en una premisa altamente improbable. Pero los argumentos basados en costos infinitos pueden respaldar creencias contradictorias. Por ejemplo, considere un Dios anticristiano que promete un infierno eterno para cada acto cristiano. Eso también es muy improbable; sin embargo, desde un punto de vista lógico, es una apuesta tan razonable como creer en el dios de la Biblia. Esta contradicción muestra una falla en los argumentos basados en costos infinitos.
Mi catálogo de señales de alerta temprana, o canarios, es más ilustrativo que completo, pero muestra lo lejos que estamos de la IA a nivel humano. En caso de que un canario colapse, tendremos suficiente tiempo antes de que surja la IA a nivel humano para diseñar interruptores de apagado robustos e identificar las líneas rojas que no queremos que cruce la IA. La escatología de la IA sin canarios empíricos es una distracción para abordar problemas existentes, como cómo regular el impacto de la IA en el empleo o garantizar que su uso en sentencias penales o calificación crediticia no discrimine a ciertos grupos.
Como ha dicho Andrew Ng, uno de los expertos en IA más destacados del mundo, preocuparse de que la IA se vuelva maligna es un poco como preocuparse por la sobrepoblación en Marte. Hasta que los canarios empiezan a morir, tiene toda la razón.
Oren Etzioni es el director ejecutivo del Instituto Allen para IA sin fines de lucro y profesor de informática en la Universidad de Washington.