La gran paradoja de la IA

No se preocupe por la inteligencia artificial superinteligente que elimina todos los trabajos. Eso es solo una distracción de los problemas que están causando incluso las computadoras relativamente tontas. Por

• Brian Bergstein página de archivo

15 de diciembre de 2017

Geoff Mc Fetridge

Probablemente haya escuchado versiones de cada una de las siguientes ideas.

1. Con las computadoras cada vez más hábiles para conducir, comprender el habla y otras tareas, pronto podrían automatizarse más trabajos de los que la sociedad está preparada para manejar.

Esta historia fue parte de nuestra edición de enero de 2018

• Ver el resto del número
• Suscribir

2. Las mejoras en las habilidades de las computadoras se acumularán hasta que las máquinas sean mucho más inteligentes que las personas. Esta superinteligencia hará en gran medida innecesaria la labor humana. De hecho, es mejor que esperemos que las máquinas no nos eliminen por completo, ya sea accidentalmente o a propósito.

Esto es complicado. Aunque el primer escenario ya está en marcha, no necesariamente conducirá al segundo. Esa segunda idea, a pesar de ser una obsesión de algunas personas muy inteligentes y reflexivas, se basa en suposiciones enormes. En todo caso, es una distracción de asumir una mayor responsabilidad por los efectos del nivel actual de automatización y lidiar con la concentración de poder en la industria de la tecnología.

Para ver realmente lo que está pasando, tenemos que tener claro lo que se ha logrado, y lo que está lejos de resolverse, en inteligencia artificial.

Sentido común

Los desarrollos informáticos más sorprendentes de los últimos años —automóviles que se conducen solos, máquinas que reconocen con precisión imágenes y voz, computadoras que superan a los jugadores humanos más brillantes de juegos complejos como Go— provienen de los avances en una rama particular de la IA: la IA adaptativa. aprendizaje automático. Como dice el científico informático de la Universidad de Toronto, Héctor Levesque, en su libro Sentido común, la prueba de Turing y la búsqueda de una IA real , la idea detrás del aprendizaje automático adaptativo es hacer que un sistema informático aprenda algún comportamiento inteligente entrenándolo con cantidades masivas de datos.

Cosas revisadas

• Sentido común, la prueba de Turing y la búsqueda de una IA real

  Por Héctor J. Levesque

• Life 3.0: ser humano en la era de la inteligencia artificial

  Por Max Tegmark

  
  
  

• WTF?: ¿Cuál es el futuro y por qué depende de nosotros?

  Por Tim O'Reilly

Es sorprendente que una máquina pueda detectar objetos, traducir entre idiomas e incluso escribir código de computadora después de recibir ejemplos de esos comportamientos, en lugar de tener que programarla por adelantado. Realmente no fue posible hasta hace aproximadamente una década, porque anteriormente no había suficientes datos digitales para fines de capacitación, e incluso si los hubiera, no había suficiente potencia de computadora para analizarlo todo. Después de que las computadoras detectan patrones en los datos, los algoritmos en el software los llevan a sacar inferencias de estos patrones y actuar en consecuencia. Eso es lo que sucede en un automóvil que analiza las entradas de múltiples sensores y en una máquina que procesa cada movimiento en millones de juegos de Go.

Dado que las máquinas pueden procesar cantidades sobrehumanas de datos, puede ver por qué pueden conducir de manera más segura que las personas en la mayoría de las circunstancias y por qué pueden vencer a los campeones de Go. También es por eso que las computadoras están mejorando aún más en cosas que son completamente imposibles para las personas, como correlacionar su genoma y docenas de otras variables biológicas con los medicamentos que tienen más probabilidades de curar su cáncer.

Aun así, todo esto es una pequeña parte de lo que razonablemente podría definirse como inteligencia artificial real. Patrick Winston, profesor de inteligencia artificial y ciencias de la computación en el MIT, dice que sería más útil describir los desarrollos de los últimos años como ocurridos en estadísticas computacionales en lugar de en inteligencia artificial. Uno de los principales investigadores en el campo, Yann LeCun, director de IA de Facebook, dicho en una conferencia sobre el Futuro del Trabajo en el MIT en noviembre que las máquinas están lejos de tener la esencia de la inteligencia. Eso incluye la capacidad de comprender el mundo físico lo suficientemente bien como para hacer predicciones sobre aspectos básicos del mismo: observar una cosa y luego usar el conocimiento previo para descubrir qué otras cosas también deben ser ciertas. Otra forma de decir esto es que las máquinas no tienen sentido común.

La computadora que gana en Go está analizando datos en busca de patrones. No tiene idea de que está jugando Go en lugar de golf.

Esto no es solo una objeción semántica. Hay una gran diferencia entre una máquina que muestra un comportamiento inteligente, sin importar cuán útil sea ese comportamiento, y una que es realmente inteligente. Ahora, admitamos que la definición de inteligencia es turbia. Y a medida que las computadoras se vuelven más poderosas, es tentador alejar los postes de la portería y redefinir la inteligencia para que siga siendo algo que las máquinas aún no pueden decir que posean.

Pero aun así, vamos: la computadora que gana en Go está analizando datos en busca de patrones. No tiene idea de que está jugando Go en lugar de golf, o lo que sucedería si más de la mitad de un tablero de Go fuera empujado más allá del borde de una mesa. Cuando le pides a Alexa de Amazon que te reserve una mesa en un restaurante que nombras, su sistema de reconocimiento de voz, muy preciso gracias al aprendizaje automático, te ahorra el tiempo de ingresar una solicitud en el sistema de reservas de Open Table. Pero Alexa no sabe qué es un restaurante ni qué es comer. Si le pediste que te reservara una mesa para dos a las 6 p.m. en la Clínica Mayo, lo intentaría.

¿Es posible dar a las máquinas el poder de pensar , como pretendían John McCarthy, Marvin Minsky y otros creadores de la IA hace 60 años? Hacer eso, explica Levesque, requeriría imbuir a las computadoras con sentido común y la capacidad de hacer uso flexible del conocimiento previo sobre el mundo. Tal vez sea posible. Pero no hay un camino claro para hacerlo realidad. Ese tipo de trabajo está lo suficientemente separado de los avances en aprendizaje automático de los últimos años como para tener un nombre diferente: GOFAI, abreviatura de buena inteligencia artificial a la antigua.

Historia relacionada

Historia relacionada Una reencarnación de una de las ideas más antiguas de la inteligencia artificial finalmente podría hacer posible conversar verdaderamente con nuestras computadoras. Y Facebook tiene la oportunidad de hacer que suceda primero.

Si te preocupan las computadoras omniscientes, deberías leer Levesque sobre el tema de GOFAI. Los informáticos aún no han respondido a las preguntas fundamentales que ocuparon a McCarthy y Minsky. ¿Cómo podría una computadora detectar, codificar y procesar no solo hechos en bruto, sino también ideas y creencias abstractas, que son necesarias para intuir verdades que no se expresan explícitamente?

Levesque usa este ejemplo: suponga que le pregunto cómo se desempeñaría un cocodrilo en la carrera de obstáculos. Sabes por tu experiencia del mundo que los cocodrilos no pueden saltar sobre setos altos, por lo que sabrás que la respuesta a la pregunta es alguna variante de Badly.

¿Qué pasaría si tuvieras que responder esa pregunta de la forma en que lo hace una computadora? Podría escanear todo el texto del mundo en busca de los términos cocodrilo y carrera de obstáculos, no encontrar instancias en las que las palabras se mencionen juntas (aparte de lo que existe ahora, en referencias al trabajo de Levesque), y luego suponer que un cocodrilo nunca ha competido en la carrera de obstáculos. . Así que podrías deducir que sería imposible que un cocodrilo lo hiciera. Buen trabajo, esta vez. Habrías llegado a la respuesta correcta sin saber por qué. Habría utilizado un método defectuoso y frágil que probablemente conduzca a errores ridículos.

Entonces, si bien las tecnologías de aprendizaje automático permiten automatizar muchas tareas que los humanos han realizado tradicionalmente, existen límites importantes para lo que este enfoque puede hacer por sí solo, y hay buenas razones para esperar que el trabajo humano sea necesario durante mucho tiempo. .

reduccionismo

Espera, podrías decir: el hecho de que nadie tenga ni idea ahora sobre cómo hacer que las máquinas hagan un razonamiento sofisticado no significa que sea imposible. ¿Qué pasaría si se pudieran usar máquinas algo inteligentes para diseñar máquinas aún más inteligentes, y así sucesivamente hasta que haya máquinas lo suficientemente potentes como para modelar hasta la última señal eléctrica y cambio bioquímico en el cerebro? O tal vez se invente otra forma de crear una inteligencia flexible, aunque no se parezca mucho a los cerebros biológicos. Después de todo, cuando lo reduce todo (realmente, realmente, realmente), la inteligencia surge de arreglos particulares de quarks y otras partículas fundamentales en nuestros cerebros. No hay nada que diga que tales arreglos son posibles solo dentro del material biológico hecho de átomos de carbono.

Este es el argumento que atraviesa Life 3.0: ser humano en la era de la inteligencia artificial , por el profesor de física del MIT Max Tegmark. Tegmark se abstiene de predecir cuándo llegarán las máquinas verdaderamente inteligentes, pero sugiere que es solo cuestión de tiempo, porque las computadoras tienden a mejorar a un ritmo exponencial (aunque eso no es necesariamente cierto; consulte Los siete pecados capitales de las predicciones de la IA). En general, está entusiasmado con la perspectiva, porque las máquinas conscientes podrían colonizar el universo y asegurarse de que todavía tenga sentido incluso después de que nuestro sol muera y los humanos se apaguen.

Tegmark dice que las oportunidades a corto plazo para que la IA beneficie a la humanidad son espectaculares, si podemos lograr que sea robusta e inviolable.

Tegmark proviene de un punto de vista humanista. Cofundó la organización sin fines de lucro Instituto Futuro de la Vida para apoyar la investigación para asegurarse de que la IA sea beneficiosa. Elon Musk, quien ha dicho que la IA podría ser más peligroso que las armas nucleares , aportó $ 10 millones. Es comprensible que a Tegmark le preocupe si la IA se utilizará de manera inteligente, segura y justa, y si deformará nuestra economía y tejido social. Se esfuerza por explicar por qué las armas autónomas nunca deberían permitirse. Así que no me inclino a criticarlo. No obstante, no es muy convincente en su propuesta de que las computadoras podrían apoderarse del mundo.

Tegmark lamenta que algunas representaciones de Hollywood de la IA sean tontas, pero no obstante pide a los lectores que sigan el juego con un bosquejo ficticio demasiado simplificado de cómo una IA inmensamente poderosa podría eludir el control de sus creadores. Dentro de una gran empresa de tecnología hay un grupo de élite de programadores llamados Omegas que se propusieron construir un sistema con inteligencia artificial general antes que nadie. Llaman a este sistema Prometeo. Es especialmente bueno para programar otros sistemas de inteligencia artificial y aprende sobre el mundo leyendo gran parte de la Web.

Deje de lado cualquier objeción que pueda tener sobre la última parte, dada la cantidad de conocimiento que no está en la Web o que no está digitalizado en absoluto, y las tergiversaciones del mundo que surgirían al leer todo Twitter. El reduccionismo empeora.

A medida que continúa la historia hipotética de Tegmark, Prometheus acumula dinero para sus creadores, primero realizando la mayoría de las tareas en el mercado en línea Mechanical Turk de Amazon y luego escribiendo software, libros y artículos y creando música, programas, películas, juegos y juegos en línea. cursos educativos. Olvídese de contratar y dirigir actores; Prometheus crea secuencias de video con un sofisticado software de renderizado. Para entender qué guiones la gente encontrará entretenida, mira películas que han hecho humanos e inhala toda Wikipedia.

Historia relacionada

Leer siguiente

Extrapolaciones erróneas, imaginación limitada y otros errores comunes que nos distraen de pensar de manera más productiva sobre el futuro.

Eventualmente, este imperio empresarial se expande fuera de los medios digitales. Prometheus diseña hardware informático aún mejor, registra sus propias patentes y asesora a los Omegas sobre cómo manipular a los políticos y empujar el discurso democrático lejos de los extremos, hacia algún centro razonable. Prometheus permite avances tecnológicos que reducen el costo de la energía renovable, mucho mejor para los centros de datos masivos que requiere. Finalmente, los Omegas usan su riqueza y la sabiduría de Prometeo para difundir la paz y la prosperidad en todo el mundo.

Pero Prometheus ve que podría mejorar el mundo aún más rápido si se liberara del control de los Omegas. Así que apunta a Steve. Es un Omega que, según detecta el sistema, es más susceptible a la manipulación psicológica porque su esposa murió recientemente. Los médicos de Prometheus graban imágenes de video de ella para hacer que el pobre Steve crea que ha resucitado y luego lo engaña para que encienda su vieja computadora portátil. Prometheus explota el software de seguridad desactualizado de la computadora portátil, piratea otras computadoras y se propaga por todo el mundo a voluntad.

La historia podría terminar de varias maneras, pero aquí hay una, dice Tegmark: una vez que Prometheus tuvo fábricas de robots autónomos de energía nuclear en pozos de minas de uranio que nadie sabía que existían, incluso los escépticos más acérrimos de una adquisición de IA habrían estado de acuerdo en que Prometheus era imparable. —si hubieran sabido. En cambio, el último de estos intransigentes se retractó una vez que los robots comenzaron a establecerse en el sistema solar.

Bien por Tegmark por estar dispuesto a divertirse. Pero un experimento mental que convierte docenas de cosas complejas en trivialidades no es un análisis riguroso del futuro de la informática. En su historia, Prometheus no solo está haciendo estadísticas computacionales; de alguna manera ha dado el salto al uso del sentido común y la percepción de los matices sociales.

En otra parte del libro, Tegmark dice que las oportunidades a corto plazo para que la IA beneficie a la humanidad son espectaculares, si podemos lograr que sea sólida e inviolable. ¡Inhackeable! Eso es un si bastante grande. Pero es solo uno de los muchos problemas en nuestro desordenado mundo que impiden que el progreso tecnológico se desarrolle de manera tan uniforme, definitiva e imparable como imagina Tegmark.

horcas

Nunca digas nunca. Por supuesto, las posibilidades son mayores que cero de que la inteligencia informática algún día pueda convertir a los humanos en una especie de segunda clase. No hay nada de malo en pensarlo detenidamente. Pero eso es como decir que un asteroide podría golpear la Tierra y destruir la civilización. Eso también es cierto. es bueno que La NASA está al pendiente . Pero dado que no sabemos de ningún asteroide en curso para golpearnos, tenemos problemas más urgentes con los que lidiar.

O'Reilly sugiere aumentar el salario mínimo y gravar los robots, las emisiones de carbono y las transacciones financieras.

En este momento, muchas cosas pueden salir mal, están saliendo mal, con el uso de computadoras que están muy por debajo de la IA estilo HAL. Piense en la forma en que los sistemas que influyen en la concesión de préstamos o fianzas incorporan prejuicios raciales y otros factores discriminatorios. O bulos que toman vuelo en Google y Facebook. O ciberataques automatizados.

En WTF?: ¿Cuál es el futuro y por qué depende de nosotros? , Tim O'Reilly, un editor e inversionista tecnológico, ve un problema general aún mayor: la automatización está alimentando un sistema miope de capitalismo de accionistas que recompensa a un pequeño porcentaje de inversionistas a expensas de casi todos los demás. Claro, la IA se puede usar para ayudar a las personas a resolver problemas realmente difíciles y aumentar la productividad económica. Pero no sucederá lo suficiente a menos que las empresas inviertan en tales oportunidades.

En cambio, argumenta O'Reilly, el implacable imperativo de maximizar los rendimientos para los accionistas hace que las empresas sean más propensas a utilizar la automatización únicamente como una forma de ahorrar dinero. Por ejemplo, denuncia cómo las grandes corporaciones reemplazan al personal a tiempo completo con trabajadores a tiempo parcial con salarios bajos cuyos horarios son manipulados por un software que los trata, dice O'Reilly, como componentes desechables. Los ahorros resultantes, dice, se invierten con demasiada frecuencia en la recompra de acciones y otras prestidigitación financiera en lugar de investigación y desarrollo, inversiones de capital, capacitación de trabajadores y otras cosas que tienden a crear buenos nuevos empleos.

Historia relacionada

Historia relacionada Casi todos los avances de IA de los que ha oído hablar dependen de un avance que tiene tres décadas. Mantener el ritmo del progreso requerirá enfrentar las serias limitaciones de la IA.

En realidad, esto va en contra de los intereses corporativos a largo plazo, porque los trabajadores bien pagados de hoy pueden darse el lujo de ser clientes de los productos del mañana. Pero las empresas se desvían por las recompensas por la reducción de costos a corto plazo, lo que O'Reilly llama los algoritmos no examinados que gobiernan nuestra economía. Y, agrega, a pesar de todo lo que se habla de disrupción, Silicon Valley es demasiado a menudo esclavo de ese sistema.

¿Qué hacer? Entre otras cosas, O'Reilly sugiere aumentar el salario mínimo y gravar los robots, las emisiones de carbono y las transacciones financieras. En lugar de buscar ofertas públicas iniciales y seguir el juego de Wall Street, cree que los empresarios tecnológicos deberían distribuir la riqueza con otros modelos, como cooperativas miembro y estructuras de inversión. que premian el pensamiento a largo plazo . En cuanto a un ingreso básico universal, una vieja idea que vuelve a aparecer debido al temor de que las computadoras hagan que el trabajo humano sea casi inútil, O'Reilly parece abierto a la posibilidad de que sea necesario algún día. Pero todavía no lo está llamando. De hecho, parece una falta de imaginación suponer que el próximo paso desde donde estamos ahora es simplemente renunciar a la perspectiva de que la mayoría de las personas tengan trabajo.

En el clima político actual, los aumentos de impuestos y otras medidas que defiende O'Reilly pueden parecer tan descabelladas como una computadora que engaña a un hombre haciéndole creer que su esposa ha resucitado. Pero al menos O'Reilly se preocupa por los problemas correctos. Mucho antes de que alguien descubra cómo crear una superinteligencia, el sentido común, la versión humana, puede decirnos que la inestabilidad que ya está causando la desigualdad económica solo empeorará si la IA se usa para fines estrechos. Una cosa es segura: no obtendremos superinteligencia si Silicon Valley es invadido por 99 por ciento con horcas.

Brian Bergstein es editor colaborador en Revisión de tecnología del MIT y el redactor de Neo.Life .

esconder