Los siete pecados capitales de las predicciones de la IA

joost sarte

Estamos rodeados de histeria sobre el futuro de la inteligencia artificial y la robótica, histeria sobre qué tan poderosos se volverán, qué tan rápido y qué harán con los trabajos.

Hace poco vi una historia en Reloj de mercado eso dijo Los robots ocuparán la mitad de los trabajos actuales en 10 a 20 años . Incluso tenía un gráfico para probar los números.

Esta historia fue parte de nuestra edición de noviembre de 2017

• Ver el resto del número
• Suscribir

Las afirmaciones son ridículas. (Trato de mantener un lenguaje profesional, pero a veces...) Por ejemplo, la historia parece decir que pasaremos de un millón de trabajadores de jardinería y mantenimiento en los EE. UU. a solo 50 000 en 10 a 20 años, porque los robots se harán cargo de esos trabajos. . ¿Cuántos robots están actualmente operativos en esos trabajos? Cero . ¿Cuántas demostraciones realistas ha habido de robots trabajando en este campo? Cero . Historias similares se aplican a todas las demás categorías en las que se sugiere que veremos el final de más del 90 por ciento de los trabajos que actualmente requieren presencia física en algún sitio en particular.

Las predicciones erróneas generan temores de cosas que no van a suceder, ya sea la destrucción de empleos a gran escala, la Singularidad o el advenimiento de la IA que tiene valores diferentes a los nuestros y podría intentar destruirnos. Tenemos que hacer retroceder estos errores. Pero, ¿por qué la gente los hace? Veo siete razones comunes.

joost sarte

1. Sobreestimar y subestimar

Roy Amara fue cofundador del Instituto para el Futuro, en Palo Alto, el corazón intelectual de Silicon Valley. Es mejor conocido por su adagio ahora conocido como la Ley de Amara:

Tendemos a sobreestimar el efecto de una tecnología a corto plazo y subestimar el efecto a largo plazo.

Hay mucho envuelto en estas 21 palabras. Un optimista puede leerlo de una manera y un pesimista puede leerlo de otra.

Un gran ejemplo de los dos lados de la Ley de Amara es el Sistema de Posicionamiento Global de EE. UU. A partir de 1978, se puso en órbita una constelación de 24 satélites (ahora 31 incluidos los de repuesto). El objetivo del GPS era permitir la entrega precisa de municiones por parte del ejército estadounidense. Pero el programa estuvo a punto de cancelarse una y otra vez en la década de 1980. El primer uso operativo para el propósito previsto fue en 1991 durante la Tormenta del Desierto; se necesitaron varios éxitos más para que los militares aceptaran su utilidad.

Las predicciones equivocadas conducen a temores de cosas que no van a suceder.

Hoy en día, el GPS se encuentra en lo que Amara llamaría el largo plazo, y las formas en que se usa no se imaginaron al principio. Mi Apple Watch Serie 2 usa GPS mientras estoy corriendo, registrando mi ubicación con suficiente precisión para ver por qué lado de la calle corro. El diminuto tamaño y el precio del receptor habrían sido incomprensibles para los primeros ingenieros de GPS. La tecnología sincroniza experimentos de física en todo el mundo y desempeña un papel fundamental en la sincronización de la red eléctrica de EE. UU. y su funcionamiento. Incluso permite que los comerciantes de alta frecuencia que realmente controlan el mercado de valores eviten en su mayoría errores de tiempo desastrosos. Es usado por todos nuestros aviones, grandes y pequeños, para navegar, y es usado para rastrear a personas fuera de prisión en libertad condicional. Determina qué variante de semilla se plantará en qué parte de muchos campos en todo el mundo. Realiza un seguimiento de las flotas de camiones e informa sobre el rendimiento del conductor.

El GPS comenzó con un objetivo, pero fue difícil lograr que funcionara tan bien como se esperaba originalmente. Ahora se ha filtrado en tantos aspectos de nuestras vidas que no estaríamos perdidos si desapareciera; tendríamos frío, hambre y posiblemente muertos.

Vemos un patrón similar con otras tecnologías en los últimos 30 años. Una gran promesa por adelantado, una decepción y luego una confianza cada vez mayor en los resultados que superan las expectativas originales. Este es el caso de la computación, la secuenciación del genoma, la energía solar, la energía eólica e incluso la entrega de comestibles a domicilio.

La IA ha sido sobreestimada una y otra vez, en la década de 1960, en la década de 1980, y creo que de nuevo ahora, pero es probable que también se subestimen sus perspectivas a largo plazo. La pregunta es: ¿Cuánto es el largo plazo? ? Los siguientes seis errores ayudan a explicar por qué se subestima enormemente la escala de tiempo para el futuro de la IA.

joost sarte

2. Imaginando magia

Cuando era adolescente, Arthur C. Clarke era uno de los tres grandes escritores de ciencia ficción, junto con Robert Heinlein e Isaac Asimov. Pero Clarke también fue inventor, escritor científico y futurista. Entre 1962 y 1973 formuló tres adagios que se conocen como las Tres Leyes de Clarke:

Cuando un distinguido pero anciano científico afirma que algo es posible, es casi seguro que tiene razón. Cuando afirma que algo es imposible, muy probablemente se equivoca.

La única forma de descubrir los límites de lo posible es aventurarse un poco más allá de ellos hacia lo imposible.

Cualquier tecnología suficientemente avanzada es indistinguible de la magia.

Personalmente, probablemente debería tener cuidado con la segunda oración de su primera ley, ya que soy mucho más conservador que otros sobre la rapidez con la que la IA ascenderá. Pero por ahora quiero exponer sobre la Tercera Ley de Clarke.

Imagina que tuviéramos una máquina del tiempo y pudiéramos transportar a Isaac Newton desde finales del siglo XVII hasta la actualidad, colocándolo en un lugar que le sería familiar: la Capilla del Trinity College en la Universidad de Cambridge.

Ahora muéstrale a Newton una manzana. Saca un iPhone de tu bolsillo y enciéndelo para que la pantalla brille y esté llena de íconos, y dáselo. Newton, quien reveló cómo la luz blanca está hecha de componentes de luz de diferentes colores separando la luz del sol con un prisma y luego volviéndola a unir, sin duda se sorprendería de que un objeto tan pequeño produzca colores tan vívidos en la oscuridad de la capilla. . Ahora reproduzca una película de una escena campestre inglesa y luego algo de música de iglesia que él habría escuchado. Y luego muéstrele una página web con las más de 500 páginas de su copia anotada personalmente de su obra maestra Principios , enseñándole cómo usar el gesto de pellizcar para acercar los detalles.

Tenga cuidado con los argumentos sobre la tecnología futura que es mágica.

¿Podría Newton comenzar a explicar cómo este pequeño dispositivo hizo todo eso? Aunque inventó el cálculo y explicó tanto la óptica como la gravedad, nunca pudo separar la química de la alquimia. Así que creo que estaría desconcertado e incapaz de idear el más mínimo esquema coherente de lo que era este dispositivo. No sería diferente para él de una encarnación de lo oculto, algo que le interesaba mucho. Sería indistinguible de la magia. Y recuerda, Newton era un tipo muy inteligente.

Si algo es mágico, es difícil saber sus limitaciones. Supongamos que además mostramos a Newton cómo el dispositivo puede iluminar la oscuridad, cómo puede tomar fotos y películas y grabar sonido, cómo puede usarse como una lupa y como un espejo. Luego le mostramos cómo se puede utilizar para realizar cálculos aritméticos a una velocidad increíble y con muchos decimales. Se lo mostramos contando los pasos que ha dado mientras lo lleva, y le mostramos que puede utilizarlo para hablar con personas de cualquier parte del mundo, de forma inmediata, desde allí mismo en la capilla.

¿Qué más podría conjeturar Newton que el dispositivo podría hacer? Los prismas funcionan para siempre. ¿Conjeturaría que el iPhone funcionaría para siempre tal como está, sin entender que necesita recargarse? Recuerde que lo atrapamos de un tiempo 100 años antes del nacimiento de Michael Faraday, por lo que carecía de una comprensión científica de la electricidad. Si el iPhone puede ser una fuente de luz sin fuego, ¿quizás también podría transmutar el plomo en oro?

Este es un problema que todos tenemos con la tecnología futura imaginada. Si está lo suficientemente lejos de la tecnología que tenemos y entendemos hoy, entonces no conocemos sus limitaciones. Y si se vuelve indistinguible de la magia, cualquier cosa que se diga sobre ella ya no es falsificable.

Este es un problema que encuentro regularmente cuando trato de debatir con la gente sobre si debemos temer a la inteligencia general artificial o AGI, la idea de que construiremos agentes autónomos que operan de manera muy similar a los seres en el mundo. Me han dicho que no entiendo cuán poderosa será la AGI. Eso no es un argumento. No tenemos idea de si puede existir. Me gustaría que existiera; esta siempre ha sido mi propia motivación para trabajar en robótica e IA. Pero la investigación AGI de hoy en día no está funcionando bien en general o apoyando una entidad independiente con una existencia continua. En su mayoría, parece estancado en los mismos problemas de razonamiento y sentido común con los que la IA ha tenido problemas durante al menos 50 años. Toda la evidencia que veo dice que aún no tenemos una idea real de cómo construir uno. Sus propiedades son completamente desconocidas, por lo que retóricamente rápidamente se vuelve mágico, poderoso sin límite.

Nada en el universo es ilimitado.

Tenga cuidado con los argumentos sobre la tecnología futura que es mágica. Tal argumento nunca puede ser refutado. Es un argumento basado en la fe, no un argumento científico.

joost sarte

3. Desempeño versus competencia

Todos usamos pistas sobre cómo las personas realizan una tarea en particular para estimar qué tan bien podrían realizar una tarea diferente. En una ciudad extranjera, le preguntamos a un extraño en la calle por direcciones, y ella responde con confianza y con direcciones que parecen tener sentido, por lo que pensamos que también podemos preguntarle sobre el sistema local para pagar cuando desea tomar un autobús.

Ahora supongamos que una persona nos dice que una foto en particular muestra a personas jugando Frisbee en el parque. Naturalmente asumimos que esta persona puede responder preguntas como ¿Cuál es la forma de un Frisbee? Aproximadamente, ¿a qué distancia puede una persona lanzar un frisbee? ¿Puede una persona comer un Frisbee? Aproximadamente, ¿cuántas personas juegan Frisbee a la vez? ¿Puede una persona de tres meses jugar Frisbee? ¿El clima de hoy es adecuado para jugar Frisbee?

Las computadoras que pueden etiquetar imágenes como personas jugando Frisbee en un parque no tienen posibilidad de responder esas preguntas. Además del hecho de que solo pueden etiquetar más imágenes y no pueden responder preguntas, no tienen idea de qué es una persona, que los parques suelen estar afuera, que las personas tienen edades, que el clima es algo más que cómo se ve una foto, etc

Esto no quiere decir que estos sistemas sean inútiles; son de gran valor para los motores de búsqueda. Pero aquí está lo que sale mal. La gente escucha que algún robot o algún sistema de IA ha realizado alguna tarea. Luego generalizan a partir de ese desempeño a una competencia que se podría esperar que tenga una persona que realiza la misma tarea. Y aplican esa generalización al robot o al sistema de IA.

Los robots y los sistemas de inteligencia artificial de hoy en día son increíblemente limitados en lo que pueden hacer. Las generalizaciones al estilo humano no se aplican.

joost sarte

4. Palabras de maleta

Marvin Minsky llamó palabras maleta a las palabras que tienen una variedad de significados. El aprendizaje es una poderosa palabra de maleta; puede referirse a tantos tipos diferentes de experiencia. Aprender a usar los palillos es una experiencia muy diferente a aprender la melodía de una nueva canción. Y aprender a escribir código es una experiencia muy diferente de aprender a moverse por una ciudad.

Cuando las personas escuchan que el aprendizaje automático está logrando grandes avances en algún dominio nuevo, tienden a usar como modelo mental la forma en que una persona aprendería ese nuevo dominio. Sin embargo, el aprendizaje automático es muy frágil y requiere mucha preparación por parte de investigadores o ingenieros humanos, codificación de propósito especial, conjuntos de datos de entrenamiento de propósito especial y una estructura de aprendizaje personalizada para cada nuevo dominio de problema. El aprendizaje automático de hoy en día no es en absoluto el aprendizaje esponjoso en el que se involucran los humanos, que avanza rápidamente en un nuevo dominio sin tener que modificarlo quirúrgicamente o construirlo a propósito.

Del mismo modo, cuando las personas escuchan que una computadora puede vencer al campeón mundial de ajedrez (en 1997) o a uno de los mejores jugadores de Go del mundo (en 2016), tienden a pensar que está jugando como lo haría un ser humano. Por supuesto, en realidad esos programas no tenían idea de lo que era un juego, ni siquiera de lo que estaban jugando. También eran mucho menos adaptables. Cuando los humanos juegan un juego, un pequeño cambio en las reglas no los desanima. No es así para AlphaGo o Deep Blue.

Las palabras de maleta engañan a las personas sobre qué tan bien se están desempeñando las máquinas en las tareas que las personas pueden hacer. Eso se debe en parte a que los investigadores de IA y, lo que es peor, sus oficinas de prensa institucionales, están ansiosos por afirmar el progreso en una instancia de un concepto de maleta. La frase importante aquí es un ejemplo. Ese detalle pronto se pierde. Los titulares pregonan la palabra maleta y distorsionan la comprensión general de dónde está la IA y qué tan cerca está de lograr más.

joost sarte

5. Exponenciales

Mucha gente sufre de un caso severo de exponencialismo.

Todo el mundo tiene alguna idea sobre la Ley de Moore, que sugiere que las computadoras mejoran cada vez más en un horario similar al de un reloj. Lo que Gordon Moore dijo en realidad fue que la cantidad de componentes que podrían caber en un microchip se duplicaría cada año. Eso se mantuvo durante 50 años, aunque la constante de tiempo para la duplicación se alargó gradualmente de un año a más de dos años, y el patrón está llegando a su fin.

Duplicar los componentes en un chip ha hecho que las computadoras dupliquen continuamente su velocidad. Y ha dado lugar a chips de memoria que cuadriplican su capacidad cada dos años. También ha dado lugar a cámaras digitales que tienen cada vez mejor resolución y pantallas LCD con exponencialmente más píxeles.

La razón por la que la Ley de Moore funcionó es que se aplicó a una abstracción digital de una pregunta de verdadero o falso. En cualquier circuito dado, ¿hay o no carga eléctrica o voltaje? La respuesta sigue siendo clara a medida que los componentes del chip se hacen cada vez más pequeños, hasta que interviene un límite físico y llegamos a componentes con tan pocos electrones que los efectos cuánticos comienzan a dominar. Ahí es donde nos encontramos ahora con nuestra tecnología de chip basada en silicio.

Cuando las personas sufren de exponencialismo, pueden pensar que los exponenciales que usan para justificar un argumento continuarán a buen ritmo. Pero la Ley de Moore y otras leyes aparentemente exponenciales pueden fallar porque en primer lugar no eran realmente exponenciales.

En la primera parte de este siglo, cuando dirigía el Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT y necesitaba ayudar a recaudar dinero para más de 90 grupos de investigación diferentes, traté de usar el aumento de memoria en los iPod para mostrar a los patrocinadores cómo funcionan las cosas. continuaban cambiando muy rápidamente. Estos son los datos sobre la cantidad de almacenamiento de música que se obtiene en un iPod por $400 o menos:

año	gigabytes
2002	10
2003	20
2004	40
2006	80
2007	160

Luego extrapolaría unos años más y preguntaría qué haríamos con toda esa memoria en nuestros bolsillos.

Extrapolando hasta hoy, esperaríamos que un iPod de $400 tuviera 160,000 gigabytes de memoria. Pero el mejor iPhone de hoy (que cuesta mucho más de $400) tiene solo 256 gigabytes de memoria, menos del doble de la capacidad del iPod de 2007. Este exponencial en particular colapsó muy repentinamente una vez que la cantidad de memoria llegó al punto en que era lo suficientemente grande como para contener la biblioteca de música, las aplicaciones, las fotos y los videos de cualquier persona razonable. Los exponenciales pueden colapsar cuando se llega a un límite físico, o cuando no hay más justificación económica para continuar con ellos.

De manera similar, hemos visto un aumento repentino en el rendimiento de los sistemas de IA gracias al éxito del aprendizaje profundo. Mucha gente parece pensar que eso significa que continuaremos viendo el rendimiento de la IA aumentar en múltiplos iguales de forma regular. Pero el éxito del aprendizaje profundo tardó 30 años en gestarse y fue un evento aislado.

Eso no significa que no habrá más eventos aislados, donde el trabajo de los remansos de la investigación de IA de repente alimenta un aumento rápido en el rendimiento de muchas aplicaciones de IA. Pero no hay una ley que diga con qué frecuencia ocurrirán.

joost sarte

6. Escenarios de Hollywood

La trama de muchas películas de ciencia ficción de Hollywood es que el mundo es tal como es hoy, excepto por un nuevo giro.

En Hombre bicentenario , Richard Martin, interpretado por Sam Neill, se sienta a desayunar y es atendido por un robot humanoide que camina y habla, interpretado por Robin Williams. Richard toma un periódico para leerlo durante el desayuno. ¡Un periódico! Impreso en papel. Ni una tableta, ni un podcast proveniente de un dispositivo similar a Amazon Echo, ni una conexión neuronal directa a Internet.

Resulta que muchos investigadores de IA y expertos en IA, especialmente aquellos pesimistas que se entregan a predicciones sobre que la IA se sale de control y mata personas, también tienen problemas de imaginación. Ignoran el hecho de que si eventualmente somos capaces de construir tales dispositivos inteligentes, el mundo habrá cambiado significativamente para entonces. No nos sorprenderá de repente la existencia de tales superinteligencias. Evolucionarán tecnológicamente con el tiempo, y nuestro mundo llegará a estar poblado por muchas otras inteligencias, y ya tendremos mucha experiencia. Mucho antes de que haya superinteligencias malvadas que quieran deshacerse de nosotros, habrá máquinas algo menos inteligentes, menos beligerantes. Antes de eso, habrá máquinas realmente gruñonas. Antes de eso, máquinas bastante molestas. Y ante ellos, máquinas arrogantes y desagradables. Cambiaremos nuestro mundo a lo largo del camino, ajustando tanto el entorno para las nuevas tecnologías como las nuevas tecnologías mismas. No digo que no haya desafíos. Estoy diciendo que no serán repentinos e inesperados, como mucha gente piensa.

joost sarte

7. Velocidad de despliegue

Las nuevas versiones de software se implementan con mucha frecuencia en algunas industrias. Las nuevas funciones para plataformas como Facebook se implementan casi cada hora. Para muchas características nuevas, siempre que hayan pasado las pruebas de integración, hay muy pocas desventajas económicas si aparece un problema en el campo y es necesario retirar la versión. Este es un ritmo al que Silicon Valley y los desarrolladores de software web se han acostumbrado. Funciona porque el costo marginal de implementar un código nuevo es muy, muy cercano a cero.

La implementación de nuevo hardware, por otro lado, tiene costos marginales significativos. Lo sabemos por nuestras propias vidas. Muchos de los autos que estamos comprando hoy en día, que no son autónomos y en su mayoría no están habilitados para software, probablemente todavía estarán en la carretera en el año 2040. Esto pone un límite inherente sobre cuán pronto todos nuestros autos serán autónomos. -conduciendo. Si construimos una nueva casa hoy, podemos esperar que dure más de 100 años. El edificio en el que vivo fue construido en 1904 y no es el más antiguo de mi vecindario.

Los costos de capital mantienen el hardware físico disponible durante mucho tiempo, incluso cuando tiene aspectos de alta tecnología e incluso cuando tiene una misión existencial.

La Fuerza Aérea de EE. UU. todavía vuela la variante B-52H del bombardero B-52. Esta versión se introdujo en 1961, por lo que tiene 56 años. El último fue construido en 1962, hace apenas 55 años. Actualmente se espera que estos aviones sigan volando hasta al menos 2040, y tal vez más; se habla de extender su vida útil a 100 años.

Regularmente veo equipos con décadas de antigüedad en fábricas de todo el mundo. Incluso veo PC con Windows 3.0, una versión de software lanzada en 1990. La idea es que si no está roto, no lo arregles. Esas PC y su software han estado ejecutando la misma aplicación y realizando la misma tarea de manera confiable durante más de dos décadas.

Casi todas las innovaciones en robótica e inteligencia artificial tardan mucho, mucho más tiempo en implementarse ampliamente de lo que imaginan las personas en el campo y fuera del campo.

El principal mecanismo de control en las fábricas, incluidas las nuevas en EE. UU., Europa, Japón, Corea y China, se basa en controladores lógicos programables o PLC. Estos se introdujeron en 1968 para reemplazar los relés electromecánicos. La bobina sigue siendo la principal unidad de abstracción utilizada en la actualidad, y los PLC se programan como si fueran una red de relés electromecánicos de 24 voltios. Aún. Algunos de los cables directos han sido reemplazados por cables Ethernet. Pero no son parte de una red abierta. En cambio, son cables individuales, que se ejecutan punto a punto, que incorporan físicamente el flujo de control (el orden en que se ejecutan los pasos) en estos nuevos controladores de automatización antiguos. Cuando desea cambiar el flujo de información, o el flujo de control, en la mayoría de las fábricas del mundo, se necesitan semanas de consultores para descubrir qué hay allí, diseñar nuevas reconfiguraciones y luego equipos de comerciantes para volver a cablear y reconfigurar el hardware. Uno de los principales fabricantes de este equipo me dijo recientemente que su objetivo es realizar tres actualizaciones de software cada 20 años.

En principio, se podría hacer de otra manera. En la práctica, no lo es. Acabo de mirar en una lista de trabajos, e incluso hoy, este mismo día, Tesla Motors está tratando de contratar técnicos de PLC en su fábrica en Fremont, California. Utilizarán la emulación de relés electromagnéticos en la producción del automóvil más mejorado con IA que existe.

Muchos investigadores y expertos en IA imaginan que el mundo ya es digital y que la simple introducción de nuevos sistemas de IA se traducirá inmediatamente en cambios operativos en el campo, en la cadena de suministro, en la planta de producción y en el diseño de productos.

Nada mas lejos de la verdad. Casi todas las innovaciones en robótica e inteligencia artificial tardan mucho, mucho más tiempo en implementarse ampliamente de lo que imaginan las personas en el campo y fuera del campo.

Rodney Brooks es exdirector del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT y fundador de Rethink Robotics e iRobot. Este ensayo está adaptado con permiso de un correo que apareció originalmente en rodneybrooks.com.

esconder