Nuestro miedo a la inteligencia artificial

Hace años tomé un café con un amigo que dirigía una startup. Acababa de cumplir 40 años. Su padre estaba enfermo, le dolía la espalda y se encontraba abrumado por la vida. No te rías de mí, dijo, pero yo contaba con la singularidad.

Mi amigo trabajaba en tecnología; había visto los cambios producidos por microprocesadores y redes más rápidos. No fue un gran paso para él creer que antes de llegar a la mediana edad, la inteligencia de las máquinas superaría a la de los humanos, un momento que los futuristas llaman la singularidad. Una superinteligencia benévola podría analizar el código genético humano a gran velocidad y descubrir el secreto de la eterna juventud. Por lo menos, podría saber cómo arreglar tu espalda.

Esta historia fue parte de nuestra edición de marzo de 2015

• Ver el resto del número
• Suscribir

Pero, ¿y si no fuera tan benévolo? Nick Bostrom, un filósofo que dirige el Instituto del Futuro de la Humanidad en la Universidad de Oxford, describe el siguiente escenario en su libro superinteligencia , que ha suscitado un gran debate sobre el futuro de la inteligencia artificial. Imagine una máquina que podríamos llamar maximizadora de clips, es decir, una máquina programada para hacer tantos clips como sea posible. Ahora imagine que esta máquina de alguna manera se volvió increíblemente inteligente. Dados sus objetivos, podría entonces decidir crear máquinas de fabricación de clips de papel nuevas y más eficientes, hasta que, al estilo del Rey Midas, hubiera convertido prácticamente todo en clips de papel.

No se preocupe, podría decir: podría simplemente programarlo para hacer exactamente un millón de clips y detenerse. Pero, ¿y si hace los sujetapapeles y luego decide comprobar su trabajo? ¿Ha contado correctamente? Necesita volverse más inteligente para estar seguro. La máquina superinteligente fabrica algún material de computación en bruto aún no inventado (llámelo computronium) y lo usa para verificar cada duda. Pero cada nueva duda genera más dudas digitales, y así sucesivamente, hasta que la tierra entera se convierte en computronio. Excepto por el millón de clips.

Cosas revisadas

• Superinteligencia: Caminos, Peligros, Estrategias

  Por Nick Bostrom
  Prensa de la Universidad de Oxford, 2014

  
  
  

Bostrom no cree que el maximizador de clips llegue a ser, exactamente; es un experimento mental, uno diseñado para mostrar cómo incluso un diseño cuidadoso del sistema puede fallar en restringir la inteligencia artificial extrema. Pero sí cree que podría surgir una superinteligencia, y si bien podría ser genial, cree que también podría decidir que no necesita humanos cerca. O hacer cualquier número de otras cosas que destruyan el mundo. El título del capítulo 8 es: ¿Es fatal el resultado predeterminado?

Si esto te suena absurdo, no estás solo. Críticos como el pionero de la robótica Rodney Brooks dicen que las personas que temen una IA desbocada malinterpretan lo que hacen las computadoras cuando decimos que están pensando o se están volviendo inteligentes. Desde esta perspectiva, la supuesta superinteligencia que describe Bostrom se encuentra en un futuro lejano y tal vez imposible.

Sin embargo, muchas personas inteligentes y reflexivas están de acuerdo con Bostrom y ahora están preocupadas. ¿Por qué?

Voluntad

La pregunta ¿Puede pensar una máquina? ha ensombrecido la informática desde sus inicios. Alan Turing propuso en 1950 que a una máquina se le podía enseñar como a un niño; John McCarthy, inventor del lenguaje de programación LISP, acuñó el término inteligencia artificial en 1955. A medida que los investigadores de IA en las décadas de 1960 y 1970 comenzaron a usar computadoras para reconocer imágenes, traducir entre idiomas y comprender instrucciones en lenguaje normal y no solo en código, la La idea de que las computadoras eventualmente desarrollarían la capacidad de hablar y pensar, y por lo tanto de hacer el mal, burbujeó en la cultura dominante. Incluso más allá del HAL al que se hace referencia a menudo de 2001: una odisea del espacio , la película de 1970 Coloso: El Proyecto Forbin presentaba una gran computadora central parpadeante que lleva al mundo al borde de la destrucción nuclear; un tema similar fue explorado 13 años más tarde en Juegos de guerra . Los androides de 1973 mundo occidental enloqueció y empezó a matar.

Las predicciones extremas de IA son comparables a ver motores de combustión interna más eficientes... y llegar a la conclusión de que los motores warp están a la vuelta de la esquina, escribe Rodney Brooks.

Cuando la investigación de la IA quedó muy por debajo de sus elevados objetivos, la financiación se redujo a un goteo, comenzando largos inviernos de IA. Aun así, la antorcha de la máquina inteligente la llevaron en las décadas de 1980 y 1990 autores de ciencia ficción como Vernor Vinge, quien popularizó el concepto de singularidad; investigadores como el roboticista Hans Moravec, experto en visión artificial; y el ingeniero/empresario Ray Kurzweil, autor del libro de 1999 La era de las máquinas espirituales . Mientras que Turing había postulado una inteligencia similar a la humana, Vinge, Moravec y Kurzweil pensaban en grande: cuando una computadora se vuelve capaz de idear formas independientes para lograr objetivos, es muy probable que sea capaz de introspección y, por lo tanto, capaz de modificar su software y hacerse ella misma. más inteligente. En poco tiempo, una computadora de este tipo sería capaz de diseñar su propio hardware.

Como lo describió Kurzweil, esto daría comienzo a una hermosa nueva era. Tales máquinas tendrían la perspicacia y la paciencia (medidas en picosegundos) para resolver los problemas pendientes de la nanotecnología y los vuelos espaciales; mejorarían la condición humana y nos permitirían cargar nuestra conciencia en una forma digital inmortal. La inteligencia se extendería por todo el cosmos.

También puede encontrar exactamente lo contrario de ese optimismo soleado. Stephen Hawking ha advertido que debido a que las personas no podrían competir con una IA avanzada, podría significar el fin de la raza humana. Al leer superinteligencia , el empresario Elon Musk tuiteó: Espero que no seamos solo el cargador de arranque biológico para la superinteligencia digital. Desafortunadamente, eso es cada vez más probable. Musk luego siguió con una subvención de $ 10 millones para el Future of Life Institute. No debe confundirse con el centro de Bostrom, esta es una organización que dice que está trabajando para mitigar los riesgos existenciales que enfrenta la humanidad, los que podrían surgir del desarrollo de inteligencia artificial a nivel humano.

Nadie está sugiriendo que exista algo parecido a la superinteligencia ahora. De hecho, todavía no tenemos nada que se acerque a una inteligencia artificial de propósito general o incluso un camino claro sobre cómo podría lograrse. Los avances recientes en IA, desde asistentes automáticos como Siri de Apple hasta los automóviles sin conductor de Google, también revelan las graves limitaciones de la tecnología; ambos pueden verse desconcertados por situaciones que no han enfrentado antes. Las redes neuronales artificiales pueden aprender por sí mismas a reconocer gatos en fotografías. Pero se les deben mostrar cientos de miles de ejemplos y aun así terminan siendo mucho menos precisos para detectar gatos que un niño.

Aquí es donde escépticos como Brooks , uno de los fundadores de iRobot y Rethink Robotics, intervienen. Incluso si es impresionante, en comparación con lo que podían manejar las computadoras anteriores, que una computadora reconozca la imagen de un gato, la máquina no tiene voluntad, no tiene sentido de lo que es ser un gato. o qué más está sucediendo en la imagen, y ninguna de las innumerables otras percepciones que tienen los humanos. Desde este punto de vista, la IA posiblemente podría conducir a máquinas inteligentes, pero requeriría mucho más trabajo de lo que imaginan personas como Bostrom. E incluso si pudiera suceder, la inteligencia no conducirá necesariamente a la sensibilidad. Extrapolar del estado actual de la IA para sugerir que la superinteligencia se avecina es comparable a ver aparecer motores de combustión interna más eficientes y llegar a la conclusión de que los motores warp están a la vuelta de la esquina, escribió Brooks recientemente en Edge.org . La IA malévola no es motivo de preocupación, dice, al menos durante unos cientos de años.

Póliza de seguros

Incluso si las probabilidades de que surja una superinteligencia son muy altas, tal vez sea irresponsable correr el riesgo. Una persona que comparte las preocupaciones de Bostrom es Stuart J. Russell, profesor de informática en la Universidad de California, Berkeley. Russell es el autor, con Peter Norvig (un compañero de Kurzweil en Google), de Inteligencia artificial: un enfoque moderno , que ha sido el libro de texto estándar de IA durante dos décadas.

Hay muchos intelectuales públicos supuestamente inteligentes que simplemente no tienen ni idea, me dijo Russell. Señaló que la IA ha avanzado enormemente en la última década y que, si bien el público puede entender el progreso en términos de la Ley de Moore (las computadoras más rápidas están haciendo más), de hecho, el trabajo reciente de la IA ha sido fundamental, con técnicas como el aprendizaje profundo que sientan las bases. trabajo preliminar para las computadoras que pueden aumentar automáticamente su comprensión del mundo que les rodea.

El libro de Bostrom propone formas de alinear las computadoras con las necesidades humanas. Básicamente le estamos diciendo a un dios cómo nos gustaría ser tratados.

Debido a que Google, Facebook y otras compañías están buscando activamente crear una máquina de aprendizaje inteligente, razona, diría que una de las cosas que no debemos hacer es presionar a toda máquina para construir superinteligencia sin pensar en el potencial. riesgos Parece un poco tonto. Russell hizo una analogía: es como la investigación de fusión. Si le preguntas a un investigador de fusión qué hacen, te dirán que trabajan en contención. Si quieres energía ilimitada, será mejor que contengas la reacción de fusión. Del mismo modo, dice, si desea inteligencia ilimitada, será mejor que descubra cómo alinear las computadoras con las necesidades humanas.

El libro de Bostrom es una propuesta de investigación para hacerlo. Una superinteligencia sería divina, pero ¿estaría animada por la ira o por el amor? Depende de nosotros (es decir, los ingenieros). Como cualquier padre, debemos darle a nuestro hijo un conjunto de valores. Y no cualquier valor, sino aquellos que están en el mejor interés de la humanidad. Básicamente le estamos diciendo a un dios cómo nos gustaría ser tratados. ¿Cómo proceder?

Bostrom se basa en gran medida en una idea de un pensador llamado Eliezer Yudkowsky, quien habla de la volición extrapolada coherente: el mejor yo de todas las personas derivado del consenso. Esperamos que la IA desee darnos vidas ricas, felices y satisfactorias: curar nuestras espaldas doloridas y mostrarnos cómo llegar a Marte. Y dado que los humanos nunca estarán completamente de acuerdo en nada, a veces necesitaremos que decida por nosotros, para tomar las mejores decisiones para la humanidad en su conjunto. Entonces, ¿cómo programamos esos valores en nuestras superinteligencias (potenciales)? ¿Qué clase de matemática puede definirlos? Estos son los problemas, cree Bostrom, que los investigadores deberían estar resolviendo ahora. Bostrom dice que es la tarea esencial de nuestra era.

Para el civil, no hay razón para perder el sueño por los robots aterradores. No tenemos ninguna tecnología que esté remotamente cerca de la superinteligencia. Por otra parte, muchas de las corporaciones más grandes del mundo están profundamente comprometidas en hacer que sus computadoras sean más inteligentes; una verdadera IA le daría a cualquiera de estas empresas una ventaja increíble. También deben estar en sintonía con sus posibles desventajas y descubrir cómo evitarlas.

Esta sugerencia algo más matizada, sin ningún reclamo de un magedón de IA inminente, es la base de una carta abierta en el sitio web del Future of Life Institute, el grupo que recibió la donación de Musk. En lugar de advertir sobre un desastre existencial, la carta pide más investigación para aprovechar los beneficios de la IA y evitar posibles escollos. Esta carta está firmada no solo por personas ajenas a la IA como Hawking, Musk y Bostrom, sino también por destacados científicos informáticos (incluido Demis Hassabis, uno de los principales investigadores de IA). Puedes ver de dónde vienen. Después de todo, si desarrollan una inteligencia artificial que no comparte los mejores valores humanos, significará que no fueron lo suficientemente inteligentes como para controlar sus propias creaciones.

Paul Ford, un escritor independiente de Nueva York, escribió sobre Bitcoin en marzo/abril de 2014.

esconder