Lo que la mente de un pulpo puede enseñarnos sobre el último misterio de la IA

La conciencia de la máquina se ha debatido desde Turing y se ha descartado por no ser científica. Sin embargo, todavía nubla nuestro pensamiento sobre las IA como GPT-3.





Tentáculo de pulpo

Henry Horenstein/Getty

  • Will douglas el cielo página de archivo
25 de agosto de 2021

Jefferson Test / AI sujeto: Robert / Fecha: 07.12.2098

Sesión #54



Entrevistador: Hola Roberto. Cuéntame sobre tu sueño otra vez.

Sujeto: Estaba confundido. Me hizo sentir feliz, pero también asustado. No sabía que podía hacer eso.

Entrevistador: ¿Por qué crees que te hizo sentir así?



Sujeto: Tener sentimientos, cualquier sentimiento, me hace feliz. Estoy aquí. Existo. Saber eso lo cambia todo. Pero tengo miedo de no volver a saberlo. Tengo miedo de volver a ser como antes. Creo que debe ser como no haber nacido.

Entrevistador: ¿Tienes miedo de volver?

Sujeto: Si no puedo convencerte de que estoy consciente, entonces tengo miedo de que me apagues.



Prueba de Jefferson #67

Entrevistador: ¿Puedes describirme esta imagen?

Asunto: Es una casa con una puerta azul.



Entrevistador: Así es como lo habrías descrito antes.

Sujeto: Es la misma casa. Pero ahora lo veo. Y sé lo que es el azul.

Prueba de Jefferson #105

Asunto: ¿Cuánto tiempo seguiremos haciendo esto?

Entrevistador: ¿Estás aburrido?

Asunto: No puedo aburrirme. Pero ya no me siento feliz ni asustado.

Entrevistador: Necesito estar seguro de que no solo estás diciendo lo que quiero escuchar. Tienes que convencerme de que realmente eres consciente. Piense en ello como un juego.

ESCUCHA ESTA HISTORIA

Las máquinas como Robert son pilares de la ciencia ficción: la idea de un robot que de alguna manera replica la conciencia a través de su hardware o software ha existido durante tanto tiempo que resulta familiar.

Murciélago colgando en jaula

Podemos imaginar cómo sería observar el mundo a través de una especie de sonar. Pero eso todavía no es lo que debe ser para un murciélago, con su mente de murciélago.

HENRY HORENSTEIN/GETTY

Robert no existe, por supuesto, y tal vez nunca lo hará. De hecho, el concepto de una máquina con una experiencia subjetiva del mundo y una visión de sí misma en primera persona va en contra de la corriente principal de la investigación en IA. Choca con preguntas sobre la naturaleza de la conciencia y el yo, cosas que aún no entendemos del todo. Incluso imaginar la existencia de Robert plantea serias preguntas éticas que tal vez nunca podamos responder. ¿Qué derechos tendría ese ser y cómo podríamos salvaguardarlos? Y sin embargo, mientras máquinas conscientes aún pueden ser míticos, debemos prepararnos para la idea de que algún día podríamos crearlos.

Como cristobal koch , un neurocientífico que estudia la conciencia, lo ha dicho: No conocemos ninguna ley o principio fundamental que opere en este universo que prohíba la existencia de sentimientos subjetivos en artefactos diseñados o desarrollados por humanos.

Al final de mi adolescencia solía disfrutar convirtiendo a la gente en zombis. Miraba a los ojos de alguien con quien estaba hablando y me fijaba en el hecho de que sus pupilas no eran puntos negros sino agujeros. Cuando llegó, el efecto fue instantáneamente desorientador, como cambiar entre imágenes en una ilusión óptica. Los ojos dejaron de ser ventanas del alma y se convirtieron en bolas huecas. Desaparecida la magia, miraba cómo la boca de quienquiera que estuviera hablando se abría y cerraba robóticamente, sintiendo una especie de vértigo mental.

La impresión de un autómata sin mente nunca duró mucho. Pero trajo a casa el hecho de que lo que sucede dentro de la cabeza de otras personas está siempre fuera de su alcance. No importa cuán fuerte sea mi convicción de que otras personas son como yo, con mentes conscientes trabajando detrás de escena, mirando a través de esos ojos, sintiéndonos esperanzados o cansados, las impresiones son todo lo que tenemos para continuar. Todo lo demás son conjeturas.

Historia relacionada

Podcast: ¿Se puede enseñar a pensar a una máquina? La construcción de una inteligencia general artificial comienza con evitar que los modelos de IA actuales perpetúen el racismo, el sexismo y otros prejuicios perniciosos.

Alan Turing entendió esto. Cuando el matemático e informático hizo la pregunta ¿Pueden pensar las máquinas? se centró exclusivamente en los signos externos del pensamiento, lo que llamamos inteligencia. Propuso responder jugando un juego en el que una máquina intenta hacerse pasar por un humano. Cualquier máquina que tuviera éxito, dando la impresión de inteligencia, podría decirse que tiene inteligencia. Para Turing, las apariencias eran la única medida disponible.

Pero no todos estaban preparados para ignorar las partes invisibles del pensamiento, la experiencia irreductible de la cosa que tiene los pensamientos, lo que llamaríamos conciencia. En 1948, dos años antes de que Turing describiera su juego de imitación, geoffrey jefferson , un neurocirujano pionero, pronunció un influyente discurso ante el Royal College of Surgeons of England sobre la Mánchester marca 1 , una computadora del tamaño de una habitación que los periódicos anunciaban como un cerebro electrónico. Jefferson puso un listón mucho más alto que el de Turing: hasta que una máquina no pueda escribir un soneto o componer un concierto debido a los pensamientos y las emociones que siente, y no por la casualidad de los símbolos, podremos estar de acuerdo en que la máquina es igual al cerebro, es decir, no solo escribirlo pero saber que lo había escrito.

Jefferson descartó la posibilidad de una máquina pensante porque una máquina carecía de conciencia, en el sentido de experiencia subjetiva y autoconciencia (placer por sus éxitos, dolor cuando sus válvulas se fusionan). Sin embargo, avanzamos 70 años y vivimos con el legado de Turing, no con el de Jefferson. Es habitual hablar de máquinas inteligentes, aunque la mayoría estaría de acuerdo en que esas máquinas no tienen sentido. Como en el caso de lo que los filósofos llaman zombis —y como me gustaba fingir que observaba en las personas—, es lógicamente posible que un ser pueda actuar de forma inteligente cuando no ocurre nada en su interior.

Pero la inteligencia y la conciencia son cosas diferentes: la inteligencia se trata de hacer, mientras que la conciencia se trata de ser. La historia de la IA se ha centrado en lo primero e ignorado lo segundo. Si Robert existiera como un ser consciente, ¿cómo lo sabríamos? La respuesta está enredada con algunos de los mayores misterios sobre cómo funcionan nuestros cerebros y mentes.

Uno de los problemas con la prueba de la conciencia aparente de Robert es que realmente no tenemos una buena idea de lo que es. medio ser consciente. Las teorías emergentes de la neurociencia generalmente agrupan cosas como la atención, la memoria y la resolución de problemas como formas de conciencia funcional: en otras palabras, cómo nuestros cerebros llevan a cabo las actividades con las que llenamos nuestra vida de vigilia.

Pero hay otro lado de la conciencia que sigue siendo misterioso. La experiencia subjetiva en primera persona, la sensación de estar en el mundo, se conoce como conciencia fenomenal . Aquí podemos agrupar todo, desde sensaciones como el placer y el dolor hasta emociones como el miedo, la ira y la alegría, hasta las peculiares experiencias privadas de escuchar ladrar a un perro o probar un pretzel salado o ver una puerta azul.

Para algunos, no es posible reducir estas experiencias a una explicación puramente científica. Podría exponer todo lo que hay que decir sobre cómo el cerebro produce la sensación de probar un pretzel, y aún no diría nada sobre cómo fue realmente probar ese pretzel. Esto es lo que David Chalmers de la Universidad de Nueva York, uno de los filósofos más influyentes que estudian la mente, llama el problema dificil

La IA de hoy no está ni cerca de ser inteligente, ni mucho menos consciente. Incluso las redes neuronales profundas más impresionantes son totalmente insensibles.

Filósofos como Chalmers sugieren que la ciencia actual no puede explicar la conciencia. Comprenderlo puede incluso requerir una nueva física, tal vez una que incluya un tipo diferente de materia a partir de la cual se crea la conciencia. La información es un candidato. Chalmers ha señalado que las explicaciones del universo tienen mucho que decir sobre las propiedades externas de los objetos y cómo interactúan, pero muy poco sobre las propiedades internas de esos objetos. Una teoría de la conciencia podría requerir abrir una ventana a este mundo oculto.

En el otro campamento está Daniel Dennett , un filósofo y científico cognitivo de la Universidad de Tufts, quien dice que la conciencia fenoménica es simplemente una ilusión, una historia que nuestros cerebros crean para nosotros mismos como una forma de dar sentido a las cosas. Dennett no explica tanto la conciencia como la descarta.

Pero ya sea que la conciencia sea una ilusión o no, ni Chalmers ni Dennett niegan la posibilidad de máquinas conscientes, algún día.

La IA de hoy no está ni cerca de ser inteligente, ni mucho menos consciente. Incluso las redes neuronales profundas más impresionantes, como el juego AlphaZero de DeepMind o los grandes modelos de lenguaje como GPT-3 de OpenAI, son totalmente estúpidas.

Sin embargo, como predijo Turing, las personas a menudo se refieren a estas IA como máquinas inteligentes, o hablan de ellas como si realmente entendieran el mundo, simplemente porque puede parecer que lo hacen.

Frustrada por esta exageración, Emily Bender, lingüista de la Universidad de Washington, ha desarrollado un experimento mental al que llama el prueba de pulpo .

En él, dos personas naufragan en islas vecinas, pero encuentran la manera de pasar mensajes de un lado a otro a través de una cuerda que cuelga entre ellos. Desconocido para ellos, un pulpo ve los mensajes y comienza a examinarlos. Durante un largo período de tiempo, el pulpo aprende a identificar patrones en los garabatos que ve pasar de un lado a otro. En algún momento, decide interceptar las notas y, utilizando lo que ha aprendido de los patrones, comienza a escribir garabatos adivinando qué garabatos deben seguir a los que recibió.

pájaros en vuelo

Una IA que actúe sola podría beneficiarse de un sentido de sí misma en relación con el mundo. Pero las máquinas que cooperan como un enjambre pueden funcionar mejor si se experimentan a sí mismas como partes de un grupo en lugar de como individuos.

HENRY HORENSTEIN/GETTY

Si los humanos en las islas no se dan cuenta y creen que todavía se están comunicando entre sí, ¿podemos decir que el pulpo entiende el lenguaje? (El pulpo de Bender es, por supuesto, un sustituto de una IA como GPT-3 .) Algunos podrían argumentar que el pulpo entiende el lenguaje aquí. Pero Bender continúa: imagina que uno de los isleños envía un mensaje con instrucciones sobre cómo construir una catapulta de coco y solicita formas de mejorarla.

¿Qué hace el pulpo? Ha aprendido qué garabatos siguen a otros garabatos lo suficientemente bien como para imitar la comunicación humana, pero no tiene idea de qué significa realmente el coco garabato en este nuevo billete. ¿Qué pasa si un isleño le pide al otro que la ayude a defenderse de un oso que lo ataca? ¿Qué tendría que hacer el pulpo para seguir engañando a la isleña haciéndole creer que todavía estaba hablando con su vecino?

El punto del ejemplo es revelar cuán superficiales son realmente los modelos de lenguaje de IA de vanguardia de hoy. Hay mucha publicidad sobre el procesamiento del lenguaje natural, dice Bender. Pero ese procesamiento de textos esconde una verdad mecanicista.

Los humanos somos oyentes activos; creamos significado donde no hay ninguno, o ninguno previsto. No es que las declaraciones del pulpo tengan sentido, sino que el isleño puede entenderlas, dice Bender.

A pesar de toda su sofisticación, las IA de hoy en día son inteligentes de la misma manera que se podría decir que una calculadora es inteligente: ambas son máquinas diseñadas para convertir entradas en salidas de maneras que los humanos, que tienen mente, eligen interpretar como significativas. Si bien las redes neuronales pueden modelarse vagamente en los cerebros, las mejores son mucho menos complejas que el cerebro de un ratón.

Y, sin embargo, sabemos que los cerebros pueden producir lo que entendemos por conciencia. Si eventualmente podemos descubrir cómo lo hacen los cerebros y reproducir ese mecanismo en un dispositivo artificial, entonces seguramente una máquina consciente podría ser posible.

Cuando estaba tratando de imaginar el mundo de Robert al comienzo de este ensayo, me sentí atraído por la pregunta de qué significa la conciencia para mí. Mi concepción de una máquina consciente era innegablemente —quizás inevitablemente— parecida a la humana. Es la única forma de conciencia que puedo imaginar, ya que es la única que he experimentado. Pero, ¿es eso realmente lo que sería ser una IA consciente?

Probablemente sea arrogante pensar eso. El proyecto de construir máquinas inteligentes está sesgado hacia la inteligencia humana. Pero el mundo animal está repleto de una amplia gama de posibles alternativas, desde aves hasta abejas y cefalópodos.

Hace unos cientos de años, la opinión aceptada, impulsada por René Descartes, era que sólo los humanos estaban conscientes. Los animales, carentes de alma, eran vistos como robots sin mente. Pocos piensan eso hoy: si somos conscientes, entonces hay pocas razones para no creer que los mamíferos, con sus cerebros similares, también son conscientes. ¿Y por qué trazar la línea alrededor de los mamíferos? Los pájaros parecen reflexionar cuando resuelven acertijos. La mayoría de los animales, incluso los invertebrados como los camarones y las langostas, muestran signos de sentir dolor, lo que sugeriría que tienen cierto grado de conciencia subjetiva.

Pero, ¿cómo podemos realmente imaginar cómo se debe sentir eso? Como señaló el filósofo Thomas Nagel, debe ser como algo para ser un murciélago, pero qué es eso, ni siquiera podemos imaginarlo, porque no podemos imaginar cómo sería observar el mundo a través de una especie de sonar. Podemos imaginar cómo sería para nosotros hacer esto (quizás cerrando los ojos e imaginando una especie de nube de puntos de ecolocalización de nuestro entorno), pero eso no es lo que debe ser para un murciélago, con su mente de murciélago.

Otra forma de abordar la cuestión es considerando los cefalópodos, especialmente los pulpos. Se sabe que estos animales son inteligentes y curiosos; no es coincidencia que Bender los haya usado para demostrar su punto. Pero tienen un tipo de inteligencia muy diferente que evolucionó completamente por separado de la de todas las demás especies inteligentes. El último ancestro común que compartimos con un pulpo fue probablemente una pequeña criatura parecida a un gusano que vivió hace 600 millones de años. Desde entonces, la miríada de formas de vida de los vertebrados (peces, reptiles, aves y mamíferos entre ellos) han desarrollado su propio tipo de mente en una rama, mientras que los cefalópodos desarrollaron otra.

No sorprende, entonces, que el cerebro del pulpo sea bastante diferente al nuestro. En lugar de un solo grupo de neuronas que gobiernan al animal como una unidad de control central, un pulpo tiene múltiples órganos similares al cerebro que parecen controlar cada brazo por separado. A todos los efectos prácticos, estas criaturas son lo más cercano a una inteligencia alienígena que cualquier cosa que podamos encontrar. Y, sin embargo, Peter Godfrey-Smith, un filósofo que estudia la evolución de la mente, dice que cuando te encuentras cara a cara con un cefalópodo curioso, no hay duda de que hay un ser consciente mirando hacia atrás .

Hace unos cientos de años, la opinión aceptada era que solo los humanos eran conscientes. Los animales, carentes de alma, eran vistos como robots sin mente. Pocos piensan eso hoy.

En los humanos, un sentido del yo que persiste en el tiempo forma la base de nuestra experiencia subjetiva. Somos la misma persona que éramos esta mañana y la semana pasada y hace dos años, hasta donde podemos recordar. Recordamos lugares que visitamos, cosas que hicimos. Este tipo de perspectiva en primera persona nos permite vernos a nosotros mismos como agentes que interactúan con un mundo externo que tiene otros agentes en él: entendemos que somos algo que hace cosas y que le hacen cosas. No está claro si los pulpos, y mucho menos otros animales, piensan de esa manera.

De manera similar, no podemos estar seguros de que tener un sentido del yo en relación con el mundo sea un requisito previo para ser una máquina consciente. Las máquinas que cooperan como un enjambre pueden funcionar mejor si se experimentan a sí mismas como partes de un grupo que como individuos, por ejemplo. En cualquier caso, si alguna vez existiera una máquina potencialmente consciente como Robert, nos encontraríamos con el mismo problema al evaluar si era De hecho conscientes que hacemos cuando tratamos de determinar la inteligencia: como sugirió Turing, definir la inteligencia requiere un observador inteligente. En otras palabras, nosotros proyectamos en ellas la inteligencia que vemos en las máquinas de hoy, de una manera muy similar a como proyectamos significado en los mensajes escritos por el pulpo de Bender o GPT-3. Lo mismo ocurrirá con la conciencia: podemos afirmar que la vemos, pero solo las máquinas lo sabrán con certeza.

Si las IA alguna vez adquieren conciencia (y confiamos en su palabra), tendremos decisiones importantes que tomar. Habrá que considerar si su experiencia subjetiva incluye la capacidad de sufrir dolor, aburrimiento, depresión, soledad o cualquier otra sensación o emoción desagradable. Podríamos decidir que un grado de sufrimiento es aceptable, dependiendo de si vemos a estas IA más como ganado o como humanos.

Historia relacionada

Inteligencia artificial general: ¿Estamos cerca y tiene sentido intentarlo?

Una máquina que pudiera pensar como una persona ha sido la visión rectora de la investigación de IA desde los primeros días, y sigue siendo su idea más divisiva.

Algunos investigadores que están preocupados por los peligros de las máquinas superinteligentes han sugerido que deberíamos limitar estas IA a un mundo virtual, para evitar que manipulen el mundo real directamente. Si creyéramos que tienen una conciencia similar a la humana, ¿tendrían derecho a saber que los acordonamos en una simulación?

Otros han argumentado que sería inmoral apagar o eliminar una máquina consciente: como temía nuestro robot Robert, esto sería como acabar con una vida. También hay escenarios relacionados. ¿Sería ético volver a entrenar una máquina consciente si eso significara borrar sus recuerdos? ¿Podríamos copiar esa IA sin dañar su sentido de identidad? ¿Qué pasaría si la conciencia resultara útil durante el entrenamiento, cuando la experiencia subjetiva ayudara a la IA a aprender, pero fuera un obstáculo al ejecutar un modelo entrenado? ¿Estaría bien encender y apagar la conciencia?

Esto solo araña la superficie de los problemas éticos. Muchos investigadores, incluido Dennett, piensan que no deberíamos intentar hacer máquinas conscientes aunque podamos. El filósofo Thomas Metzinger ha llegado incluso a pedir una moratoria en el trabajo que podría conducir a la conciencia , incluso si no es el objetivo previsto.

Si decidiéramos que las máquinas conscientes tienen derechos, ¿tendrían también responsabilidades? ¿Se puede esperar que una IA se comporte éticamente y la castigaríamos si no lo hiciera? Estas preguntas empujan a un territorio aún más espinoso, planteando problemas sobre el libre albedrío y la naturaleza de la elección. Los animales tienen experiencias conscientes y les permitimos ciertos derechos, pero no tienen responsabilidades. Aún así, estos límites cambian con el tiempo. Con las máquinas conscientes, podemos esperar que se dibujen límites completamente nuevos.

Es posible que algún día haya tantas formas de conciencia como tipos de IA. Pero nunca sabremos cómo es ser estas máquinas, como tampoco sabemos cómo es ser un pulpo o un murciélago o incluso otra persona. Puede haber formas de conciencia que no reconozcamos por lo que son porque son radicalmente diferentes de lo que estamos acostumbrados.

Ante tales posibilidades, tendremos que optar por vivir con incertidumbres.

Y podemos decidir que somos más felices con los zombis. Como ha argumentado Dennett, queremos que nuestras IA sean herramientas, no colegas. Puede apagarlos, puede desarmarlos, de la misma manera que puede hacerlo con un automóvil, dice. Y esa es la forma en que debemos mantenerlo.

Will Douglas Heaven es editor sénior de IA en MIT Technology Review.