Lo que se necesitará para que las computadoras sean conscientes

¿Es un gusano consciente? ¿Qué tal un abejorro? ¿Siente algo una computadora que puede jugar al ajedrez?

cristobal koch

Para Christof Koch, director científico del Instituto Allen para la Ciencia del Cerebro en Seattle, la respuesta a estas preguntas puede estar en la estructura misma del universo. Él cree que la conciencia es una propiedad intrínseca de la materia, al igual que la masa o la energía. Organizar la materia de la manera correcta, como en el cerebro de los mamíferos, y listo , puedes sentir.

Koch, ahora de 57 años, ha pasado casi un cuarto de siglo tratando de explicar por qué, digamos, el sol se siente cálido en la cara. Pero después de escribir tres libros sobre la conciencia , Koch dice que los investigadores aún están lejos de saber por qué ocurre, o incluso de ponerse de acuerdo sobre qué es. Es un problema difícil (ver Descifrando los códigos del cerebro). Esa es una de las razones por las que Koch dejó su puesto en Caltech en 2011 para formar parte de un proyecto de 500 millones de dólares lanzado por el multimillonario Paul Allen, cofundador de Microsoft.

El objetivo del Instituto Allen es construir un atlas detallado de cada neurona y sinapsis en el cerebro de los mamíferos. Eso le daría a la neurociencia una manguera de datos similar a la que logró el Proyecto Genoma Humano.

Pero Koch no ha renunciado a su búsqueda de una gran teoría que pueda explicarlo todo. De hecho, piensa que la conciencia podría explicarse por algo llamado teoría de la información integrada , que afirma que la conciencia es producto de estructuras, como el cerebro, que pueden almacenar una gran cantidad de información y tener una densidad crítica de interconexiones entre sus partes.

Para Koch, la teoría proporciona un medio para evaluar los grados de conciencia en personas con daño cerebral, en especies de todo el reino animal e incluso, dice, entre las máquinas. Le preguntamos a Koch sobre la conciencia informática la semana pasada durante Revisión de tecnología del MIT Conferencia EmTech de .

¿Descubrir la base biológica de la conciencia será deshumanizar de alguna manera? ¿Y si todo es solo una ilusión?

Considero ridículo este punto de vista de algunas personas de que la conciencia es una ilusión. Si es una ilusión, entonces es la ilusión más poderosa que tenemos. Quiero decir, la deducción más famosa de la filosofía occidental es ¿cuál? Creo. Por lo tanto yo soy. El hecho de que tengas una experiencia consciente es la única certeza innegable que tienes.

Si los científicos descubren la base de la conciencia, ¿qué tipo de tecnologías podrían resultar de eso?

Podríamos tener una prueba para decir quién tiene conciencia y quién no. Tenemos debates muy emotivos en este país sobre el aborto. Me gustaría tener alguna forma objetiva de probar en qué punto un feto realmente comienza a tener sensación consciente. O si un paciente [en coma] está consciente o no. A menudo, simplemente no lo sabes. Estas son preguntas que la gente se ha hecho desde tiempos históricos, pero una vez que tengamos una teoría, y una teoría ampliamente aceptada, podremos responderlas. Además, si quisiera construir una máquina que fuera consciente, me daría un modelo.

Entonces, ¿crees que una computadora puede ser consciente?

Di una conferencia [la semana pasada] en el MIT sobre Teoría de la Información Integrada, desarrollada por Giulio Tononi en la Universidad de Wisconsin. Esta es una teoría que hace una predicción muy clara: dice que la conciencia es una propiedad de sistemas complejos que tienen un repertorio particular de causa-efecto. Tienen una forma particular de interactuar con el mundo, como lo hace el cerebro, o en principio, como podría hacerlo una computadora. Si tuvieras que construir una computadora que tenga el mismo circuito que el cerebro, esta computadora también tendría conciencia asociada. Se sentiría como algo ser esta computadora. Sin embargo, no ocurre lo mismo con las simulaciones digitales.

Si construyo un modelo de software perfecto del cerebro, nunca sería consciente, pero ¿podría serlo una máquina especialmente diseñada que imite al cerebro?

Correcto. Esta teoría dice claramente que una simulación digital no sería consciente, lo que es sorprendentemente diferente de la creencia funcionalista dominante del 99 por ciento de las personas en el MIT o de filósofos como Daniel Dennett. Todos dicen, una vez que simulas todo, no se requiere nada más, y será consciente.

Creo que la conciencia, como la masa, es una propiedad fundamental del universo. La analogía, y es muy buena, es que puedes hacer bastante buenas predicciones meteorológicas en estos días. Puedes predecir el interior de una tormenta. Pero nunca está mojado dentro de la computadora. Puede simular un agujero negro en una computadora, pero el espacio-tiempo no se doblará. Simular algo no es lo real.

Es lo mismo con la conciencia. En 100 años, podrías simular la conciencia en una computadora. Pero no experimentará nada. Nada. Será negro por dentro. No tendrá experiencia alguna, aunque tenga nuestra inteligencia y nuestra capacidad de hablar.

No estoy diciendo que la conciencia sea un alma mágica. Es algo físico. La conciencia siempre está superviniendo a lo físico. Pero se necesita un tipo particular de hardware para instanciarlo. Una computadora hecha de transistores, moviendo carga dentro y fuera de una puerta, con cada puerta conectada a un pequeño número de otras puertas, es solo una estructura de causa y efecto muy diferente a la que tenemos en el cerebro, donde tienes una neurona conectada a 10.000 neuronas de entrada y proyectando a otras 10.000 neuronas. Pero si tuviera que construir la computadora de la manera adecuada, como una computadora neuromórfica [ver Pensar en silicio], podría ser consciente.

Si te pusiera en una habitación con una computadora del futuro, ¿serías capaz de determinar si es consciente?

No podía desde afuera. Tendría que mirar su hardware.

¿Qué pasa con la prueba de Turing?

La pregunta que hizo Turing es ¿Pueden pensar las máquinas? ? Pero, en última instancia, es una prueba operativa de inteligencia, no de conciencia. Si tienes una conversación inteligente con un tipo en otra habitación y después de media hora no puedes decidir si es una computadora o un humano, entonces dices que es tan inteligente como un humano. Pero la prueba de Turing no me diría si la máquina experimenta algo. Podría preguntar ¿Estás consciente? y la máquina podría decir Sí, estoy plenamente consciente. ¿Y por qué dices que no lo soy? estoy insultado Pero realmente no podía saberlo. Tendría que decir, lo siento, tengo que desmontarte y entender cómo estás hecho y cómo generas estos diferentes estados físicos.

¿No hay alguna pregunta engañosa que podrías hacer, que solo un ser consciente podría responder?

Una muy buena pregunta. En los humanos tenemos pruebas prácticas de conciencia. Si tienes un accidente grave y vas a urgencias, te preguntarán: ¿Puedes mover los ojos? ¿Puedes mover tus extremidades? ¿Puedes hablar? Si puedes hablar, ¿sabes de qué año es? ¿Sabes quién es el presidente?

Pero, ¿cómo sé realmente que estás consciente? Este es el problema del solipsismo. En última instancia, no lo sé. Pero sé que tu cerebro es muy similar al mío. He puesto a mucha gente en escáneres, y sé que todos tienen un cerebro, y sus cerebros se comportan de manera similar al mío. Así que hay una inferencia perfectamente razonable de que tú también eres consciente.

Pero cuanto más difieren estos sistemas de mí, más difícil es dar ese paso por inferencia. Por ejemplo, tome una abeja. ¿Se siente como algo ser una abeja y volar bajo los rayos dorados del sol y tomar néctar? Me resulta muy difícil saber si una abeja está consciente o no. Y una computadora es aún más radicalmente diferente. No hay comportamiento por el que pueda juzgarlo. Tendría que mirar su hardware subyacente.

¿Crees que alguna vez construiremos máquinas conscientes?

No estoy seguro de por qué lo haríamos. Pero no hay duda en mi mente de que construiremos máquinas inteligentes que puedan pasar la prueba de Turing mucho antes de que comprendamos la verdadera base biológica de la inteligencia humana. Y creo que hay peligros asociados con eso que la mayoría de las personas, siendo alegres optimistas, ignoran por completo.

¿Qué peligros?

¿No ves películas de ciencia ficción? IA fugitiva, por supuesto. Piense en el mercado financiero, todas esas máquinas comerciales, caídas repentinas. La gente va a abusar de la inteligencia informática, a maximizar ciegamente para algún objetivo. Va a conducir a una mayor concentración de poder entre cada vez menos personas. Ya vemos esto, va a conducir a un desempleo masivo. Y tal vez 30 o 40 años después, creo que realmente existe un peligro existencialista para la especie, al nivel de las armas nucleares o el impacto de un meteorito.

¿Todo sin que la máquina sea consciente? En las películas, el momento en que la IA se vuelve loca es el mismo momento en que adquiere conciencia de sí mismo.

Eso es porque la gente quiere hacer una historia atractiva. Si el enemigo no siente nada, si no hay nada allí, no es un buen oponente.

esconder