Podcast: ¿Se puede enseñar a pensar a una máquina?

ARIEL DAVIS





La inteligencia artificial se ha convertido en una parte tan importante de nuestras vidas que se le perdonaría perder la cuenta de los algoritmos con los que interactúa. Pero la IA que impulsa su pronóstico del tiempo, el filtro de Instagram o la lista de reproducción favorita de Spotify está muy lejos de la máquinas de pensar hiperinteligentes los pioneros de la industria han estado reflexionando durante décadas.

Aprendizaje profundo, la tecnología que impulsa el auge actual de la IA , puede entrenar máquinas para que se conviertan en maestros en todo tipo de tareas. Pero solo puede aprender uno a la vez. Y debido a que la mayoría de los modelos de IA entrenan su conjunto de habilidades en miles o millones de ejemplos existentes, terminan replicando patrones dentro de los datos históricos, incluidas las muchas malas decisiones que la gente ha tomado, como marginar a las personas de color y a las mujeres.

Aún así, sistemas como el campeón de juegos de mesa AlphaZero y el cada vez más convincente generador de texto falso GPT-3 han avivado las llamas del debate sobre cuándo los humanos crearán un inteligencia general artificial —máquinas que pueden realizar múltiples tareas, pensar y razonar por sí mismas.



La idea es divisiva. Más allá de la respuesta a cómo podríamos desarrollar tecnologías capaces de sentido común o de superación personal, yace otra pregunta: ¿quién se beneficia realmente de la replicación de la inteligencia humana en una mente artificial?

La mayor parte del valor que genera la IA en la actualidad regresa a las empresas de miles de millones de dólares que ya tienen una cantidad fantástica de recursos a su disposición, dice Karen Hao, reportera sénior de IA de MIT Technology Review y autora de el algoritmo . Y realmente no hemos descubierto cómo convertir ese valor o distribuir ese valor a otras personas.

En este episodio de Deep Tech, Hao y Will Douglas Heaven, nuestro editor principal de IA, se unen a nuestro editor en jefe, Gideon Lichfield, para discutir las diferentes escuelas de pensamiento sobre si una inteligencia general artificial es posible y qué significa. tardaría en llegar.



Mira más episodios de Deep Tech aquí.

Mostrar notas y enlaces:

Transcripción completa del episodio:

Gedeón Lichfield: La inteligencia artificial ahora es tan omnipresente que probablemente ni siquiera pienses en el hecho de que la estás usando. Tus búsquedas web. Traductor de google. Asistentes de voz como Alexa y Siri. Esos pequeños y lindos filtros en Snapchat e Instagram. Lo que ves, y lo que no ves, en las redes sociales. Alertas de fraude de su compañía de tarjeta de crédito. Recomendaciones de Amazon. Listas de reproducción de Spotify. Direcciones de tráfico. La previsión del tiempo. Todo es IA, todo el tiempo.

Y es todo lo que podríamos llamar IA tonta. No es inteligencia real. Realmente solo máquinas copiadoras: algoritmos que han aprendido a hacer cosas realmente específicas al ser entrenados en miles o millones de ejemplos correctos. En algunas de esas cosas, como el reconocimiento facial y de voz, ya son incluso más precisos que los humanos.



Todo este progreso ha revigorizado un viejo debate en el campo: ¿podemos crear actual inteligencia, máquinas que pueden pensar por sí mismas de forma independiente? Bueno, hoy están conmigo el equipo de IA de MIT Technology Review: Will Heaven, nuestro editor principal de IA, y Karen Hao, nuestra reportera principal de IA y escritora de el algoritmo , nuestro boletín de IA. Ambos han estado siguiendo el progreso en IA y las diferentes escuelas de pensamiento sobre si una inteligencia general artificial es posible y qué se necesitaría para llegar allí.

Soy Gideon Lichfield, editor en jefe de MIT Technology Review, y esto es Deep Tech.

Will, acabas de escribir una historia de 4000 palabras sobre la cuestión de si podemos crear una inteligencia general artificial. Así que debes haber tenido alguna razón para hacerte eso. ¿Por qué esta pregunta es interesante en este momento?



Cielo de Will Douglas: Entonces, en cierto sentido, siempre ha sido interesante. Construir una máquina que pueda pensar y hacer cosas que la gente pueda hacer ha sido el objetivo de la IA desde el principio, pero ha sido una lucha larga, larga. Y el bombo pasado ha llevado al fracaso. Entonces, esta idea de la inteligencia artificial general se ha vuelto, ya sabes, muy controvertida y muy divisiva, pero está regresando. Eso es en gran parte gracias al éxito del aprendizaje profundo durante la última década. Y en particular sistemas como Alpha Zero que fue hecho por DeepMind y puede jugar Go y Shogi, una especie de ajedrez japonés y ajedrez. El mismo algoritmo puede jugar los tres juegos. Y GPT-3, el modelo de lenguaje grande de OpenAI, que puede imitar asombrosamente la forma en que escriben los humanos. Eso ha llevado a las personas, especialmente durante el último año, a saltar y hacer estas preguntas nuevamente. ¿Estamos en la cúspide de la construcción de inteligencia artificial general? Máquinas que pueden pensar y hacer cosas como los humanos.

Gedeón Lichfield: Karen, hablemos un poco más sobre GPT-3, que Will acaba de mencionar. Es este algoritmo que, ya sabes, le das unas pocas palabras y escupirá párrafos y párrafos de lo que se parece convincentemente a Shakespeare o cualquier otra cosa que le digas que haga. Pero, ¿qué tiene de extraordinario desde la perspectiva de la IA? ¿Qué hace que no se podía hacer antes?

Karen Hao: Lo que es interesante es que creo que los avances que condujeron a GPT-3 en realidad sucedieron bastantes años antes. En 2017, el principal avance que desencadenó una ola de avances en el procesamiento del lenguaje natural se produjo con la publicación del artículo que introdujo la idea de los transformadores. Y la forma en que un algoritmo transformador trata con el lenguaje es que analiza millones o incluso miles de millones de ejemplos, de oraciones de estructura de párrafo, tal vez incluso de estructura de código. Y puede extraer los patrones y comenzar a predecir en un grado impresionante qué palabras tienen más sentido juntas, qué oraciones tienen más sentido juntas. Y luego, por lo tanto, construya estos párrafos y ensayos realmente largos. Lo que creo que GPT-3 ha hecho diferente es el hecho de que hay órdenes de magnitud de más datos que ahora se utilizan para entrenar esta técnica de transformador. Entonces, lo que OpenAI hizo con GPT-3 es que no solo lo están entrenando en más ejemplos de palabras de corpus como Wikipedia o de artículos como el New York Times o los foros de Reddit o todas estas cosas, también lo están entrenando en, patrones de oraciones, lo entrena en patrones de párrafos, observando lo que tiene sentido como un párrafo de introducción frente a un párrafo de conclusión. Así que solo está obteniendo mucha más información y realmente comenzando a imitar muy de cerca cómo escriben los humanos, o cómo se componen las partituras musicales, o cómo se codifica la codificación.

Así que solo está obteniendo mucha más información y realmente comenzando a imitar muy de cerca cómo escriben los humanos, o cómo se componen las partituras musicales, o cómo se codifica la codificación.

Gedeón Lichfield: Y antes de los transformadores, que pueden extraer patrones de todos estos diferentes tipos de estructuras, ¿qué estaba haciendo la IA?

Karen Hao: Antes, el procesamiento del lenguaje natural era en realidad... era mucho más básico. Entonces, los transformadores son una especie de técnica autosupervisada en la que al algoritmo no se le dice exactamente qué buscar entre el lenguaje. Solo está buscando patrones por sí mismo y lo que cree que son las características repetitivas de la composición del lenguaje. Pero antes de eso, había en realidad muchos más enfoques supervisados ​​del lenguaje y enfoques mucho más codificados del lenguaje en los que las personas enseñaban máquinas como 'estos son sustantivos, estos son adjetivos'. Así es como construyes estas cosas juntas.' Y desafortunadamente ese es un proceso muy laborioso para tratar de curar el lenguaje de esa manera donde cada palabra tiene que tener una etiqueta. Y a la máquina hay que enseñarle manualmente cómo construir estas cosas. Y, por lo tanto, limitó la cantidad de datos de los que estas técnicas podrían alimentarse. Y es por eso que los sistemas de lenguaje realmente no eran muy buenos.

Gedeón Lichfield: Entonces, volvamos a esa distinción entre aprendizaje supervisado y autosupervisado, porque creo que vamos a ver que es una parte bastante importante de los avances hacia algo que podría convertirse en una inteligencia general. Will, como escribió en su artículo, hay mucha ambigüedad sobre lo que queremos decir cuando decimos inteligencia artificial general. ¿Puedes hablar un poco sobre cuáles son las opciones allí?

Cielo de Will Douglas: Hay una especie de espectro. Quiero decir, por un lado, tienes sistemas que, ya sabes, pueden hacer muchas de las cosas que la IA estrecha o la IA tonta, si quieres, pueden hacer hoy, pero todo a la vez. Y Alpha Zero es quizás el primer vistazo de eso. Este algoritmo puede entrenarse a sí mismo para hacer tres cosas diferentes, pero hay una advertencia importante, no puede obligarse a hacer esas tres cosas a la vez. Así que no es como un solo cerebro que puede cambiar entre tareas. Como dijo Shane Legg, sobre los cofundadores de Deepmind, es como si tú o yo tuviéramos que, ya sabes, cuando empezamos a jugar al ajedrez, tuvimos que intercambiar nuestro cerebro y ponerlo en nuestro cerebro de ajedrez.

Eso claramente no es muy general, pero estamos en la cúspide de ese tipo de cosas: su tipo de IA multiherramienta donde una IA puede hacer varias cosas diferentes que la IA limitada ya puede hacer. Y luego, avanzando en el espectro, lo que probablemente más personas quieren decir cuando hablan de AGI es, ya sabes, máquinas pensantes, máquinas que son similares a los humanos, entre comillas, que pueden realizar múltiples tareas de la misma manera que una persona. Sabes que somos extremadamente adaptables. Podemos cambiar entre, ya sabes, freír un huevo a, ya sabes, escribir una publicación de blog para cantar, lo que sea. Aún así, también hay personas, que van directamente al otro extremo del espectro, que también se engancharían en una conciencia de máquina para hablar sobre AGI. Ya sabes, que no vamos a tener una verdadera inteligencia general o una inteligencia similar a la humana hasta que tengamos una máquina que no solo pueda hacer las cosas que nosotros podemos hacer, sino que sepa que puede hacer las cosas que podemos hacer que tiene algún tipo de auto-reflexión allí. Creo que todas esas definiciones han existido desde el principio, pero es una de las cosas que hace que AGI sea difícil de hablar y bastante controvertido porque no hay una definición clara.

Gedeón Lichfield: Cuando hablamos de inteligencia general artificial, existe una especie de suposición implícita de que la inteligencia humana en sí también es absolutamente general. es universal Podemos freír un huevo o podemos escribir una publicación de blog o podemos bailar o cantar. Y que todas estas son habilidades que toda inteligencia general debería tener. Pero, ¿es ese realmente el caso o habrá diferentes tipos de inteligencia general?

Cielo de Will Douglas: Creo, y creo que muchos en la comunidad de IA también estarían de acuerdo en que hay muchas inteligencias diferentes. Estamos algo atascados en esta idea de inteligencia similar a la humana en gran medida, creo, porque los humanos durante mucho tiempo han sido el mejor ejemplo de inteligencia general que hemos tenido, por lo que es obvio por qué son un modelo a seguir, ya sabes. , queremos construir máquinas a nuestra imagen y semejanza, pero solo miras alrededor del reino animal y hay muchas, muchas maneras diferentes de ser inteligente. Desde el tipo de inteligencia social que tienen las hormigas, donde colectivamente podrían hacer cosas realmente notables a los pulpos, apenas estamos comenzando a comprender las formas en que son inteligentes, pero luego son inteligentes de una manera muy extraña. en comparación con nosotros mismos. E incluso nuestros primos más cercanos, como los chimpancés, tienen inteligencias, que son diferentes a, y tú, tienen diferentes conjuntos de habilidades que los humanos.

Así que creo que la idea de que las máquinas, si se vuelven inteligentes en general, deben ser como nosotros es, como saben, una tontería, se está yendo por la ventana. La misión misma de construir un AGI que sea humano quizás no tenga sentido porque tenemos inteligencias humanas, ¿verdad? Nos tenemos a nosotros mismos. Entonces, ¿por qué necesitamos hacer máquinas que hagan esas cosas? Sería mucho, mucho mejor construir inteligencias que puedan hacer cosas que nosotros no podemos hacer. Son inteligentes de diferentes maneras para complementar nuestras habilidades.

Gedeón Lichfield: Karen, obviamente a la gente le encanta hablar sobre la amenaza de que una IA superinteligente se apodere del mundo, pero ¿cuáles son las cosas que realmente deberían preocuparnos?

Karen Hao: Uno de los realmente grandes en los últimos años ha sido la discriminación algorítmica. Comenzamos a notar este fenómeno donde, cuando entrenamos algoritmos, pequeños o grandes, para tomar decisiones basadas en datos históricos, terminan replicando los patrones que no necesariamente queremos que replique dentro de los datos históricos, como la marginación de personas de color o la marginación de la mujer.

Cosas de nuestra historia de las que preferiríamos prescindir, a medida que avanzamos y progresamos como sociedad. Pero debido a la forma en que los algoritmos no son muy inteligentes y extraen estos patrones y los replican sin pensar, terminan tomando decisiones que discriminan a las personas de color que discriminan a las mujeres discriminan a culturas particulares que no son culturas centradas en Occidente.

Y si observa las conversaciones que tienen lugar entre las personas que hablan sobre algunas de las formas en que debemos pensar en mitigar las amenazas en torno a la superinteligencia o en torno a AGI, como quiera llamarlo, hablarán sobre este desafío de alineación de valores. La alineación de valores se define como cómo logramos que esta IA súper inteligente comprenda nuestros valores y se alinee con nuestros valores. Si no se alinean con nuestros valores, podrían volverse locos. Y así es como empieza a dañar a la gente.

Gedeón Lichfield: ¿Cómo creamos una IA, una IA superinteligente, que no sea maligna?

Karen Hao: Exactamente. Exactamente. Entonces, en lugar de hablar en el futuro sobre tratar de descifrar la alineación de valores dentro de cien años, deberíamos estar hablando ahora mismo sobre cómo fallamos hoy en alinear los valores con IA muy básicas y en realidad resolver el problema de discriminación algorítmica.

Otro gran desafío es la concentración de poder que, um, la IA crea naturalmente. En la actualidad, se necesita una cantidad increíble de poder de cómputo para crear sistemas avanzados de IA y romper el estado del arte. Y los únicos jugadores que realmente tienen esa cantidad de poder computacional ahora son las grandes empresas tecnológicas y tal vez las universidades de investigación de primer nivel. E incluso las universidades de investigación de primer nivel apenas pueden competir con las grandes empresas tecnológicas.

Así que las manzanas de Facebook de Google del mundo. Um, otra preocupación que tiene la gente, durante cien años a partir de ahora, es que una vez que se desate la IA superinteligente, ¿realmente beneficiará a las personas de manera uniforme? Bueno, tampoco lo hemos descubierto hoy. Al igual que la mayor parte del valor que genera la IA hoy en día, regresa a las empresas de miles de millones de dólares que ya tienen una cantidad fantástica de recursos a su disposición. Y realmente no hemos descubierto cómo convertir ese valor o distribuir ese valor a otras personas.

Gedeón Lichfield: Bien, volvamos entonces a la idea de una inteligencia general y cómo la construiríamos si pudiéramos. Will mencionó el aprendizaje profundo anteriormente. Cuál es la técnica fundamental de la mayoría de la IA que usamos hoy. Y solo tiene unos ocho años. Karen, hablaste con el padre del aprendizaje profundo Geoffrey Hinton en nuestra conferencia EmTech recientemente. Y cree que el aprendizaje profundo, la técnica que usamos para cosas como los servicios de traducción o el reconocimiento facial, también será la base de una inteligencia general cuando finalmente lleguemos allí.

Geoffrey Hinton [De EmTech 2020]: Creo que el aprendizaje profundo va a poder hacer todo. Pero sí creo que tendrá que haber bastantes avances conceptuales que aún no hemos tenido. // Particularmente avances que tienen que ver con la forma en que obtienes grandes vectores de actividad neuronal para implementar cosas como el razonamiento, pero también necesitamos un aumento masivo en la escala. // El cerebro humano tiene alrededor de cien trillones de parámetros, eso es sinapsis. Cien billones. Los que ahora se llaman modelos realmente grandes como GPT-3 tienen 175 mil millones. Es miles de veces más pequeño que el cerebro.

Gedeón Lichfield: ¿Puede comenzar explicando qué es el aprendizaje profundo?

Karen Hao: El aprendizaje profundo es una categoría de técnicas que se basa en esta idea de que la forma de crear inteligencia artificial es crear redes neuronales artificiales basadas en las redes neuronales de nuestro cerebro. El cerebro humano es la forma más inteligente de inteligencia que tenemos hoy.

Obviamente, Will ya ha hablado sobre algunos desafíos a esta teoría, pero asumiendo que la inteligencia humana es como el epítome de la inteligencia que tenemos hoy, queremos probar y recrear cerebros artificiales en una especie de imagen de un cerebro humano. Y el aprendizaje profundo es eso. Es una técnica que trata de utilizar las redes neuronales artificiales como una forma de lograr la inteligencia artificial.

A lo que te referías es que hay en gran medida dos campos diferentes dentro del campo en torno a cómo podríamos abordar la construcción de inteligencia artificial general. El primer campo es que ya tenemos todas las técnicas que necesitamos, solo necesitamos escalarlas masivamente con más datos y redes neuronales más grandes.

El otro campo es que el aprendizaje profundo no es suficiente. Necesitamos algo más que aún no hayamos descubierto para complementar el aprendizaje profundo a fin de lograr algunas de las cosas como el sentido común o el razonamiento que ha sido esquivo en el campo de la IA hoy en día.

Gedeón Lichfield: Así que Will, como Karen aludió hace un momento, las personas que creen que podemos construir una inteligencia general a partir del aprendizaje profundo piensan que debemos agregarle algunas cosas. ¿Cuáles son algunas de esas cosas?

Cielo de Will Douglas: Entre aquellos que piensan que el aprendizaje profundo es el camino a seguir. Quiero decir, además de muchos más datos, como dijo Karen, hay un montón de técnicas que la gente está usando para impulsar el aprendizaje profundo.

Tiene aprendizaje no supervisado, que es... tradicionalmente muchos éxitos de aprendizaje profundo, como el reconocimiento de imágenes, simplemente para usar el ejemplo cliché de reconocer gatos. Eso es porque la IA ha sido entrenada en millones de imágenes que han sido etiquetadas por humanos con gato. Ya sabes, así es como se ve un gato, apréndelo. El aprendizaje no supervisado es cuando la máquina entra y mira los datos que no han sido etiquetados de esa manera y trata de detectar patrones.

Gedeón Lichfield : Entonces, en otras palabras, ¿le darías como un montón de gatos, un montón de perros, un montón de pasteles de nuez, y los clasificaría en grupos?

Cielo de Will Douglas: Sí. Esencialmente, primero tiene que aprender cuál es el tipo de características distintivas entre esas categorías en lugar de recibir indicaciones. Y esa capacidad de identificarse, ya sabes, cuáles son esos rasgos distintivos, es un paso hacia una mejor forma de aprender. Y es prácticamente útil porque, por supuesto, la tarea de etiquetar todos estos datos es enorme.

Y no podemos seguir por este camino, sobre todo si queremos que el sistema entrene con más y más datos. No podemos seguir por el camino de tenerlo etiquetado manualmente. Y lo que es aún más interesante, creo que un sistema de aprendizaje no supervisado tiene el potencial de detectar categorías que los humanos no tienen. Así que en realidad podríamos aprender algo de la máquina.

Y luego tienes cosas como el aprendizaje por transferencia, y esto es crucial para la inteligencia general. Aquí es donde tienes un modelo que ha sido entrenado en un conjunto de datos de una forma u otra. Y lo que se aprendió en esa capacitación, desea poder transferirlo a una nueva tarea para que no tenga que comenzar desde cero cada vez.

Entonces, hay varias formas de abordar el aprendizaje de transferencia, pero, por ejemplo, podría tomar algunos de los valores de un entrenamiento, de una red de trenes y precargar otro de una manera que cuando le pida que lo reconozca. , una imagen de un animal diferente, ya tiene algún sentido de, ya sabes, qué animales tienen, ya sabes, patas, cabezas y colas.

Que tienes. Entonces, solo desea poder transferir algunas de las cosas aprendidas de una tarea a otra. Y luego están cosas como el aprendizaje de pocos disparos, que es de donde aprende el sistema o, como su nombre lo indica, de muy pocos ejemplos de entrenamiento. Y eso también será crucial porque no siempre tenemos montones de datos para arrojar a estos sistemas para enseñarles.

Quiero decir que son extremadamente ineficientes cuando lo piensas en comparación con los humanos. Ya sabes, podemos aprender una lección de, ya sabes, un ejemplo, dos ejemplos. Le muestras a un niño la imagen de una jirafa y sabe lo que es una jirafa. Incluso podemos aprender qué es algo sin decir ningún ejemplo.

Karen Hao: sí. Sí. Si lo piensan, niños... si les muestran una imagen de un caballo y luego les muestran una imagen de un rinoceronte y dicen, ya saben, un unicornio es algo intermedio entre un caballo y un rinoceronte, tal vez en realidad, cuando vean un unicornio por primera vez en un libro ilustrado, puedan saber que es un unicornio. Y así es como empiezas a aprender más categorías que ejemplos que estás viendo, y esto es inspiración para otra frontera del aprendizaje profundo llamada aprendizaje de tiro bajo o aprendizaje de menos de un tiro. Y de nuevo, es el mismo principio que el aprendizaje de pocas tomas, donde si somos capaces de hacer que estos sistemas aprendan de muestras muy, muy, muy pequeñas de datos, de la misma manera que lo hacen los humanos, entonces eso realmente puede potenciar el proceso de aprendizaje.

Gedeón Lichfield: Para mí, esto plantea una pregunta aún más general; que es lo que hace que las personas en el campo de AGI estén tan seguras de que se puede producir inteligencia en una máquina que representa información digitalmente, en forma de unos y ceros, cuando todavía sabemos tan poco sobre cómo el cerebro humano representa la información. ¿No es una gran suposición que podemos simplemente recrear la inteligencia humana en una máquina digital?

Cielo de Will Douglas: si estoy de acuerdo. A pesar de la enorme complejidad de algunas de las redes neuronales que estamos viendo hoy en día en términos de su tamaño y sus conexiones, estamos a órdenes de magnitud de cualquier cosa que coincida con la escala de un cerebro, incluso una especie de cerebro animal bastante básico. . Así que sí, hay un abismo enorme entre la idea de que vamos a poder hacerlo, especialmente con la tecnología actual, la tecnología actual de aprendizaje profundo.

Y, por supuesto, aunque, como Karen describió anteriormente, las redes neuronales están inspiradas en el cerebro, las neuronas de nuestro cerebro. Esa es sólo una forma de ver el cerebro. Quiero decir, los cerebros no son solo bultos de neuronas. Tienen secciones discretas que se dedican a diferentes tareas.

Entonces, nuevamente, esta idea de que solo una red neuronal muy grande va a lograr la inteligencia general es nuevamente un acto de fe porque tal vez la inteligencia general requiera algún avance en la forma en que se comunican las estructuras dedicadas. Así que hay otra división entre los que persiguen este objetivo.

Ya sabes, algunos piensan que las redes neuronales se pueden escalar. Otras personas piensan que debemos alejarnos del tipo de detalles específicos de cualquier algoritmo de aprendizaje profundo individual y mirar el panorama general. En realidad, ya sabes, tal vez las redes neuronales no son el mejor modelo del cerebro y podemos construir mejores, que observen cómo se comunican las diferentes partes del cerebro, ya sabes, la suma es mayor que el todo. .

Gedeón Lichfield: Quiero terminar con una pregunta filosófica. Dijimos anteriormente que incluso los defensores de AGI no creen que sea consciente. ¿Podríamos incluso decir si tendrá pensamientos? ¿Entenderá su propia existencia en el sentido en que lo hacemos nosotros?

Cielo de Will Douglas: En el artículo de Alan Turing de 1950 Can Machines Think, que incluso, ya sabes, eso es cuando la IA todavía era solo una idea teórica, ni siquiera la hemos abordado como una especie de posibilidad de ingeniería. Planteó esta pregunta: ¿cómo sabemos si una máquina puede pensar? Y en ese documento, aborda, ya sabes, esta, esta idea de la conciencia. Tal vez algunas personas vengan y digan que las máquinas nunca pueden pensar porque nunca podremos decir que las máquinas pueden pensar porque no podremos decir que están conscientes. Y de alguna manera lo descarta diciendo, bueno, si llevas ese argumento tan lejos, entonces tienes que decir lo mismo al respecto. Bueno, los compañeros humanos con los que te encuentras todos, todos los días, no hay una forma definitiva de que pueda decir que alguno de ustedes no está consciente. Sabes, la única forma en que sabría eso es si experimentara ser tú. Y llegas al punto en que la comunicación se rompe y es una especie de lugar al que no podemos ir. Así que esa es una forma de descartar esa pregunta. Quiero decir, creo que la cuestión de la conciencia estará presente para siempre. Creo que algún día tendremos máquinas que actúen como si lo fueran... podrían pensar y ya sabes, podrían imitar a los humanos tan bien que podríamos tratarlos como si estuvieran conscientes, pero en cuanto a si realmente son, no creo que lo sepamos nunca.

Gedeón Lichfield: Karen, ¿qué opinas de las máquinas conscientes?

Karen Hao: Quiero decir, construir a partir de lo que dijo Will es, como, ¿sabemos qué conciencia? Y supongo que en realidad me basaría en el trabajo de un profesor de Tufts. Aborda la inteligencia artificial desde la perspectiva de la vida artificial. ¿Cómo replicas todas las cosas diferentes?

No solo el cerebro, sino también los pulsos eléctricos o las señales eléctricas que usamos dentro del cuerpo para comunicarnos y que también tiene inteligencia. Si somos fundamentalmente capaces de recrear cada pequeña cosa, cada pequeño proceso en nuestros cuerpos o en el cuerpo de un animal eventualmente, ¿por qué esos seres no tendrían la misma conciencia que nosotros?

Cielo de Will Douglas: Sabes, hay un debate maravilloso en este momento sobre los organoides cerebrales, que son pequeños grupos de células madre que se hacen para convertirse en neuronas e incluso pueden desarrollar conexiones y se ve en algunas de ellas esta actividad eléctrica. Y hay varios laboratorios en todo el mundo que estudian estas pequeñas manchas de cerebro para comprender mejor las enfermedades del cerebro humano. Pero hay un debate ético realmente interesante sobre, ya sabes, ¿en qué punto aumenta esta actividad eléctrica? La posibilidad de que estos pequeños plops en las placas de Petri sean conscientes. Y eso demuestra que no tenemos una buena definición de conciencia, ni siquiera para nuestros propios cerebros, y mucho menos para los de las máquinas.

Karen Hao: Y quiero agregar que tampoco tenemos una buena definición de artificial. Entonces eso solo agrega, quiero decir, si hablamos de inteligencia artificial, general.

No tenemos una buena definición de ninguna de esas tres palabras que componen ese término. Entonces, ir al punto que Will hizo sobre estos organoides que crecían en placas de Petri, ¿se considera artificial? Si no, ¿por qué? ¿Definimos artificial como cosas que simplemente no están hechas de material orgánico? Simplemente hay mucha ambigüedad y definiciones en torno a todas las cosas de las que estamos hablando, lo que hace que la cuestión de la conciencia sea muy complicada.

Cielo de Will Douglas: También les hace cosas divertidas de las que hablar.

Gedeón Lichfield: Eso es todo por este episodio de Deep Tech. Y también es el último episodio que estamos haciendo por ahora. Estamos trabajando en otros proyectos de audio que esperamos lanzar en los próximos meses. Así que por favor mantente atento a ellos. Y si aún no lo ha hecho, debe consultar nuestro podcast de IA llamado In Machines We Trust, que sale cada dos semanas. Puede encontrarlo dondequiera que normalmente escuche podcasts.

Deep Tech está escrita y producida por Anthony Green y editada por Jennifer Strong y Michael Reilly. Soy Gideon Lichfield. Gracias por su atención.

esconder