Inteligencia artificial general: ¿Estamos cerca y tiene sentido intentarlo?

Ariel Davis

La idea de la inteligencia artificial general tal como la conocemos hoy comienza con una explosión de punto com en Broadway.

Hace veinte años, antes de que Shane Legg hiciera clic con el posgrado en neurociencia Demis Hassabis por una fascinación compartida por la inteligencia; antes de que la pareja se conectara con el amigo de la infancia de Hassabis, Mustafa Suleyman, un activista progresista, para convertir esa fascinación en una compañía llamada DeepMind; antes de que Google comprara esa empresa por más de quinientos millones de dólares cuatro años después, Legg trabajaba en una startup en Nueva York llamada Webmind, creada por el investigador de inteligencia artificial Ben Goertzel. Hoy, los dos hombres representan dos ramas muy diferentes del futuro de la inteligencia artificial, pero sus raíces se remontan a un terreno común.

Incluso en los vertiginosos días de la burbuja de las puntocom, los objetivos de Webmind eran ambiciosos. Goertzel quería crear un cerebro de bebé digital y publicarlo en Internet, donde creía que crecería para volverse completamente consciente de sí mismo y mucho más inteligente que los humanos. Estamos al borde de una transición igual en magnitud al advenimiento de la inteligencia, o al surgimiento del lenguaje, dijo a los Monitor de la Ciencia Cristiana en 1998.

Webmind intentó financiarse construyendo una herramienta para predecir el comportamiento de los mercados financieros, pero el sueño más grande nunca se cumplió. Después de gastar $ 20 millones, Webmind fue desalojada de sus oficinas en el extremo sur de Manhattan y dejó de pagar a su personal. Se declaró en quiebra en 2001.

ben goertzel

COMUNES DE WIKIMEDIA

Pero Legg y Goertzel se mantuvieron en contacto. Cuando Goertzel estaba armando un libro de ensayos sobre IA sobrehumana unos años más tarde, fue Legg a quien se le ocurrió el título. Estaba hablando con Ben y dije: 'Bueno, si se trata de la generalidad que los sistemas de IA aún no tienen, deberíamos llamarlo Inteligencia artificial general ', dice Legg, quien ahora es el científico jefe de DeepMind. Y AGI suena como un acrónimo.

El término se quedó. El libro de Goertzel y el anuario Conferencia AGI que lanzó en 2008 han convertido a AGI en una palabra de moda común para la IA sobrehumana o similar a la humana. Pero también se ha convertido en un gran problema. No me gusta el término AGI, dice Jerome Pesenti, director de IA en Facebook. no se que significa

Él no está solo. Parte del problema es que AGI es un cajón de sastre para las esperanzas y los temores que rodean a toda una tecnología. Contrariamente a la creencia popular, no se trata realmente de la conciencia de la máquina o de los robots pensantes (aunque muchas personas de AGI también sueñan con eso). Pero se trata de pensar en grande. Muchos de los desafíos a los que nos enfrentamos hoy, desde el cambio climático hasta las democracias fallidas y las crisis de salud pública, son muy complejos. Si tuviéramos máquinas que pudieran pensar como nosotros o mejor, más rápidamente y sin cansarse, entonces tal vez tendríamos una mejor oportunidad de resolver estos problemas. Como el informático I.J. Good lo expresó en 1965: la primera máquina ultrainteligente es el último invento que el hombre necesita hacer.

Elon Musk, quien invirtió temprano en DeepMind y se asoció con un pequeño grupo de megainversores, incluidos Peter Thiel y Sam Altman, para invertir mil millones de dólares en OpenAI, ha creado una marca personal a partir de predicciones descabelladas. Pero cuando habla, millones escuchan. Hace unos meses le dijo al New York Times que La IA sobrehumana está a menos de cinco años . Va a estar sobre nosotros muy pronto, dijo en el Podcast de Lex Fridman . Entonces tendremos que averiguar qué debemos hacer, si es que tenemos esa opción.

En mayo, Pesenti disparó de vuelta . Elon Musk no tiene idea de lo que está hablando, tuiteó. No existe tal cosa como AGI y no estamos ni cerca de igualar la inteligencia humana. Musk respondió: Facebook apesta.

Tales brotes no son infrecuentes. Aquí está andres ng , exjefe de IA en Baidu y cofundador de Google Brain: Dejemos las tonterías de AGI y dediquemos más tiempo a los problemas urgentes.

Y Julian Togelius , investigador de IA de la Universidad de Nueva York: Creer en AGI es como creer en la magia. Es una forma de abandonar el pensamiento racional y expresar esperanza/miedo por algo que no se puede entender. Navegue por el hashtag #noAGI en Twitter y encontrará muchos de los pesos pesados ​​de AI que intervienen, incluidos Yann Le Cun , el científico jefe de IA de Facebook, que ganó el Premio Turing en 2018.

Pero con la reciente racha de éxitos de AI, desde el campeón de juegos de mesa AlphaZero hasta el convincente generador de texto falso GPT-3, las conversaciones sobre AGI se han disparado. Aunque esas herramientas todavía están muy lejos de representar la inteligencia general (AlphaZero no puede escribir historias y GPT-3 no puede jugar al ajedrez, y mucho menos entender por qué las historias y el ajedrez son importantes para las personas), el objetivo de construir un AGI, que alguna vez se consideró una locura, se está volviendo aceptable. de nuevo.

Algunos de los laboratorios de IA más grandes y respetados del mundo se toman este objetivo muy en serio. OpenAI ha dicho que quiere ser el primero en construir una máquina con habilidades de razonamiento similares a las humanas . La declaración de misión no oficial pero ampliamente repetida de DeepMind es resolver inteligencia . Las personas más importantes de ambas empresas están felices de discutir estos objetivos en términos de AGI.

Medio siglo después, todavía no estamos cerca de crear una IA con las habilidades multitarea de un humano, o incluso de un insecto.

Hablar de AGI a principios de la década de 2000 te ponía al margen de los lunáticos, dice Legg. Incluso cuando comenzamos DeepMind en 2010, obtuvimos una cantidad asombrosa de asombro en las conferencias. Pero las cosas están cambiando. Algunas personas se sienten incómodas con él, pero viene del frío”, dice.

Entonces, ¿por qué AGI es controvertido? ¿Por qué eso importa? ¿Y es un sueño imprudente y engañoso, o el objetivo final?

¿Qué es AGI?

El término ha sido de uso popular durante poco más de una década, pero las ideas que encapsula han existido durante toda la vida.

En el verano de 1956, una docena de científicos se reunieron en Dartmouth College en New Hampshire para trabajar en lo que creían que sería un modesto proyecto de investigación. Presentando el taller de antemano, los pioneros de la IA John McCarthy, Marvin Minsky, Nat Rochester y Claude Shannon escribió : El estudio debe proceder sobre la base de la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tanta precisión que se puede hacer una máquina para simularlo. Se intentará descubrir cómo hacer que las máquinas utilicen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas que ahora están reservados a los humanos y se mejoren a sí mismos. Calcularon que esto llevaría a 10 personas dos meses.

Avance rápido hasta 1970 y aquí está Minsky de nuevo, impertérrito: Dentro de tres a ocho años, tendremos una máquina con la inteligencia general de un ser humano promedio. Me refiero a una máquina que podrá leer a Shakespeare, engrasar un automóvil, jugar a la política de oficina, contar un chiste, pelear. En ese momento, la máquina comenzará a educarse a sí misma con una velocidad fantástica. En unos meses estará a nivel de genio, y unos meses después, sus poderes serán incalculables.

Tres cosas se destacan en estas visiones de la IA: una capacidad similar a la humana para generalizar, una capacidad sobrehumana para mejorar a un ritmo exponencial y una porción enorme de ilusiones. Medio siglo después, todavía no estamos cerca de crear una IA con las habilidades multitarea de un humano, o incluso de un insecto.

IMÁGENES FALSAS

Eso no quiere decir que no haya habido grandes éxitos. Muchos de los elementos de esa primera lista de deseos se han marcado: tenemos máquinas que pueden usar el lenguaje, ver y resolver muchos de nuestros problemas. Pero las IA que tenemos hoy no son como los humanos en la forma en que los pioneros imaginaron. El aprendizaje profundo, la tecnología que impulsa el auge de la IA, entrena a las máquinas para que se conviertan en maestros en una gran cantidad de cosas, como escribir historias falsas y jugar al ajedrez, pero solo una a la vez.

Cuando Legg sugirió el término AGI a Goertzel para su libro de 2007, estaba contraponiendo la inteligencia artificial general a esta idea estrecha y dominante de la IA. La gente había estado usando varios términos relacionados, como IA fuerte e IA real, para distinguir la visión de Minsky de la IA que había llegado en su lugar.

Hablar de AGI a menudo tenía la intención de implicar que la IA había fallado, dice Joanna Bryson, investigadora de IA en la Escuela Hertie de Berlín: Era la idea de que había gente haciendo cosas aburridas, como la visión artificial, pero aquí... y yo era uno de ellos en ese momento, todavía están tratando de comprender la inteligencia humana, dice ella. IA fuerte, ciencia cognitiva, AGI: estas fueron nuestras diferentes formas de decir: 'Ustedes lo han arruinado; estamos avanzando.

Esta idea de que AGI es el verdadero objetivo de la investigación de IA sigue vigente. Un sistema de inteligencia artificial en funcionamiento pronto se convierte en solo una pieza de software: las cosas aburridas de Bryson. Mientras tanto, AGI se convierte en un sustituto de cualquier IA que aún no hayamos descubierto cómo construir, siempre fuera de nuestro alcance.

Historia relacionada

¿Qué es el aprendizaje automático?

Los algoritmos de aprendizaje automático encuentran y aplican patrones en los datos. Y prácticamente manejan el mundo.

A veces, Legg habla de AGI como una especie de herramienta múltiple: una máquina que resuelve muchos problemas diferentes, sin tener que diseñar una nueva para cada desafío adicional. Desde ese punto de vista, no sería más inteligente que AlphaGo o GPT-3; simplemente tendría más capacidades. Sería una IA de propósito general, no una inteligencia completa. Pero también habla de una máquina con la que podrías interactuar como si fuera otra persona. Él describe una especie de compañero de juegos definitivo: sería maravilloso interactuar con una máquina y mostrarle un nuevo juego de cartas y hacer que lo entienda y te haga preguntas y juegue contigo, dice. Sería un sueño hecho realidad.

Cuando la gente habla de AGI, normalmente son estas habilidades similares a las humanas las que tienen en mente. Thore Graepel , un colega de Legg en DeepMind, le gusta usar una cita del autor de ciencia ficción Robert Heinlein, que parece reflejar las palabras de Minsky: Un ser humano debería poder cambiar un pañal, planear una invasión, matar un cerdo, pilotar un barco, diseñar un edificio, escribir un soneto, equilibrar cuentas, construir un muro, colocar un hueso, consolar a los moribundos, recibir órdenes, dar órdenes, cooperar, actuar solo, resolver ecuaciones, analizar un nuevo problema, lanzar estiércol, programar una computadora, cocinar una comida sabrosa, luchar con eficacia, morir con valentía. La especialización es para insectos.

Y, sin embargo, un dato curioso: la descripción de referencia de Graepel la pronuncia un personaje llamado Lazarus Long en la novela de Heinlein de 1973. Tiempo suficiente para el amor . Long es una especie de superhombre, el resultado de un experimento genético que le permite vivir cientos de años. Durante ese tiempo prolongado, Long vive muchas vidas y domina muchas habilidades. En otras palabras, Minsky describe las habilidades de un humano típico; Graepel no lo hace.

Los objetivos de la búsqueda de AGI cambian constantemente de esta manera. ¿Qué quiere decir la gente cuando habla de inteligencia artificial similar a la humana, humana como tú y como yo, o humana como Lazarus Long? Para Pesenti, esta ambigüedad es un problema. No creo que nadie sepa lo que es, dice. Los humanos no pueden hacer todo. No pueden resolver todos los problemas, y no pueden mejorarse a sí mismos.

El campeón de Go, Lee Sedol (izquierda), le da la mano al cofundador de DeepMind, Demis Hassabis

GETTY

Y qué podría un AGI ser como en la práctica? Llamarlo parecido a un humano es a la vez vago y demasiado específico. Los humanos son el mejor ejemplo de inteligencia general que tenemos, pero los humanos también son altamente especializados. Una mirada rápida al variado universo de la inteligencia animal, desde la cognición colectiva que se ve en las hormigas hasta las habilidades de resolución de problemas de los cuervos o los pulpos y la inteligencia más reconocible pero aún extraña de los chimpancés, muestra que hay muchas maneras de construir una inteligencia general. .

Incluso si construimos un AGI, es posible que no lo entendamos completamente. Los modelos de aprendizaje automático de hoy en día suelen ser cajas negras, lo que significa que llegan a resultados precisos a través de caminos de cálculo que ningún ser humano puede entender. Agregue a la mezcla una superinteligencia que se mejora a sí misma y queda claro por qué la ciencia ficción a menudo proporciona las analogías más fáciles.

Algunos también incluirían la conciencia o la sensibilidad en los requisitos para un AGI. Pero si la inteligencia es difícil de precisar, la conciencia es aún peor. Los filósofos y los científicos no tienen claro qué es en nosotros mismos, y mucho menos qué sería en una computadora. La inteligencia probablemente requiere cierto grado de autoconciencia, la capacidad de reflexionar sobre su visión del mundo, pero eso no es necesariamente lo mismo que la conciencia, lo que es. siente gusta experimentar el mundo o reflexionar sobre su visión de él. Incluso los más fieles de AGI son agnósticos acerca de la conciencia de la máquina.

¿Cómo hacemos un AGI?

Legg ha estado persiguiendo la inteligencia durante toda su carrera. Después de Webmind, trabajó con Marcus Hutter en la Universidad de Lugano en Suiza en una tesis doctoral llamada Superinteligencia de máquinas . Hutter (que ahora también está en DeepMind) estaba trabajando en una definición matemática de inteligencia que estaba limitada solo por las leyes de la física: una inteligencia general definitiva.

Shane Legg

MENTE PROFUNDA

La pareja publicó una ecuación para lo que llamaron inteligencia universal , que Legg describe como una medida de la capacidad para lograr objetivos en una amplia gama de entornos. Demostraron que su definición matemática era similar a muchas teorías de la inteligencia que se encuentran en la psicología, que también define la inteligencia en términos de generalidad.

En DeepMind, Legg está convirtiendo su trabajo teórico en demostraciones prácticas, comenzando con IA que logran objetivos particulares en entornos particulares, desde juegos hasta plegamiento de proteínas .

La parte difícil viene a continuación: unir múltiples habilidades. El aprendizaje profundo es el enfoque más general que tenemos, ya que un algoritmo de aprendizaje profundo se puede utilizar para aprender más de una tarea. AlphaZero usó el mismo algoritmo para aprender Go, shogi (un juego japonés similar al ajedrez) y ajedrez. de DeepMind sistema atari57 usó el mismo algoritmo para dominar todos los videojuegos de Atari. Pero las IA aún pueden aprender solo una cosa a la vez. Habiendo dominado el ajedrez, AlphaZero tiene que borrar su memoria y aprender shogi desde cero.

Legg se refiere a este tipo de generalidad como un algoritmo, frente a la generalidad de un solo cerebro que tienen los humanos. La generalidad de un algoritmo es muy útil pero no tan interesante como la de un solo cerebro, dice: Tú y yo no necesitamos intercambiar cerebros; no ponemos nuestros cerebros de ajedrez para jugar un juego de ajedrez.

Pasar de un algoritmo a un cerebro es uno de los mayores desafíos abiertos en la IA. Una IA de un solo cerebro aún no sería una verdadera inteligencia, solo una mejor IA de propósito general: la herramienta múltiple de Legg. Pero ya sea que estén apuntando a AGI o no, los investigadores están de acuerdo en que los sistemas actuales deben ser de propósito más general, y para aquellos que tienen AGI como objetivo, una IA de propósito general es un primer paso necesario. Hay una larga lista de enfoques que podrían ayudar. Van desde tecnología emergente que ya está aquí hasta experimentos más radicales (ver cuadro). Aproximadamente en orden de madurez, son:

• Aprendizaje no supervisado o autosupervisado. Etiquetar conjuntos de datos (por ejemplo, etiquetar todas las imágenes de gatos con gatos) para decirles a las IA lo que están mirando durante el entrenamiento es la clave de lo que se conoce como aprendizaje supervisado. Todavía se hace en gran parte a mano y es un gran cuello de botella. La IA debe poder aprender a sí misma sin la guía humana, por ejemplo, mirar imágenes de gatos y perros y aprender a diferenciarlos sin ayuda o detectarlos. anomalías en las transacciones financieras sin tener ejemplos previos marcados por un humano. Esto, conocido como aprendizaje no supervisado, ahora se está volviendo más común.
• Transferir el aprendizaje, incluido el aprendizaje de pocos disparos. La mayoría de los modelos de aprendizaje profundo actuales pueden entrenarse para hacer solo una cosa a la vez. Transferir el aprendizaje tiene como objetivo permitir que las IA transfieran algunas partes de su entrenamiento para una tarea, como jugar al ajedrez, a otra, como jugar al Go. Así aprenden los humanos.
• Sentido común e inferencia causal. Sería más fácil transferir la capacitación entre tareas si una IA tuviera una base de sentido común para comenzar. Y una parte clave del sentido común es comprender la causa y el efecto. Donación sentido común a las IA es un tema de investigación candente en este momento, con enfoques que van desde codificar reglas simples en una red neuronal hasta restringir las posibles predicciones que una IA puede hacer . Pero el trabajo aún está en sus primeras etapas.
• Optimizadores de aprendizaje . Estas son herramientas que se pueden usar para dar forma a la forma en que aprenden las IA, guiándolas para que entrenen de manera más eficiente. Trabajos recientes muestran que estas herramientas pueden ser se entrenaron ellos mismos —en efecto, lo que significa que una IA se usa para entrenar a otras. Este podría ser un pequeño paso hacia la mejora automática de la IA, un objetivo de AGI.

Todas estas áreas de investigación se basan en el aprendizaje profundo, que sigue siendo la forma más prometedora de construir IA en este momento. El aprendizaje profundo se basa en redes neuronales, que a menudo se describen como similares al cerebro en el sentido de que sus neuronas digitales están inspiradas en las biológicas. La inteligencia humana es el mejor ejemplo de inteligencia general que tenemos, por lo que tiene sentido mirarnos a nosotros mismos en busca de inspiración.

Pero los cerebros son más que una enorme maraña de neuronas. Tienen componentes separados que colaboran.

Hassabis, por ejemplo, estaba estudiando el hipocampo, que procesa la memoria, cuando él y Legg se conocieron. Hassabis piensa que la inteligencia general en los cerebros humanos proviene en parte de interacción entre el hipocampo y la corteza . Esta idea condujo a la IA de juego Atari de DeepMind, que utiliza un hipocampo inspirado algoritmo , llamado DNC (computadora neuronal diferencial), que combina una red neuronal con un componente de memoria dedicado.

Los componentes similares a un cerebro artificial, como el DNC, a veces se conocen como arquitecturas cognitivas. Desempeñan un papel en otras IA de DeepMind, como AlphaGo y AlphaZero, que combinan dos redes neuronales especializadas separadas con árboles de búsqueda, una forma más antigua de algoritmo que funciona un poco como un diagrama de flujo para las decisiones. Los modelos de lenguaje como GPT-3 combinan una red neuronal con una más especializada llamada transformador, que maneja secuencias de datos como texto.

En última instancia, todos los enfoques para alcanzar el AGI se reducen a dos amplias escuelas de pensamiento. Una es que si obtiene los algoritmos correctos, puede organizarlos en cualquier arquitectura cognitiva que desee. Los laboratorios como OpenAI parecen respaldar este enfoque, construyendo modelos de aprendizaje automático cada vez más grandes que podrían lograr AGI por fuerza bruta .

La otra escuela dice que la fijación en el aprendizaje profundo nos está frenando. Si la clave de AGI es descubrir cómo deberían funcionar juntos los componentes de un cerebro artificial, entonces centrarse demasiado en los componentes en sí mismos, los algoritmos de aprendizaje profundo, es perder la madera para los árboles. Obtenga la arquitectura cognitiva correcta y podrá conectar los algoritmos casi como una ocurrencia tardía. Este es el enfoque favorecido por Goertzel, cuyo OpenCog El proyecto es un intento de construir una plataforma de código abierto que encajará diferentes piezas del rompecabezas en un todo AGI. También es un camino que DeepMind exploró cuando combinó redes neuronales y árboles de búsqueda para AlphaGo.

DESPLAZAR

Mi sensación personal es que es algo entre los dos, dice Legg. Sospecho que hay una cantidad relativamente pequeña de algoritmos cuidadosamente elaborados que podremos combinar para ser realmente poderosos.

Goertzel no está en desacuerdo. La profundidad de pensamiento sobre AGI en Google y DeepMind me impresiona, dice (ambas empresas ahora son propiedad de Alphabet). Si hay alguna gran empresa que lo conseguirá, serán ellos.

Sin embargo, no contenga la respiración. Molesto por haber subestimado el desafío durante décadas, a pocos, aparte de Musk, les gusta aventurar una conjetura sobre cuándo (si es que alguna vez) llegará AGI. Incluso Goertzel no se arriesgará a fijar sus objetivos en un cronograma específico, aunque diría que es más temprano que tarde. No hay duda de que los rápidos avances en el aprendizaje profundo, y GPT-3, en particular, han aumentado las expectativas al imitar ciertas habilidades humanas. Pero el mimetismo no es inteligencia. Todavía hay agujeros muy grandes en el camino por delante, y los investigadores aún no han descubierto su profundidad, y mucho menos descubierto cómo llenarlos.

Pero si seguimos avanzando rápidamente, ¿quién sabe? dice Legg. En unas pocas décadas, podríamos tener algunos sistemas muy, muy capaces.

¿Por qué AGI es controvertido?

Parte de la razón por la que nadie sabe cómo construir un AGI es que pocos están de acuerdo en lo que es. Los diferentes enfoques reflejan diferentes ideas sobre lo que buscamos, desde herramientas múltiples hasta IA sobrehumana. Se están dando pequeños pasos para hacer que la IA tenga un propósito más general, pero existe un abismo enorme entre una herramienta de propósito general que puede resolver varios problemas diferentes y una que puede resolver problemas que los humanos no pueden: el último invento de Good. Hay toneladas de progreso en IA, pero eso no implica que haya ningún progreso en AGI, dice Andrew Ng.

Sin evidencia de ninguna de las partes sobre si AGI es alcanzable o no, el problema se convierte en una cuestión de fe. Se parece a esos argumentos de la filosofía medieval sobre si puedes colocar un número infinito de ángeles en la cabeza de un alfiler, dice Togelius. No tiene sentido; estas son solo palabras.

Goertzel minimiza hablar de controversia. Hay personas en los extremos a cada lado, dice, pero también hay mucha gente en el medio, y la gente en el medio no tiende a balbucear tanto.

El mundo AGI está lleno de investigadores que exploran los confines de cómo construir una superinteligencia.

• inteligencia emergente

  Kristinn Thorisson está explorando lo que sucede cuando los programas simples reescriben otros programas simples para producir aún más programas. Está interesado en los comportamientos complejos que surgen de procesos simples que se dejan desarrollar por sí mismos.

• inteligencia universal

  arturo franz está tratando de tomar la definición matemática de AGI de Marcus Hutter, que asume un poder de cómputo infinito, y reducirla a un código que funcione en la práctica.

• Inteligencia abierta

  David Weinbaum es un investigador que trabaja en inteligencias que progresan sin metas dadas . La idea es que las funciones de recompensa como las que se usan típicamente en el aprendizaje por refuerzo reducen el enfoque de una IA. Weinbaum está trabajando en formas de desarrollar inteligencia que funcione fuera de un dominio de problema específico y simplemente se adapte sin rumbo fijo a su entorno.

Goertzel coloca a un escéptico de AGI como Ng en un extremo y él mismo en el otro. Desde sus días en Webmind, Goertzel ha cortejado a los medios como figura decorativa de la franja AGI. Dirige la Conferencia AGI y encabeza una organización llamada SingularityNet,que describecomo una especie de Webmind en blockchain. De 2014 a 2018, también fue científico jefe de Hanson Robotics, la empresa con sede en Hong Kong que presentó un robot humanoide parlante llamado Sophia en 2016. Másmaniquí de parque temáticoque la investigación de vanguardia, Sophia ganó los titulares de Goertzel en todo el mundo. Pero incluso él admite que es simplemente un robot teatral, no una IA. La marca particular de talento para el espectáculo de Goertzel ha provocado que muchos investigadores serios de IA se distancien de su extremo del espectro.

En el medio pondría a personas como Yoshua Bengio, un investigador de IA de la Universidad de Montreal que fue coganador del Premio Turing con Yann LeCun y Geoffrey Hinton en 2018. En un 2014 charla magistral en la Conferencia AGI, Bengio sugirió que construir una IA con inteligencia a nivel humano es posible porque el cerebro humano es una máquina, una que solo necesita ser asimilada. Pero no está convencido de la superinteligencia, una máquina que supera a la mente humana. De cualquier manera, él piensa que AGI no se logrará a menos que encontremos una manera de dar a las computadoras sentido común e inferencia causal.

Ng, sin embargo, insiste en que tampoco está en contra de AGI. Creo que AGI es súper emocionante, me encantaría llegar allí, dice. Si tuviera toneladas de tiempo libre, trabajaría en ello yo mismo. Cuando estaba en Google Brain y el aprendizaje profundo iba viento en popa, Ng, al igual que OpenAI, se preguntaba si la simple ampliación de las redes neuronales podría ser un camino hacia AGI. Pero estas son preguntas, no afirmaciones, dice. Donde AGI se volvió controvertido es cuando la gente comenzó a hacer afirmaciones específicas al respecto.

Un tema aún más divisivo que la arrogancia sobre qué tan pronto se puede lograr AGI es el alarmismo sobre lo que podría hacer si se suelta. Aquí, la especulación y la ciencia ficción pronto se desdibujan. Musk dice que AGI será más peligroso que las armas nucleares. Hugo de Garis, un investigador de IA ahora en la Universidad de Wuhan en China, predijo en la década de 2000 que AGI conduciría a una guerra mundial y miles de millones de muertes para fines de siglo. Máquinas parecidas a dioses, a las que llamó artilectos, se aliarían con partidarios humanos, los cosmistas, contra una resistencia humana, los terranos.

Creer en AGI es como creer en la magia. Es una forma de abandonar el pensamiento racional y expresar esperanza/miedo por algo que no se puede entender.

Ciertamente no ayuda al campo pro-AGI cuando alguien como de Garis, quien también es un abierto partidario de los puntos de vista masculinistas y antisemitas, tiene un artículo en el libro AGI de Goertzel junto con otros de investigadores serios como Hutter y Jürgen Schmidhuber, a veces llamado el padre de la IA moderna. Si muchos en el campo de AGI se ven a sí mismos como los abanderados de la IA, muchos fuera de ella los ven como locos portadores de tarjetas, arrojando pensamientos sobre la IA en una licuadora con afirmaciones descabelladas sobre la Singularidad (el punto de no retorno cuando las máquinas de auto-mejora superan inteligencia humana), cargas cerebrales, transhumanismo y el apocalipsis.

No me molesta la muy interesante discusión sobre las inteligencias, de la que deberíamos tener más, dice Togelius. Me molesta la idea ridícula de que nuestro software de repente un día se despierte y se apodere del mundo.

¿Por qué eso importa?

Hace unas décadas, cuando la IA no estuvo a la altura de las expectativas de Minsky y otros, el campo colapsó más de una vez. La financiación desapareció; los investigadores siguieron adelante. La tecnología tardó muchos años en emerger de lo que se conocía como inviernos de IA y reafirmarse. Ese bombo, sin embargo, todavía está allí.

Todos los inviernos de IA fueron creados por expectativas poco realistas, por lo que debemos luchar contra ellos en todo momento, dice Ng. Pesenti está de acuerdo: tenemos que gestionar el alboroto, dice.

Una preocupación más inmediata es que estas expectativas poco realistas infecten la toma de decisiones de los políticos. Bryson dice que ha sido testigo de muchos pensamientos confusos en las salas de juntas y los gobiernos porque la gente tiene una visión de ciencia ficción de la IA. Esto puede llevarlos a ignorar problemas muy reales sin resolver, como la forma en que el sesgo racial puede codificarse en la IA mediante datos de entrenamiento sesgados, la falta de transparencia sobre cómo funcionan los algoritmos o las preguntas sobre quién es responsable cuando una IA toma una mala decisión. a favor de preocupaciones más fantásticas sobre cosas como la adquisición de un robot.

El bombo también entusiasma a los inversores. El dinero de Musk ha ayudado a financiar la innovación real, pero cuando dice que quiere financiar el trabajo sobre el riesgo existencial, alienta a los investigadores a hablar sobre amenazas futuras. Algunos de ellos realmente lo creen; algunos de ellos solo buscan el dinero y la atención y cualquier otra cosa, dice Bryson. Y no sé si todos ellos son del todo honestos consigo mismos sobre quiénes son.

El encanto de AGI no es sorprendente. La autorreflexión y la creación son dos de las actividades más humanas. El impulso de construir una máquina a nuestra imagen es irresistible. Muchas personas que ahora son críticas con AGI coquetearon con él en sus carreras anteriores. Al igual que Goertzel, Bryson pasó varios años tratando de crear un niño pequeño artificial. En 2005, Ng organizó un taller en NeurIPS (entonces llamado NIPS), la principal conferencia de IA del mundo, titulado ¿Hacia la IA a nivel humano? Era una locura, dice Ng. LeCun, ahora un crítico frecuente de la charla de AGI, dio un discurso de apertura.

Estos investigadores pasaron a problemas más prácticos. Pero gracias al progreso que ellos y otros han logrado, las expectativas vuelven a aumentar. Mucha gente en el campo no esperaba tanto progreso como el que hemos tenido en los últimos años, dice Legg. Ha sido una fuerza impulsora para hacer que AGI sea mucho más creíble.

Incluso los escépticos de AGI admiten que el debate al menos obliga a los investigadores a pensar en la dirección del campo en general en lugar de centrarse en el próximo hack o punto de referencia de la red neuronal. Considerar seriamente la idea de AGI nos lleva a lugares realmente fascinantes, dice Togelius. Tal vez el mayor avance será refinar el sueño, tratando de averiguar de qué se trata el sueño.

esconder