Un filósofo argumenta que una IA no puede ser un artista

CORTESÍA DE LOS ARTISTAS

El 31 de marzo de 1913, en el Gran Salón de la sala de conciertos Musikverein de Viena, estalló un motín en medio de la interpretación de una canción orquestal de Alban Berg. El caos descendió. Los muebles estaban rotos. La policía arrestó al organizador del concierto por golpear a Oscar Straus, un compositor de operetas poco recordado. Más tarde, en el juicio, Straus bromeó sobre la frustración de la audiencia. El puñetazo, insistió, fue el sonido más armonioso de toda la velada. La historia ha emitido un veredicto diferente: el director del concierto, Arnold Schoenberg, ha pasado a ser quizás el compositor más creativo e influyente del siglo XX.

Puede que no disfrutes de la música disonante de Schoenberg, que rechaza la tonalidad convencional para disponer las 12 notas de la escala según reglas que no dejan que ninguna predomine. Pero cambió lo que los humanos entienden por música. Esto es lo que lo convierte en un artista genuinamente creativo e innovador. Las técnicas de Schoenberg ahora se integran a la perfección en todo, desde bandas sonoras de películas y musicales de Broadway hasta los solos de jazz de Miles Davis y Ornette Coleman.

Esta historia fue parte de nuestra edición de marzo de 2019

• Ver el resto del número
• Suscribir

La creatividad es uno de los logros más misteriosos e impresionantes de la existencia humana. ¿Pero, qué es esto?

La creatividad no es sólo novedad. Un niño pequeño al piano puede tocar una nueva secuencia de notas, pero no son, en ningún sentido significativo, creativas. Además, la creatividad está limitada por la historia: lo que cuenta como inspiración creativa en un período o lugar podría descartarse como ridículo, estúpido o loco en otro. Una comunidad tiene que aceptar ideas como buenas para que cuenten como creativas.

Como en el caso de Schoenberg, o en el de muchos otros artistas modernos, esa aceptación no tiene por qué ser universal. De hecho, puede que no llegue durante años; a veces, la creatividad se descarta por error durante generaciones. Pero a menos que una comunidad de práctica finalmente acepte una innovación, tiene poco sentido hablar de ella como creativa.

Los avances en inteligencia artificial han llevado a muchos a especular que los seres humanos pronto serán reemplazados por máquinas en todos los dominios, incluido el de la creatividad. Ray Kurzweil, un futurista, predice que para 2029 habremos producido una IA que pueda pasar por un ser humano educado promedio. Nick Bostrom, un filósofo de Oxford, es más circunspecto. No da una fecha, pero sugiere que los filósofos y matemáticos aplacen el trabajo sobre cuestiones fundamentales a los sucesores superinteligentes, a los que define como poseedores de un intelecto que supera con creces el rendimiento cognitivo de los humanos en prácticamente todos los dominios de interés.

Ambos creen que una vez que la inteligencia a nivel humano se produzca en las máquinas, habrá un estallido de progreso, lo que Kurzweil llama la singularidad y Bostrom una explosión de inteligencia, en el que las máquinas nos reemplazarán muy rápidamente con medidas masivas en todos los dominios. Esto ocurrirá, argumentan, porque los logros sobrehumanos son los mismos que los logros humanos comunes, excepto que todos los cálculos relevantes se realizan mucho más rápido, en lo que Bostrom denomina superinteligencia de velocidad.

Entonces, ¿qué pasa con el nivel más alto de logro humano: la innovación creativa? ¿Están nuestros artistas y pensadores más creativos a punto de ser superados masivamente por las máquinas?

No.

Los logros creativos humanos, debido a la forma en que están integrados socialmente, no sucumbirán a los avances de la inteligencia artificial. Decir lo contrario es malinterpretar lo que somos los seres humanos y lo que representa nuestra creatividad.

Esta afirmación no es absoluta: depende de las normas que permitamos que gobiernen nuestra cultura y nuestras expectativas de la tecnología. Los seres humanos, en el pasado, han atribuido un gran poder y genialidad incluso a los tótems sin vida. Es muy posible que lleguemos a tratar a las máquinas artificialmente inteligentes como tan superiores a nosotros que naturalmente les atribuiremos creatividad. Si eso sucede, no será porque las máquinas nos hayan superado. Será porque nos habremos denigrado a nosotros mismos.

Los logros creativos humanos, debido a la forma en que están integrados socialmente, no sucumbirán a los avances de la inteligencia artificial.

Además, me refiero principalmente a los avances en máquinas del tipo visto recientemente con el paradigma actual de aprendizaje profundo, así como a sus sucesores computacionales. Otros paradigmas han regido la investigación de la IA en el pasado. Estos ya han fallado en cumplir su promesa. Todavía pueden surgir otros paradigmas en el futuro, pero si especulamos que alguna IA futura nocional cuyas características no podemos describir de manera significativa logrará cosas maravillosas, eso es hacer mitos, no un argumento razonado sobre las posibilidades de la tecnología.

El logro creativo opera de manera diferente en diferentes dominios. No puedo ofrecer aquí una taxonomía completa de los diferentes tipos de creatividad, por lo que, para aclarar el punto, esbozaré un argumento que involucra tres ejemplos bastante diferentes: música, juegos y matemáticas.

Musica para mis oidos

En Paisaje Imaginario (2018)
Nao Tokui utiliza un algoritmo de aprendizaje automático para crear panoramas a partir de imágenes que se encuentran en Google Street View y los complementa con paisajes sonoros creados con redes neuronales artificiales. CORTESÍA DEL ARITST

¿Podemos imaginar una máquina con una capacidad creativa tan sobrehumana que provoque cambios en lo que entendemos por música, como hizo Schoenberg?

Eso es lo que afirmo que una máquina no puede hacer. Veamos por qué.

Los sistemas de composición musical por computadora existen desde hace bastante tiempo. En 1965, a la edad de 17 años, el propio Kurzweil, utilizando un precursor de los sistemas de reconocimiento de patrones que caracterizan a los algoritmos de aprendizaje profundo en la actualidad, programó una computadora para componer música reconocible. Las variantes de esta técnica se utilizan hoy en día. Los algoritmos de aprendizaje profundo han podido tomar como entrada un montón de corales de Bach, por ejemplo, y componer música tan característica del estilo de Bach que engaña incluso a los expertos haciéndoles pensar que es original. Esto es mimetismo. Es lo que hace un artista como aprendiz: copiar y perfeccionar el estilo de los demás en lugar de trabajar con una voz auténtica y original. No es el tipo de creatividad musical que asociamos con Bach, mucho menos con la innovación radical de Schoenberg.

Entonces, ¿qué decimos? ¿Podría haber una máquina que, como Schoenberg, invente una forma completamente nueva de hacer música? Por supuesto que podemos imaginar, e incluso fabricar, una máquina así. Dado un algoritmo que modifica sus propias reglas de composición, podríamos producir fácilmente una máquina que haga música tan diferente de lo que ahora consideramos buena música como lo hizo Schoenberg entonces.

Pero aquí es donde se complica.

Consideramos a Schoenberg como un innovador creativo no solo porque logró crear una nueva forma de componer música, sino porque la gente podía ver en ella una visión de cómo debería ser el mundo. La visión de Schoenberg involucraba el minimalismo sobrio, limpio y eficiente de la modernidad. Su innovación no fue solo encontrar un nuevo algoritmo para componer música; fue encontrar una manera de pensar qué música es que le permite hablar lo que se necesita ahora .

Algunos podrían argumentar que he subido el listón demasiado alto. ¿Estoy argumentando, se preguntarán, que una máquina necesita algún sentido místico e inconmensurable de lo que es socialmente necesario para ser considerada creativa? No lo soy, por dos razones.

Primero, recuerde que al proponer una nueva técnica matemática para la composición musical, Schoenberg cambió nuestra comprensión de lo que es la música. Es solo la creatividad de este tipo que desafía la tradición la que requiere algún tipo de sensibilidad social. Si los oyentes no hubieran experimentado que su técnica capturaba el antitradicionalismo en el corazón de la modernidad radical que surgió en la Viena de principios del siglo XX, es posible que no la hubieran escuchado como algo de valor estético. El punto aquí es que la creatividad radical no es una versión acelerada de la creatividad cotidiana. El logro de Schoenberg no es una versión más rápida o mejor del tipo de creatividad demostrada por Oscar Straus o algún otro compositor promedio: es fundamentalmente de un tipo diferente.

En segundo lugar, mi argumento no es que la capacidad de respuesta del creador a la necesidad social deba ser consciente para que la obra cumpla con los estándares de la genialidad. Estoy argumentando en cambio que debemos ser capaces de interpretar el trabajo como respondiendo de esa manera . Sería un error interpretar la composición de una máquina como parte de tal visión del mundo. El argumento para esto es simple.

Afirmaciones como la de Kurzweil de que las máquinas pueden alcanzar el nivel de inteligencia humano asumen que tener una mente humana es solo tener un cerebro humano que sigue algún conjunto de algoritmos computacionales, una visión llamada computacionalismo. Pero aunque los algoritmos pueden tener implicaciones morales, no son en sí mismos agentes morales. No podemos contar el mono en una máquina de escribir que accidentalmente escribe Otelo como un gran dramaturgo creativo. Si hay grandeza en el producto, es solo un accidente. Podemos ver el producto de una máquina como excelente, pero si sabemos que la salida es simplemente el resultado de algún acto arbitrario o formalismo algorítmico, no podemos aceptarlo como la expresión de una visión para el bien humano.

Por esta razón, me parece, nada más que otro ser humano puede ser propiamente entendido como un artista genuinamente creativo. Quizás algún día la IA vaya más allá de su formalismo computacionalista, pero eso requeriría un salto que es inimaginable en este momento. No solo estaríamos buscando nuevos algoritmos o procedimientos que simulen la actividad humana; estaríamos buscando nuevos materiales que sean la base del ser humano.

Un duplicado molécula por molécula de un ser humano sería humano de la forma pertinente. Pero ya tenemos una forma de producir un ser así: lleva unos nueve meses. Por el momento, una máquina solo puede hacer algo mucho menos interesante que lo que puede hacer una persona. Puede crear música al estilo de Bach, por ejemplo, tal vez incluso música que algunos expertos creen que es mejor que la de Bach. Pero eso es solo porque su música puede ser juzgada contra un estándar preexistente. Lo que una máquina no puede hacer es provocar cambios en nuestros estándares para juzgar la calidad de la música o para comprender qué es o no música.

Esto no niega que los artistas creativos usen las herramientas que tienen a su disposición y que esas herramientas den forma al tipo de arte que hacen. La trompeta ayudó a Davis y Coleman a darse cuenta de su creatividad. Pero la trompeta no es, en sí misma, creativa. Los algoritmos de inteligencia artificial se parecen más a instrumentos musicales que a personas. Taryn Southern, ex idolo Americano concursante, lanzó recientemente un álbum donde la percusión, las melodías y los acordes se generaron algorítmicamente, aunque ella escribió la letra y modificó repetidamente el algoritmo de instrumentación hasta que entregó los resultados que quería. A principios de la década de 1990, David Bowie hizo lo contrario: escribió la música y usó una aplicación de Mac llamada Verbalizer para recombinar frases de forma pseudoaleatoria en letras. Al igual que las herramientas anteriores de la industria de la música, desde dispositivos de grabación hasta sintetizadores, samplers y loopers, las nuevas herramientas de IA funcionan estimulando y canalizando las habilidades creativas del artista humano (y reflejan las limitaciones de esas habilidades).

juegos sin fronteras

Mucho se ha escrito sobre los logros de los sistemas de aprendizaje profundo que ahora son los mejores reproductores de Go del mundo. AlphaGo y sus variantes tienen fuertes afirmaciones de haber creado una forma completamente nueva de jugar. Han enseñado a los expertos humanos que los movimientos iniciales que durante mucho tiempo se consideraron mal concebidos pueden conducir a la victoria. El programa se reproduce en un estilo que los expertos describen como extraño y extraño. Así es como me imagino los juegos de un futuro lejano, dijo Shi Yue, uno de los mejores jugadores de Go, sobre el juego de AlphaGo. El algoritmo parece ser genuinamente creativo.

En algún sentido importante lo es. Jugar, sin embargo, es diferente de componer música o escribir una novela: en los juegos hay una medida objetiva del éxito. Sabemos que tenemos algo que aprender de AlphaGo porque lo vemos ganar.

Pero eso también es lo que hace de Go un dominio de juguete, un caso simplificado que solo dice cosas limitadas sobre el mundo.

La caída de la casa Usher de Anna Ridler (2017)
Una animación de 12 minutos basada en la película muda de 1928 de Watson y Webber. Ridler creó las imágenes fijas usando tres redes neuronales separadas: una entrenada en sus dibujos, una segunda entrenada en dibujos hechos de los resultados de la primera red y una tercera entrenada en dibujos hechos de los resultados de la segunda. CORTESÍA DEL ARITST

El tipo más fundamental de creatividad humana cambia nuestra comprensión de nosotros mismos porque cambia nuestra comprensión de lo que consideramos bueno. Para el juego de Go, por el contrario, la naturaleza de la bondad simplemente no está disponible: una estrategia de Go es buena si y solo si gana. La vida humana generalmente no tiene esta característica: no existe una medida objetiva del éxito en los más altos dominios del logro. Ciertamente no en el arte, la literatura, la música, la filosofía o la política. Ni, por lo demás, en el desarrollo de nuevas tecnologías.

En varios dominios de juguetes, las máquinas pueden enseñarnos sobre una cierta forma de creatividad muy limitada. Pero las reglas del dominio están preformadas; el sistema puede tener éxito sólo porque aprende a jugar bien dentro de estas limitaciones. La cultura humana y la existencia humana son mucho más interesantes que esto. Hay normas sobre cómo actúan los seres humanos, por supuesto. Pero la creatividad en el sentido genuino es la capacidad de cambiar esas normas en algún dominio humano importante. El éxito en los dominios de los juguetes no indica que se pueda lograr la creatividad de este tipo más fundamental.

es un nocaut

Un escéptico podría afirmar que el argumento funciona solo porque estoy contrastando juegos con artístico genio. Hay otros paradigmas de la creatividad en el ámbito científico y matemático. En estos reinos, la pregunta no es sobre una visión del mundo. Se trata de cómo son realmente las cosas.

¿Podría una máquina presentar pruebas matemáticas tan superiores a nosotros que simplemente tengamos que ceder ante su genio creativo?

No.

Las computadoras ya han ayudado con notables logros matemáticos. Pero sus contribuciones no han sido particularmente creativas. Tomemos el primer gran teorema demostrado usando una computadora: el teorema de los cuatro colores, que establece que cualquier mapa plano puede colorearse con cuatro colores como máximo de tal manera que dos países adyacentes no terminen con el mismo (también se aplica a países en la superficie de un globo).

Hace casi medio siglo, en 1976, Kenneth Appel y Wolfgang Haken de la Universidad de Illinois publicaron una prueba asistida por computadora de este teorema. La computadora realizó miles de millones de cálculos, verificando miles de tipos diferentes de mapas, tantos que era (y sigue siendo) logísticamente inviable para los humanos verificar que cada posibilidad coincidiera con la vista de la computadora. Desde entonces, las computadoras han ayudado en una amplia gama de pruebas nuevas.

Ventilador eléctrico (2018)
Tom White utiliza motores de percepción, algoritmos que destilan los datos recopilados de miles de fotografías de objetos comunes, para sintetizar formas abstractas. Luego prueba y refina los resultados hasta que el sistema los reconoce. Ventilador eléctrico, cortesía de Tom White, mas '98, drib.net

Pero la supercomputadora no está haciendo nada creativo al verificar una gran cantidad de casos. En cambio, está haciendo algo aburrido una gran cantidad de veces. Esto parece casi lo contrario de la creatividad. Además, está tan lejos del tipo de comprensión normalmente pensamos que una prueba matemática debería ofrecer que algunos expertos no consideran estas estrategias asistidas por computadora como pruebas matemáticas en absoluto. Como ha argumentado Thomas Tymoczko, un filósofo de las matemáticas, si ni siquiera podemos verificar si la prueba es correcta, entonces todo lo que realmente estamos haciendo es confiar en un proceso computacional potencialmente propenso a errores.

Sin embargo, incluso suponiendo que confiemos en los resultados, las pruebas asistidas por computadora son algo así como el análogo de la composición asistida por computadora. Si nos dan un producto que vale la pena es más que nada por el aporte del ser humano. Pero algunos expertos han argumentado que la inteligencia artificial podrá lograr más que esto. Supongamos, entonces, que tenemos lo último: una máquina autosuficiente que prueba nuevos teoremas por sí misma.

¿Podría una máquina como esta superarnos masivamente en creatividad matemática, como argumentan Kurzweil y Bostrom? Supongamos, por ejemplo, que una IA presenta una resolución para un problema abierto extremadamente importante y difícil en matemáticas.

La capacidad para la creatividad genuina, el tipo de creatividad que actualiza nuestra comprensión de la naturaleza del ser, es la base de lo que es ser humano.

Hay dos posibilidades. La primera es que la prueba es extremadamente ingeniosa, y cuando los expertos en la materia la repasan descubren que es correcta. En este caso, la IA que descubrió la prueba sería aplaudida. La máquina en sí podría incluso considerarse un matemático creativo. Pero tal máquina no sería evidencia de la singularidad; no nos superaría tanto en creatividad que ni siquiera podríamos entender lo que estaba haciendo. Incluso si tuviera este tipo de creatividad a nivel humano, no conduciría inevitablemente al reino de lo sobrehumano.

Algunos matemáticos son como virtuosos musicales: se distinguen por su fluidez en un idioma existente. Pero se puede decir que genios como Srinivasa Ramanujan, Emmy Noether y Alexander Grothendieck reformaron las matemáticas al igual que Schoenberg reformó la música. Sus logros no fueron simplemente pruebas de hipótesis de larga data, sino formas nuevas e inesperadas de razonamiento, que se afianzaron no solo en la fuerza de su lógica sino también en su capacidad para convencer a otros matemáticos de la importancia de sus innovaciones. Una IA nocional que presenta una prueba inteligente para un problema que ha desconcertado a los matemáticos humanos durante mucho tiempo es similar a AlphaGo y sus variantes: impresionante, pero nada como Schoenberg.

Eso nos lleva a la otra opción. Supongamos que el mejor y más brillante algoritmo de aprendizaje profundo se suelta y después de un tiempo dice: He encontrado una prueba de un teorema fundamentalmente nuevo, pero es demasiado complicado para que incluso los mejores matemáticos lo entiendan.

Esto no es realmente posible. Una prueba que ni siquiera los mejores matemáticos pueden entender no cuenta realmente como prueba. Demostrar algo implica que se lo está demostrando a alguien . Así como un músico tiene que persuadir a su audiencia para que acepte su concepto estético de lo que es buena música, un matemático tiene que persuadir a otros matemáticos de que hay buenas razones para creer en su visión de la verdad. Para contar como una prueba válida en matemáticas, una afirmación debe ser comprensible y respaldable por un conjunto independiente de expertos que estén en una buena posición para comprenderla. Si los expertos que deberían poder entender la prueba no pueden, entonces la comunidad se niega a aprobarla como prueba.

Por esta razón, las matemáticas se parecen más a la música de lo que uno podría haber pensado. Una máquina no podría superarnos masivamente en creatividad porque su logro sería comprensible, en cuyo caso no nos superaría masivamente, o no sería comprensible, en cuyo caso no podríamos considerarla como un avance creativo en absoluto.

El ojo del espectador

La ingeniería y la ciencia aplicada están, en cierto modo, en algún lugar entre estos ejemplos. Hay algo así como una medida objetiva y externa del éxito. No se puede ganar en la construcción de puentes o en la medicina como en el ajedrez, pero uno puede ver si el puente se cae o se elimina el virus. Estos criterios objetivos entran en juego solo una vez que el dominio está bastante bien especificado: encontrar materiales fuertes y livianos, por ejemplo, o medicamentos que combatan enfermedades particulares. Una IA podría ayudar en el descubrimiento de fármacos, de hecho, haciendo lo mismo que la IA que compuso lo que sonaba como una cantata de Bach bien ejecutada o ideó una brillante estrategia de Go. Al igual que un microscopio, un telescopio o una calculadora, dicha IA se entiende correctamente como una herramienta que permite el descubrimiento humano, no como un agente creativo autónomo.

Vale la pena pensar en la teoría de la relatividad especial aquí. Albert Einstein es recordado como el descubridor de la relatividad, pero no porque fuera el primero en proponer ecuaciones que describieran mejor la estructura del espacio y el tiempo. George Fitzgerald, Hendrik Lorentz y Henri Poincaré, entre otros, habían escrito esas ecuaciones antes que Einstein. Es aclamado como el descubridor de la teoría porque tenía una comprensión original, notable y verdadera de lo que son las ecuaciones. quiso decir y podría transmitir esa comprensión a los demás.

Para que una máquina haga física que sea en algún sentido comparable a la creatividad de Einstein, debe ser capaz de persuadir a otros físicos del valor de sus ideas al menos tan bien como lo hizo él. Es decir, tendríamos que ser capaces de aceptar sus propuestas como destinadas a comunicarnos su propia validez . Si alguna vez llegara a existir tal máquina, como en la parábola de Pinocho, tendríamos que tratarla como si fuera un ser humano. Eso significa, entre otras cosas, que tendríamos que atribuirle no solo inteligencia, sino también cualquier dignidad y valor moral que sea apropiado para los seres humanos. Me parece que estamos muy lejos de este escenario, y no hay razón para pensar que el paradigma computacional actual de la inteligencia artificial, en su forma de aprendizaje profundo o cualquier otra, nos acercará alguna vez a él.

La creatividad es una de las características definitorias del ser humano. La capacidad para la creatividad genuina, el tipo de creatividad que actualiza nuestra comprensión de la naturaleza del ser, que cambia la forma en que entendemos lo que es ser bello, bueno o verdadero: esa capacidad es la base de lo que es ser humano. . Pero este tipo de creatividad depende de que la valoremos y la cuidemos como tal. Como ha señalado el escritor Brian Christian, los seres humanos están comenzando a actuar menos como seres que valoran la creatividad como una de nuestras mayores posibilidades, y más como máquinas.

¿Cuántas personas hoy en día tienen trabajos que les exigen seguir un guión predeterminado para sus conversaciones? ¿Qué poco de lo que conocemos como conversación humana real, auténtica, creativa y abierta queda en esta farsa destripada? ¿En qué medida se parece, en cambio, al tipo de seguimiento de reglas que puede hacer una máquina? ¿Y cuántos de nosotros, en la medida en que permitimos que nos involucren en este tipo de actuaciones con guión, también somos eviscerados? ¿Qué parte de nuestro día permitimos que se llene con actividades similares a las de una máquina: completar formularios y cuestionarios computarizados, responder al cebo de clic que funciona con nuestros impulsos más básicos y parecidos a los animales, jugar juegos diseñados para optimizar nuestra respuesta adictiva?

Estamos en peligro de esta confusión también en algunos de los dominios más profundos de los logros humanos. Si nos permitimos decir que las pruebas mecánicas que no podemos entender son pruebas genuinas, por ejemplo, cediendo autoridad social a las máquinas, estaremos tratando los logros de las matemáticas como si no requirieran comprensión humana en absoluto. Estaremos tomando una de nuestras formas más altas de creatividad e inteligencia y reduciéndola a un solo bit de información: sí o no.

El hijo del carnicero (2018)
Mario Klingemann usó dos GAN, uno entrenado en un conjunto de datos de poses humanas y otro entrenado en pornografía, para generar miles de imágenes compuestas. Después de evaluar la pose y los detalles de cada uno, eligió uno para refinar el trabajo terminado. CORTESÍA DEL ARTISTA

Incluso si tuviéramos esa información, sería de poco valor para nosotros sin una cierta comprensión de las razones subyacentes. No debemos perder de vista el carácter esencial del razonamiento, que está en el fundamento de lo que es la matemática.

Lo mismo ocurre con el arte y la música y la filosofía y la literatura. Si nos permitimos resbalar de esta manera, si tratamos la creatividad de las máquinas como un sustituto de la nuestra, entonces las máquinas realmente llegarán a parecernos incomprensiblemente superiores a nosotros. Pero eso es porque habremos perdido la pista del papel fundamental que juega la creatividad en el ser humano.

Sean Dorrance Kelly es profesor de filosofía en Harvard y coautor del libro más vendido del New York Times Todas las cosas brillando .

esconder