Kurzweil responde: no subestime la singularidad

Aunque Paul Allen parafrasea mi libro de 2005, La singularidad está cerca , en el título de su ensayo (coescrito con su colega Mark Greaves), parece que en realidad no ha leído el libro. Su única cita es a un ensayo que escribí en 2001 (La ley de los retornos acelerados) y su artículo no reconoce ni responde a los argumentos que realmente hago en el libro.

Crédito: Revisión de tecnología

Cuando mi libro de 1999, La era de las máquinas espirituales, Fue publicado, y aumentado un par de años después por el ensayo de 2001, generó varias líneas de crítica, como La ley de Moore llegará a su fin, la capacidad del hardware puede expandirse exponencialmente pero el software está estancado en el barro, el cerebro es demasiado complicado, hay capacidades en el cerebro que inherentemente no se pueden replicar en el software, y varios otros. Escribí específicamente La singularidad está cerca para responder a esas críticas.

No puedo decir que Allen necesariamente estaría convencido por los argumentos que hago en el libro, pero al menos podría haber respondido a lo que realmente escribí. En cambio, ofrece de nuevo argumentos como si nunca se hubiera escrito nada para responder a estos problemas. Las descripciones de Allen de mis propias posiciones parecen estar extraídas de mi ensayo de hace 10 años. Si bien sigo defendiendo ese ensayo, Allen no resume mis posiciones correctamente ni siquiera a partir de ese ensayo.

Allen escribe que la Ley de Rendimientos Acelerados (LOAR)… no es una ley física. Me gustaría señalar que la mayoría de las leyes científicas no son leyes físicas, sino que resultan de las propiedades emergentes de una gran cantidad de eventos en un nivel más fino. Un ejemplo clásico son las leyes de la termodinámica (LOT). Si observa las matemáticas subyacentes a LOT, modelan cada partícula siguiendo una caminata aleatoria. Entonces, por definición, no podemos predecir dónde estará una partícula en particular en un momento futuro. Sin embargo, las propiedades generales del gas son altamente predecibles con un alto grado de precisión de acuerdo con la leyes de la termodinámica. Lo mismo ocurre con la ley de los rendimientos acelerados. Cada proyecto de tecnología y cada contribuyente es impredecible, sin embargo, la trayectoria general cuantificada por medidas básicas de precio-rendimiento y capacidad sigue caminos notablemente predecibles.

Si sólo un puñado de investigadores se dedicara a la tecnología informática, sería realmente impredecible. Pero está siendo perseguido por un sistema suficientemente dinámico de proyectos competitivos que una medida básica como las instrucciones por segundo por dólar constante sigue un camino exponencial muy suave que se remonta al censo estadounidense de 1890. Discuto la base teórica de la LOAR extensamente en mi libro, pero el caso más sólido es el de la extensa evidencia empírica que yo y otros presentamos.

Allen escribe que estas 'leyes' funcionan hasta que dejan de funcionar. Aquí, Allen confunde paradigmas con la trayectoria en curso de un área básica de tecnología de la información. Si estuviéramos examinando la tendencia de crear tubos de vacío cada vez más pequeños, el paradigma para mejorar la computación en la década de 1950, es cierto que esta tendencia específica continuó hasta que dejó de serlo. Pero a medida que el fin de este paradigma en particular se hizo evidente, la presión de la investigación aumentó para el siguiente paradigma. La tecnología de los transistores mantuvo la tendencia subyacente del crecimiento exponencial de la relación precio-rendimiento, y eso condujo al quinto paradigma (ley de Moore) y la compresión continua de características en circuitos integrados. Ha habido predicciones regulares de que la ley de Moore llegará a su fin. El hoja de ruta de la industria de semiconductores proyectos titulados características de siete nanómetros a principios de la década de 2020. En ese punto, las características clave serán el ancho de 35 átomos de carbono, y será difícil seguir reduciéndolos. Sin embargo, Intel y otros fabricantes de chips ya están dando los primeros pasos hacia el sexto paradigma, que es la informática en tres dimensiones para continuar con la mejora exponencial en el rendimiento de los precios. Intel proyecta que los chips tridimensionales se generalizarán en la adolescencia. Ya se han introducido transistores tridimensionales y chips de memoria tridimensionales.

Este sexto paradigma mantendrá a LOAR en marcha con respecto al rendimiento de los precios de las computadoras hasta el punto, más adelante en este siglo, en que mil dólares de computación serán billones de veces más poderosos que el cerebro humano. [1] Y parece que Allen y yo estamos al menos de acuerdo sobre qué nivel de cálculo se requiere para simular funcionalmente el cerebro humano. [2]

Allen continúa dando el argumento estándar de que el software no progresa de la misma manera exponencial que el hardware. En La singularidad está cerca , Abordo este tema en profundidad, citando diferentes métodos para medir la complejidad y la capacidad en el software que demuestran un crecimiento exponencial similar. Un estudio reciente (Informe para el presidente y el Congreso, Diseño de un futuro digital: investigación y desarrollo financiados con fondos federales en redes y tecnología de la información por el Consejo de asesores de ciencia y tecnología del presidente) establece lo siguiente:

Aún más notable, y aún menos entendido, es que en muchas áreas, Las ganancias de rendimiento debido a las mejoras en los algoritmos han superado con creces incluso las ganancias de rendimiento dramáticas debido al aumento de la velocidad del procesador. . Los algoritmos que utilizamos hoy en día para el reconocimiento de voz, la traducción del lenguaje natural, el juego de ajedrez, la planificación de la logística, han evolucionado notablemente en la última década ... Aquí hay solo un ejemplo, proporcionado por el profesor Martin Grötschel de Konrad-Zuse-Zentrum für Informationstechnik Berlina. Grötschel, experto en optimización, observa que un modelo de planificación de producción de referencia resuelto mediante programación lineal habría tardado 82 años en resolverse en 1988, utilizando las computadoras y los algoritmos de programación lineal del momento. Quince años después, en 2003, este mismo modelo podría resolverse en aproximadamente un minuto, una mejora en un factor de aproximadamente 43 millones. De esto, un factor de aproximadamente 1,000 se debió a una mayor velocidad del procesador, mientras que un factor de aproximadamente 43,000 se debió a mejoras en los algoritmos. Grötschel también cita una mejora algorítmica de aproximadamente 30.000 para la programación de enteros mixtos entre 1991 y 2008. El diseño y análisis de algoritmos y el estudio de la complejidad computacional inherente de los problemas son subcampos fundamentales de la informática.

Cito muchos otros ejemplos como este en el libro. [3]

Con respecto a la inteligencia artificial, Allen se apresura a descartar al Watson de IBM como estrecho, rígido y frágil. Tengo la sensación de que Allen descartaría cualquier demostración que no sea una aprobación válida de la prueba de Turing. Me gustaría señalar que Watson no es tan estrecho. Se ocupa de una amplia gama de conocimientos humanos y es capaz de abordar formas sutiles de lenguaje, incluidos juegos de palabras, símiles y metáforas. No es perfecto, pero tampoco los humanos, y fue lo suficientemente bueno como para obtener una puntuación más alta que los dos mejores humanos. ¡Peligro! jugadores juntos.

Allen escribe que Watson fue creado por los propios científicos, construyendo cada vínculo de conocimiento estrecho en áreas específicas. Aunque algunas áreas del conocimiento de Watson se programaron directamente, según IBM, Watson adquirió la mayor parte de su conocimiento por sí solo leyendo documentos en lenguaje natural como las enciclopedias. Eso representa su fuerza clave. No solo es capaz de comprender el enrevesado lenguaje en ¡Peligro! consultas (respuestas en busca de una pregunta), pero adquirió su conocimiento leyendo grandes cantidades de documentos en lenguaje natural. IBM ahora está trabajando con Nuance (una compañía que fundé originalmente como Kurzweil Computer Products) para que Watson lea decenas de miles de artículos médicos para crear un diagnosticador médico.

Aquí conviene unas palabras sobre la naturaleza de la comprensión de Watson. Se ha escrito mucho que Watson trabaja a través del conocimiento estadístico en lugar de la verdadera comprensión. Muchos lectores interpretan que esto significa que Watson simplemente está recopilando estadísticas sobre secuencias de palabras. El término información estadística en el caso de Watson se refiere a coeficientes distribuidos en métodos autoorganizados como los modelos de Markov. Uno podría referirse fácilmente a las concentraciones de neurotransmisores distribuidos en la corteza humana como información estadística. De hecho, resolvemos ambigüedades de la misma manera que Watson al considerar la probabilidad de diferentes interpretaciones de una frase.

Allen escribe: Cada estructura [en el cerebro] ha sido moldeada con precisión por millones de años de evolución para hacer algo en particular, sea lo que sea. No es como una computadora, con miles de millones de transistores idénticos en matrices de memoria regulares que están controladas por una CPU con algunos elementos diferentes. En el cerebro, cada estructura individual y circuito neuronal ha sido refinado individualmente por factores evolutivos y ambientales.

La afirmación de Allen de que cada estructura y circuito neuronal es único es simplemente imposible. Eso significaría que el diseño del cerebro requeriría cientos de billones de bytes de información. Sin embargo, el diseño del cerebro (como el resto del cuerpo) está contenido en el genoma. Y aunque la traducción del genoma a un cerebro no es sencilla, el cerebro no puede tener más información de diseño que el genoma. Tenga en cuenta que la información epigenética (como los péptidos que controlan la expresión génica) no se suma de manera apreciable a la cantidad de información en el genoma. La experiencia y el aprendizaje aumentan significativamente la cantidad de información, pero lo mismo puede decirse de los sistemas de inteligencia artificial. Me muestro en La singularidad está cerca que después de la compresión sin pérdidas (debido a la redundancia masiva en el genoma), la cantidad de información de diseño en el genoma es de aproximadamente 50 millones de bytes, aproximadamente la mitad de los cuales pertenecen al cerebro. [4] Eso no es simple, pero es un nivel de complejidad con el que podemos lidiar y representa menos complejidad que muchos sistemas de software en el mundo moderno.

¿Cómo llegamos al orden de 100 billones de conexiones en el cerebro a partir de solo decenas de millones de bytes de información de diseño? Evidentemente, la respuesta es la redundancia. Hay del orden de mil millones de mecanismos de reconocimiento de patrones en la corteza. Están interconectados de formas intrincadas, pero incluso en las conexiones hay una redundancia masiva. El cerebelo también tiene miles de millones de patrones repetidos de neuronas. Es cierto que las estructuras repetidas masivamente en el cerebro aprenden diferentes elementos de información a medida que aprendemos y ganamos experiencia, pero lo mismo ocurre con los sistemas artificialmente inteligentes como Watson.

Dharmendra S. Modha, gerente de computación cognitiva de IBM Research, escribe : ... los neuroanatomistas no han encontrado una red irremediablemente enredada, conectada arbitrariamente, completamente idiosincrásica para el cerebro de cada individuo, sino una gran cantidad de estructura repetida dentro de un cerebro individual y una gran cantidad de homología entre especies ... La asombrosa reconfigurabilidad natural da esperanza que los algoritmos centrales de la neurocomputación son independientes de las modalidades sensoriales o motoras específicas y que gran parte de la variación observada en la estructura cortical entre áreas representa un refinamiento de un circuito canónico; de hecho, es este circuito canónico el que deseamos aplicar ingeniería inversa.

Allen articula lo que describo en mi libro como el pesimismo del científico. Los científicos que trabajan en la próxima generación están invariablemente luchando con el próximo conjunto de desafíos, por lo que si alguien describe cómo se verá la tecnología en 10 generaciones, sus ojos se ponen vidriosos. Uno de los pioneros de los circuitos integrados me estaba describiendo recientemente las luchas para pasar de tamaños de características de 10 micrones (10,000 nanómetros) a características de cinco micrones (5,000 nanómetros) hace más de 30 años. Confiaban cautelosamente en este objetivo, pero cuando la gente predijo que algún día tendríamos circuitos con tamaños de características por debajo de una micra (1000 nanómetros), la mayoría de los científicos que luchaban por llegar a cinco micras pensaron que era demasiado salvaje para contemplarlo. Se formularon objeciones sobre la fragilidad de los circuitos a ese nivel de precisión, los efectos térmicos, etc. Bueno, hoy, Intel está comenzando a usar chips con longitudes de puerta de 22 nanómetros.

Vimos el mismo pesimismo con el proyecto del genoma. A la mitad del proyecto de 15 años, solo se había recolectado el 1 por ciento del genoma, y ​​los críticos proponían límites básicos sobre la rapidez con la que se podría secuenciar el genoma sin destruir las delicadas estructuras genéticas. Pero el crecimiento exponencial tanto en la capacidad como en el desempeño de los precios continuó (ambos aproximadamente se duplicaron cada año), y el proyecto se terminó siete años después. El proyecto de ingeniería inversa del cerebro humano está progresando de manera similar. Solo recientemente, por ejemplo, hemos alcanzado un umbral con técnicas de escaneo no invasivas en el que podemos ver la formación y activación de conexiones interneuronales individuales en tiempo real.

El freno de la complejidad de Allen confunde el bosque con los árboles. Si desea comprender, modelar, simular y recrear un páncreas, no necesita recrear o simular cada orgánulo en cada célula de islote pancreático. En cambio, querrá comprender completamente una celda de Islet, luego abstraer su funcionalidad básica y luego extenderla a un gran grupo de tales celdas. Este algoritmo se conoce bien con respecto a las células de los islotes. Ahora se están probando páncreas artificiales que utilizan este modelo funcional. Aunque ciertamente hay mucha más complejidad y variación en el cerebro que en las células de los islotes del páncreas que se repiten masivamente, no obstante, hay una repetición masiva de funciones.

Allen describe mal mi propuesta de aprender sobre el cerebro escaneando el cerebro para comprender su fina estructura. No es mi propuesta simular todo un cerebro de abajo hacia arriba sin comprender las funciones de procesamiento de información. Necesitamos comprender en detalle cómo funcionan los tipos individuales de neuronas y luego recopilar información sobre cómo se conectan los módulos funcionales. Los métodos funcionales que se derivan de este tipo de análisis pueden guiar el desarrollo de sistemas inteligentes. Básicamente, buscamos métodos inspirados biológicamente que puedan acelerar el trabajo en IA, gran parte de los cuales ha progresado sin una comprensión significativa de cómo el cerebro realiza funciones similares. Por mi propio trabajo en el reconocimiento de voz, sé que nuestro trabajo se aceleró enormemente cuando obtuvimos conocimientos sobre cómo el cerebro prepara y transforma la información auditiva.

La forma en que estas estructuras enormemente redundantes en el cerebro se diferencian es a través del aprendizaje y la experiencia. Sin embargo, el estado actual de la técnica en IA permite que los sistemas también aprendan de su propia experiencia. Los coches autónomos de Google (que han recorrido más de 140.000 millas a través de ciudades y pueblos de California) aprenden de su propia experiencia de conducción, así como de los coches de Google conducidos por conductores humanos. Como mencioné, Watson aprendió la mayor parte de su conocimiento leyendo solo.

Es cierto que Watson no está del todo a los niveles humanos en su capacidad para comprender el lenguaje humano (si lo fuera, estaríamos en el nivel de prueba de Turing ahora), pero fue capaz de derrotar a los mejores humanos. Esto se debe a la velocidad y confiabilidad inherentes de la memoria que tienen las computadoras. Entonces, cuando una computadora alcance niveles humanos, lo que creo que sucederá a fines de la década de 2020, podrá salir a la Web y leer miles de millones de páginas, así como tener experiencias en mundos virtuales en línea. Combinar el reconocimiento de patrones a nivel humano con la velocidad y precisión inherentes de las computadoras será muy poderoso. Pero esto no es una invasión extraterrestre de las máquinas de inteligencia: creamos estas herramientas para hacernos más inteligentes. Creo que Allen estará de acuerdo conmigo en que esto es lo único de la especie humana: construimos estas herramientas para extender nuestro propio alcance.

Ray Kurzweil es inventor y autor. Su última pieza para Revisión de tecnología estaba a punto de luchando contra el proceso de envejecimiento .

[1] Capitulo 2, La singularidad está cerca por Ray Kurzweil, Viking, 2005.

[2] Consulte la nota final 2 en La singularidad no está cerca de Paul G. Allen y Mark Greaves.

[3] Capítulo 9, La singularidad está cerca.

[4] Capítulo 4, La singularidad está cerca.

esconder