211service.com
La singularidad y el punto fijo
Algunos futuristas como Ray Kurzweil han planteado la hipótesis de que algún día pronto atravesaremos una singularidad, es decir, un período de rápido cambio tecnológico más allá del cual no podemos imaginar el futuro de la sociedad. La mayoría de las visiones de esta singularidad se centran en la creación de máquinas lo suficientemente inteligentes como para diseñar máquinas incluso más inteligentes que ellos mismos, y así sucesivamente, lanzando así un ciclo de retroalimentación positiva de amplificación de la inteligencia. Es un pensamiento intrigante. (Una de las primeras cosas que quise hacer cuando llegué al MIT como estudiante era construir un científico robot que pudiera hacer descubrimientos más rápido y mejor que nadie). Incluso el director de tecnología de Intel, Justin Rattner, ha especulado públicamente recientemente que estamos bien encaminados hacia esta singularidad, y conferencias como la Singularity Summit (en la que Estaré hablando en octubre ) están explorando cómo podrían tener lugar tales transformaciones.
Sin embargo, como ingeniero cerebral, creo que centrarse únicamente en el aumento de la inteligencia como motor del futuro es dejar de lado una parte fundamental del análisis, es decir, los cambios en la motivación que pueden surgir a medida que la inteligencia se amplifica. Llámelo la necesidad de habilidades de liderazgo de máquinas o filosofía de la máquina; sin ella, tal ciclo de retroalimentación podría fallar rápidamente.
Todos sabemos que la inteligencia, como se define comúnmente, no es suficiente para impactar al mundo por sí sola. La capacidad de perseguir un objetivo obstinadamente contra los obstáculos, ignorando la crudeza de la realidad (a veces incluso hasta el punto de la ilusión, es decir, contra la inteligencia), también es importante. La mayoría de las historias de ciencia ficción prefieren que sus inteligencias artificiales estén extremadamente motivadas para hacer cosas, por ejemplo, esclavizar o aniquilar a los humanos, si La matriz y Terminator II tener algo que decir sobre el tema. Pero encuentro igualmente plausible el robot Marvin, la máquina superinteligente de Douglas Adams El La guía del autostopista a la galaxia , quien usó su enorme inteligencia principalmente para sentarse y quejarse, en ausencia de un gran objetivo.
De hecho, una inteligencia realmente avanzada, mal motivada, podría darse cuenta de la impermanencia de todas las cosas, calcular que el sol se apagará en unos pocos miles de millones de años y decidir jugar videojuegos por el resto de su existencia, concluyendo que inventar un sistema aún más inteligente. la máquina no tiene sentido. (Un corolario de este pensamiento podría explicar por qué no hemos encontrado vida extraterrestre todavía: las inteligencias en la cúspide de lograr un viaje interestelar podrían ser propensas a pensar que con las galaxias hirviendo en solo 1019 años, podría ser mejor quedarse en casa y ver televisión). Por lo tanto, si uno está tratando de construir una máquina inteligente capaz de diseñar máquinas más inteligentes, es importante encontrar una manera de construir no solo la motivación, sino también la amplificación de la motivación. – el deseo continuo de construir una motivación autosuficiente, a medida que la inteligencia se amplifica. Si tal motivación ha de ser poseída por las generaciones futuras de inteligencia (metamotivación, por así decirlo), entonces es importante descubrir estos principios ahora.
Hay un segundo problema. Un ser inteligente puede ser capaz de visualizar muchas más posibilidades que uno menos inteligente, pero eso no siempre puede conducir a una acción más efectiva, especialmente si algunas posibilidades distraen a la inteligencia de los objetivos originales (por ejemplo, el objetivo de construir una inteligencia más inteligente). ). La incertidumbre inherente del universo también puede abrumar, o hacer irrelevante, el proceso de toma de decisiones de esta inteligencia. De hecho, para un espacio de posibilidades de muy alta dimensión (con los ejes que representan diferentes parámetros de la acción a tomar), puede ser muy difícil evaluar qué camino es el mejor. La mente puede hacer planes en paralelo, pero las acciones son, en última instancia, unitarias y, dados los recursos accesibles finitos, las acciones efectivas a menudo serán escasas.
Los dos últimos párrafos se aplican no solo a la IA y la ET, sino que también describen las características de la mente humana que, en ocasiones, afectan la toma de decisiones en muchos de nosotros: falta de motivación e impulso, y parálisis de la toma de decisiones frente a demasiadas opciones posibles. . Pero empeora: sabemos que una motivación puede ser secuestrada por opciones que simulen la satisfacción a la que apunta la motivación. Las adicciones a sustancias afectan a decenas de millones de personas solo en los Estados Unidos, y las adicciones a cosas más sutiles, incluidos ciertos tipos de información (como el correo electrónico), también son prominentes. Y pocas artes son más desafiantes que transmitir la motivación a la próxima generación, para la búsqueda de una gran idea. Las inteligencias que inventan tecnologías cada vez más interesantes y absorbentes, que pueden captar y mantener mejor su atención, al tiempo que reducen el impacto en el mundo, pueden entrar en lo opuesto a una singularidad.
¿Qué es lo opuesto a una singularidad? La singularidad depende de una recursividad matemática: invente una superinteligencia, y luego inventará una superinteligencia aún más poderosa. Pero como cualquier estudiante de matemáticas sabe, hay otros resultados de un proceso iterado, como un punto fijo. Un punto fijo es un punto que, cuando se aplica una función, te da el mismo punto nuevamente. La aplicación de esta función a puntos cercanos al punto fijo a menudo los enviará hacia el punto fijo.
Por lo tanto, un punto fijo social podría definirse como un estado que se refuerza a sí mismo, permaneciendo en el status quo, que en principio podría ser pacífico y autosuficiente, pero también extremadamente aburrido, por ejemplo, involucrando a muchas personas conectadas a Internet. viendo videos para siempre. Por lo tanto, nosotros, como humanos, podríamos querer, en algún momento pronto, comenzar a establecer reglas de diseño para las tecnologías de modo que nos motiven hacia algún objetivo o fin elevado, o al menos lejos de los puntos fijos de la sociedad sin salida. Este proceso implicará pensar en cómo la tecnología podría ayudar a enfrentar una vieja pregunta de la filosofía, a saber, ¿qué debo hacer, dados todos estos caminos posibles? Quizás sea el momento de dar una respuesta empírica a esta pregunta, derivada de las propiedades de nuestro cerebro y del universo en el que vivimos.