211service.com
Por qué la IA es una amenaza para la democracia y qué podemos hacer para detenerla
Amy Webb, futurista y profesora de la Universidad de Nueva York, habla sobre una catástrofe inminente de inteligencia artificial y por qué todavía hay esperanza de que se pueda evitar. 26 de febrero de 2019
Amy Webb, futurista y profesora de la Universidad de Nueva York Elena Seibert
Amy Webb, futurista, profesora de la Universidad de Nueva York y autora galardonada, ha pasado gran parte de la última década investigando, discutiendo y reuniéndose con personas y organizaciones sobre inteligencia artificial. Hemos llegado a un punto álgido en todo lo relacionado con la IA, dice. Ahora es el momento de dar un paso atrás para ver a dónde va.
Esta es la tarea de su nuevo libro, Los nueve grandes: cómo los titanes tecnológicos y sus máquinas pensantes podrían deformar a la humanidad , donde hace un repaso a vista de pájaro de las tendencias que, advierte, han puesto el desarrollo de la tecnología por un camino peligroso. En los EE. UU., Google, Microsoft, Amazon, Facebook, IBM y Apple (la G-MAFIA) se ven obstaculizados por las implacables demandas a corto plazo de un mercado capitalista, lo que hace imposible la planificación cuidadosa a largo plazo para la IA. En China, Tencent, Alibaba y Baidu están consolidando y extrayendo cantidades masivas de datos para alimentar las ambiciones autoritarias del gobierno.
Si no cambiamos esta trayectoria, argumenta Webb, podríamos dirigirnos directamente a la catástrofe. Pero todavía hay tiempo para actuar y un papel para todos. MIT Technology Review se sentó con ella para hablar sobre por qué está preocupada y qué cree que podemos hacer al respecto.
Las siguientes preguntas y respuestas se han resumido y editado para mayor claridad.
Usted menciona que actualmente estamos viendo una convergencia de tendencias tecnológicas, políticas y económicas preocupantes. ¿Puedes ampliar cuáles son las tendencias tecnológicas?
Cuando hable con un investigador que trabaja en el campo, le dirá que pasará mucho tiempo antes de que veamos muchas de las promesas que se han hecho sobre la IA: cosas como la automatización total en vehículos, reconocimiento absoluto o sistemas de inteligencia general artificial (AGI, por sus siglas en inglés) que son capaces de cognición y pensamiento más similar al humano.
Desde mi punto de vista, mirar hacia el horizonte para el día en que tengamos una especie de máquina que camina y habla, o una máquina con una voz incorpórea que toma decisiones autónomas, de alguna manera pierde el punto. Ya estamos viendo miles de millones de pequeños avances que tendrán un efecto combinado con el tiempo y conducirán a sistemas que pueden tomar muchas decisiones de manera autónoma a la vez.
El equipo de DeepMind, por ejemplo, ha trabajado arduamente para enseñar a las máquinas cómo vencer a los humanos en los juegos. Han avanzado bastante en áreas como el aprendizaje por refuerzo jerárquico y el aprendizaje multitarea. La última versión de su algoritmo AlphaGo, AlphaZero, es capaz de aprender a jugar tres juegos a la vez sin un humano en el circuito. Ese es un salto bastante grande. También está el campo muy nuevo de redes antagónicas generativas, donde con un corpus de imágenes de tamaño decente, ahora puede generar rostros humanos que se ven muy, muy realistas.
Estos avances no son tan sexys ni tan emocionantes como lo que nos han dicho sobre AGI. Pero si puede tomar la vista de 40,000 pies, puede ver que nos dirigimos a una situación en la que los sistemas tomarán decisiones por nosotros. Y tenemos que detenernos y preguntarnos qué sucede cuando esos sistemas dejan de lado la estrategia humana en favor de algo totalmente desconocido para nosotros.
¿Qué pasa con las tendencias políticas y económicas? ¿Puedes describir las que más te preocupan?
En los Estados Unidos, el libre flujo de ideas puede propagarse sin trabas. Así se fundó Silicon Valley. Ha generado tanto competencia como innovación, y así es como llegamos a donde estamos ahora con IA entre otros tipos de tecnologías.
Los Nueve Grandes: Cómo los titanes tecnológicos y sus máquinas pensantes podrían deformar a la humanidad por Amy Webb
Sin embargo, en los Estados Unidos también sufrimos de una trágica falta de previsión. En lugar de crear una gran estrategia para la IA o para nuestro futuro a largo plazo, el gobierno federal ha eliminado la financiación de la investigación científica y tecnológica. Así que el dinero debe venir del sector privado. Pero los inversores también esperan algún tipo de retorno. Eso es un problema. No puede programar sus avances en I+D cuando está trabajando en tecnología e investigación fundamentales. Sería fantástico si las grandes empresas de tecnología tuvieran el lujo de trabajar muy duro sin tener que organizar una conferencia anual para mostrar su último y más grande avance. En cambio, ahora tenemos innumerables ejemplos de malas decisiones que tomó alguien en G-MAFIA, probablemente porque estaban trabajando rápido. Estamos empezando a ver los efectos negativos de la tensión entre hacer una investigación que sea en el mejor interés de la humanidad y hacer felices a los inversores.
Ahora que sería lo suficientemente malo como es, ¿verdad? Pero todo esto sucede al mismo tiempo que se está consolidando una enorme cantidad de poder en China. China tiene un fondo soberano de riqueza dedicado a la investigación básica fundamental en IA. Están arrojando enormes cantidades de dinero a la IA. Y tienen una idea totalmente diferente a la de los EE. UU. cuando se trata de privacidad y datos. Esto significa que tienen muchos más datos que se pueden extraer y refinar. Con una autoridad central, es muy fácil para el gobierno probar y crear servicios de inteligencia artificial que incorporen datos de 1300 millones de personas. Y eso es solo dentro de su propio país.
Luego tienen la iniciativa Belt and Road, que parece un programa de infraestructura tradicional pero en parte también es digital. No se trata solo de construir carreteras y puentes; también se trata de construir redes 5G y tender fibra, y de extraer y refinar datos en el extranjero. El despliegue de estas tecnologías es un riesgo para las personas que se preocupan por cosas como la libertad de expresión y los ideales democráticos occidentales.
¿Por qué deberíamos luchar por los ideales democráticos occidentales?
Es una gran pregunta. He vivido en China, en Japón y, obviamente, en los Estados Unidos. Y podría mirar el estado de nuestro país en este momento y lo que está sucediendo en China y preguntarse, ¿es eso realmente lo peor? El sistema de puntuación de crédito social de China, por cierto, suena extraño y horrible para los estadounidenses, pero lo que mucha gente no se da cuenta es que el autoinforme y el seguimiento del comportamiento dentro de las aldeas y comunidades ha sido parte de la cultura china desde siempre. El puntaje de crédito social simplemente automatiza eso. Así que sí, esa es una excelente pregunta.
Supongo que lo que diría es que si tuviera que mirar la versión idealizada del comunismo chino y la versión idealizada de la democracia occidental, elegiría la democracia occidental porque creo que hay una mejor oportunidad para el libre flujo de ideas y para el día a día. gente para triunfar. Creo que dar incentivos a las personas para el logro individual y personal es una excelente manera de levantar una sociedad, nos ayuda a alcanzar nuestro potencial individual.
Con la dirección en la que se dirige el mundo con la IA hoy, ¿es una comparación justa? ¿Deberíamos comparar las versiones idealizadas del comunismo chino con la democracia occidental, o las peores versiones de las dos?
Esa es una gran pregunta porque se podría argumentar que partes del ecosistema de IA ya están impactando nuestros ideales democráticos occidentales de una manera verdaderamente negativa. Evidentemente, todo lo que ha pasado con Facebook sirve de ejemplo. Pero también mira lo que está pasando con la comunidad antivacunas. Están difundiendo información totalmente incorrecta sobre vacunas y ciencia básica. Nuestras tradiciones estadounidenses dirán libertad de expresión, las plataformas son plataformas, debemos dejar que las personas se expresen. Bueno, el desafío con eso es que los algoritmos están tomando decisiones sobre el contenido editorial que están llevando a las personas a tomar decisiones muy malas y, como resultado, enferman a los niños.
El problema es que nuestra tecnología se ha vuelto cada vez más sofisticada, pero nuestro pensamiento sobre qué es la libertad de expresión y cómo es una economía de libre mercado no se ha vuelto tan sofisticado. Tendemos a recurrir a interpretaciones muy básicas: la libertad de expresión significa que todo el discurso es libre a menos que se enfrente a la ley de difamación, y ese es el final de la historia. Ese no es el final de la historia. Necesitamos comenzar a tener una conversación más sofisticada e inteligente sobre nuestras leyes actuales, nuestra tecnología emergente y cómo podemos hacer que esos dos se encuentren en el medio.
En otras palabras, tienes fe en que evolucionaremos desde donde estamos ahora hacia una versión más idealizada de la democracia occidental. Y preferirías eso al comunismo chino idealizado.
Sí, tengo fe en que es posible. Mi gran preocupación es que todo el mundo está esperando, que estamos arrastrando los talones y que se necesitará una verdadera catástrofe para que la gente tome medidas, como si el lugar al que hemos llegado no fuera catastrófico. Pero el hecho de que el sarampión está de vuelta en el estado de Washington para mí es un resultado catastrófico. También lo es lo que sucedió después de las elecciones. Independientemente del lado del espectro político en el que se encuentre, no puedo imaginar que nadie hoy piense que el clima político actual es bueno para nuestro futuro.
Así que creo absolutamente que hay un camino a seguir. Pero necesitamos unirnos y cerrar la brecha entre Silicon Valley y DC para que todos podamos dirigir el barco en la misma dirección.
¿Qué recomienda que hagan el gobierno, las empresas, las universidades y los consumidores individuales?
La vía de desarrollo de la IA es un problema, y cada uno de nosotros tiene algo en juego. Tú, yo, mi papá, mi vecino de al lado, el tipo del Starbucks por el que paso ahora mismo. Entonces, ¿qué debe hacer la gente común? Sea más consciente de quién está usando sus datos y cómo. Tómese unos minutos para leer el trabajo escrito por personas inteligentes y dedique un par de minutos a descubrir de qué estamos hablando realmente. Antes de firmar su vida y comenzar a compartir fotos de sus hijos, hágalo de manera informada. Si está de acuerdo con lo que implica y lo que podría significar más adelante, está bien, pero al menos tenga ese conocimiento primero.
Las empresas y los inversores no pueden esperar apresurar un producto una y otra vez. Nos está preparando para problemas en el futuro. Por lo tanto, pueden hacer cosas como reforzar sus procesos de contratación, aumentar significativamente sus esfuerzos para mejorar la inclusión y asegurarse de que su personal sea más representativo de cómo es el mundo real. También pueden poner algunos frenos. Cualquier inversión que se haga en una empresa o proyecto de IA, o lo que sea, también debe incluir fondos y tiempo para verificar cosas como el riesgo y el sesgo.
Las universidades deben crear espacio en sus programas para títulos híbridos. Deben incentivar a los estudiantes de CS a estudiar literatura comparada, religiones del mundo, microeconomía, antropología cultural y cursos similares en otros departamentos. Deberían promover programas de doble titulación en informática y relaciones internacionales, teología, ciencias políticas, filosofía, salud pública, educación y similares. La ética no debe enseñarse como una clase independiente, algo para simplemente marcar una lista. Las escuelas deben incentivar, incluso a los profesores titulares, a entretejer debates complicados sobre prejuicios, riesgos, filosofía, religión, género y ética en sus cursos.
Una de mis mayores recomendaciones es la formación de GAIA, lo que llamo la Alianza Global sobre Aumento de Inteligencia. En este momento, las personas de todo el mundo tienen actitudes y enfoques muy diferentes en lo que respecta a la recopilación y el intercambio de datos, lo que puede y debe automatizarse y cómo podría ser un futuro con sistemas más inteligentes en general. Así que creo que deberíamos crear algún tipo de organización central que pueda desarrollar normas y estándares globales, algún tipo de barandilla para imbuir no solo los ideales estadounidenses o chinos dentro de los sistemas de IA, sino visiones del mundo que sean mucho más representativas para todos.
Sobre todo, tenemos que estar dispuestos a pensar en esto a mucho más largo plazo, no solo dentro de cinco años. Tenemos que dejar de decir: Bueno, no podemos predecir el futuro, así que no nos preocupemos por eso ahora. Es cierto, no podemos predecir el futuro. Pero ciertamente podemos hacer un mejor trabajo al planificarlo.
Una versión abreviada de esta historia apareció originalmente en nuestro boletín de AI The Algorithm. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.