No, los expertos no creen que la IA superinteligente sea una amenaza para la humanidad

Si cree todo lo que lee, probablemente esté bastante preocupado por la perspectiva de una IA asesina superinteligente. El guardián , un periódico británico, prevenido recientemente que somos como niños jugando con una bomba, y una reciente semana de noticias El titular dice: La inteligencia artificial está llegando y podría acabar con nosotros.

Numerosos titulares de este tipo, alimentados por comentarios de personas como Elon Musk y Stephen Hawking, están fuertemente influenciados por el trabajo de un hombre: el profesor Nick Bostrom, autor del tratado filosófico Superinteligencia: caminos, peligros y estrategias .

Bostrom es un filósofo de Oxford, pero la evaluación cuantitativa de los riesgos es competencia de la ciencia actuarial. Puede ser apodado el primer filósofo actuarial prominente del mundo, aunque el término parece un oxímoron dado que la filosofía es un campo para argumentos conceptuales y la evaluación de riesgos es un ejercicio estadístico basado en datos.

Entonces, ¿qué dicen los datos? Bostrom agrega los resultados de cuatro encuestas diferentes de grupos como participantes en una conferencia llamada Filosofía y Teoría de la IA, celebrada en 2011 en Tesalónica, Grecia, y miembros de la Asociación Griega de Inteligencia Artificial (no proporciona tasas de respuesta ni la redacción de preguntas, y no da cuenta de la confianza en los datos recopilados en Grecia).

Sus hallazgos se presentan como probabilidades de que la IA de nivel humano se alcance en un tiempo determinado:

Para 2022: 10 por ciento.

Para 2040: 50 por ciento.

Para 2075: 90 por ciento.

Este agregado de cuatro encuestas es la principal fuente de datos sobre el advenimiento de la inteligencia a nivel humano en más de 300 páginas de argumentos filosóficos, fábulas y metáforas.

Para obtener una evaluación más precisa de la opinión de los principales investigadores en el campo, recurrí a los miembros de la Asociación Estadounidense de Inteligencia Artificial, un grupo de investigadores reconocidos por haber realizado contribuciones significativas y sostenidas en el campo.

A principios de marzo de 2016, AAAI envió una encuesta anónima en mi nombre, planteando la siguiente pregunta a 193 becarios:

En su libro, Nick Bostrom ha definido la Superinteligencia como “un intelecto que es mucho más inteligente que los mejores cerebros humanos en prácticamente todos los campos, incluida la creatividad científica, la sabiduría general y las habilidades sociales”. ¿Cuándo cree que alcanzaremos la Superinteligencia?

Durante la próxima semana más o menos, respondieron 80 becarios (una tasa de respuesta del 41 por ciento), y sus respuestas se resumen a continuación:

En esencia, según el 92,5 por ciento de los encuestados, la superinteligencia está más allá del horizonte previsible. Esta interpretación también está respaldada por comentarios escritos compartidos por los becarios.

Aunque la encuesta fue anónima, 44 becarios optaron por identificarse, incluidos Geoff Hinton (lumbrera del aprendizaje profundo), Ed Feigenbaum (Stanford, ganador del premio Turing), Rodney Brooks (robótica líder) y Peter Norvig (Google).

Los encuestados también compartieron varios comentarios, incluidos los siguientes:

Mucho, mucho, mucho más de 25 años. Lo más probable es que sean siglos. Pero no nunca.

Estamos compitiendo con millones de años de evolución del cerebro humano. Podemos escribir programas de un solo propósito que pueden competir con los humanos y, a veces, sobresalir, pero el mundo no está claramente compartimentado en preguntas de un solo problema.

Nick Bostrom es un alarmista profesional. El papel de su Instituto es encontrar amenazas existenciales para la humanidad. Los ve por todas partes. Estoy tentado a referirme a él como el 'Donald Trump' de AI.

Las encuestas, por supuesto, tienen un valor científico limitado. Son notoriamente sensibles a la redacción de las preguntas, la selección de los encuestados, etc. Sin embargo, es la única fuente de datos a la que recurrió el propio Bostrom.

Otra metodología sería extrapolar del estado actual de la IA al futuro. Sin embargo, esto es difícil porque no tenemos una medida cuantitativa del estado actual de la inteligencia a nivel humano. Hemos alcanzado la superinteligencia en juegos de mesa como el ajedrez y Go (ver Google's AI Masters Go una década antes de lo esperado) y, sin embargo, nuestros programas no superaron el 60 por ciento en las pruebas de ciencias de octavo grado, como ha demostrado la investigación del Instituto Allen (ver The El mejor programa de IA aún suspende una prueba de ciencias de octavo grado), o por encima del 48 por ciento en la desambiguación de oraciones simples (consulte La prueba de Turing más dura expone la estupidez de los chatbots).

Hay muchas preocupaciones válidas sobre la IA, desde su impacto en los trabajos hasta sus usos en sistemas de armas autónomos e incluso el riesgo potencial de la superinteligencia. Sin embargo, las predicciones de que la superinteligencia está en el horizonte previsible no están respaldadas por los datos disponibles. Además, las predicciones pesimistas a menudo no tienen en cuenta los beneficios potenciales de la IA en la prevención de errores médicos, la reducción de accidentes automovilísticos y más.

Finalmente, es posible que los sistemas de IA puedan colaborar con las personas para crear una superinteligencia simbiótica. Eso sería muy diferente del tipo pernicioso y autónomo previsto por el profesor Bostrom.

Oren Etzioni es director ejecutivo del Instituto Allen de Inteligencia Artificial y profesor de Ciencias de la Computación en la Universidad de Washington.

Actualizado el 2 de noviembre de 2016:

Estoy encantado de que los profesores Dafoe y Russell, que respondieron a mi artículo aquí, y parece que estoy de acuerdo en tres asuntos críticos. Uno, debemos abstenernos de los ataques ad hominem. Aquí, tengo que ofrecer una disculpa: no debería haber citado al miembro anónimo de AAAI que comparó al Dr. Bostrom con Donald Trump. No quise prestar mi voz a esa comparación; Me disculpé sinceramente con Bostrom por este paso en falso por correo electrónico, una disculpa que él aceptó amablemente. Dos, como científicos, necesitamos evaluar las declaraciones sobre el riesgo de la IA. basado en datos Ese fue el punto clave de mi breve artículo , y el artículo ofrecía datos únicos sobre este tema. En tercer lugar, también coincidimos en que los medios de comunicación han tergiversado las implicaciones del trabajo de Bostrom, un tema de gran preocupación que fue mitigado en cierta medida por el Informe de la Casa Blanca sobre IA . Por supuesto, diferimos en muchos de los detalles y las complejidades de los argumentos, pero el tiempo lo dirá.

esconder