Un juego de civilización puede ayudar a las personas a comprender la amenaza existencial de la IA

Categoría: Inteligencia artificial Al corriente 08 de enero

Investigadores de la Universidad de Cambridge crearon un mod de juego para Civilization que permite a las personas desarrollar y domesticar una superinteligencia que golpea a los humanos.

El juego: Shahar Avin del Centro para el Estudio del Riesgo Existencial de la universidad dice el juego permite a los jugadores desarrollar la capacidad de I + D de IA en su mundo virtual. El éxito es una IA más inteligente que la humana. Simultáneamente, el riesgo de IA deshonesto se acumula y se mitiga solo a través de la investigación de seguridad.

La meta: Queríamos probar nuestra comprensión de los conceptos relacionados con el riesgo existencial de la superinteligencia artificial desplegándolos en un simulador de mundo restringido pero rico, [y también probar cómo] los jugadores responden... cuando se les da la oportunidad de tomar decisiones de IA por sí mismos, me dijo Avin.

Miedo o aceptación: El proyecto también es una herramienta de divulgación, que lleva problemas serios a una audiencia más amplia. Avin es consciente de que podría perpetuar los temores sobre la IA. Sin embargo, argumenta que los jugadores ven el riesgo, pero también ven la gama de herramientas a su disposición para mitigarlo.