211service.com
Google se vuelve práctico sobre los peligros de la IA
¿Podrían las máquinas volverse tan inteligentes y poderosas que representen una amenaza para la vida humana, o incluso para la humanidad en su conjunto?
Es una pregunta que se ha puesto de moda en algunas partes de Silicon Valley en los últimos años, a pesar de ser más o menos irreconciliable con los robots simples y los asistentes virtuales defectuosos de hoy (ver AI Doomsayer Says His Ideas Are Catching On). Algunos expertos en inteligencia artificial creen que la especulación sobre los peligros del futuro software súper inteligente está dañando el campo.
Ahora Google, una empresa que ha invertido mucho en inteligencia artificial, está tratando de encontrar un camino intermedio. A nuevo papel publicado hoy describe cinco problemas que los investigadores deberían investigar para ayudar a que el futuro software inteligente sea más seguro. en un entrada en el blog en el artículo, el investigador de Google Chris Olah dice que muestran cómo el debate sobre la seguridad de la IA puede volverse más concreto y productivo.
La mayoría de las discusiones anteriores han sido muy hipotéticas y especulativas, escribe. Creemos que es esencial fundamentar las preocupaciones en la investigación real del aprendizaje automático y comenzar a desarrollar enfoques prácticos para diseñar sistemas de inteligencia artificial que funcionen de manera segura y confiable.
Olah usa un robot de limpieza para ilustrar algunos de sus cinco puntos. Un área de preocupación es evitar que los sistemas logren sus objetivos haciendo trampa. Por ejemplo, el robot de limpieza podría descubrir que puede satisfacer su programación para limpiar las manchas ocultándolas en lugar de eliminarlas realmente.
Otro de los problemas planteados es cómo hacer que los robots sean capaces de explorar nuevos entornos de forma segura. Por ejemplo, un robot de limpieza debería poder experimentar con nuevas formas de usar herramientas de limpieza, pero no intentar usar un trapeador húmedo en un tomacorriente.
Olah describe los cinco problemas en un nuevo artículo en coautoría con el colega de Google Dario Amodei, con contribuciones de otros en Google, la Universidad de Stanford, la Universidad de California, Berkeley y OpenAI, un instituto de investigación cofundado y parcialmente financiado por el CEO y emprendedor en serie de Tesla, Elon. Almizcle.
Musk, quien alguna vez comparó trabajar en inteligencia artificial con invocar al demonio, hizo de la creación de una IA segura uno de los objetivos fundamentales de OpenAI (ver ¿Qué se necesita para construir una IA virtuosa?).
Google también ha hablado de un compromiso para garantizar que el software de inteligencia artificial no tenga consecuencias no deseadas. De la empresa primer trabajo de investigacion sobre el tema fue lanzado este mes por su grupo DeepMind en Londres. El líder de DeepMind, Demis Hassabis, también convocó una junta de ética para considerar las posibles desventajas de la IA, aunque sus miembros no han sido revelados (ver Cómo Google planea resolver la inteligencia artificial).
Oren Etzioni, director general de la Instituto Allen para la IA , da la bienvenida al enfoque descrito en el nuevo documento de Google. Anteriormente criticó las discusiones sobre los peligros de la IA por ser demasiado vagas para que los científicos o ingenieros participen productivamente. Pero los escenarios presentados por Google son lo suficientemente específicos como para permitir una investigación real, incluso si aún no está claro si tales experimentos serán útiles en la práctica, dice.
Son las personas adecuadas las que hacen las preguntas adecuadas, dice Etzioni. En cuanto a las respuestas correctas, el tiempo lo dirá.