211service.com
Doomsday Grants impulsará importantes investigaciones sobre IA
Incluso si no teme el aumento inminente de las máquinas superinteligentes, hay motivos para animar la obtención de nuevos fondos para investigar el tema, ya que podría ayudar a que la inteligencia artificial sea más práctica a corto plazo.
El progreso reciente en informática, especialmente el aprendizaje automático, ha coincidido con algunas especulaciones notablemente directas sobre adónde podría llevarnos la inteligencia artificial. El año pasado, el empresario multimillonario Elon Musk advirtió abiertamente que la investigación de IA corría el riesgo de convocar al demonio y podría representar la mayor amenaza existencial para la humanidad. Otras figuras destacadas, incluidos Bill Gates y Stephen Hawking, también han expresado su preocupación por los riesgos potenciales de desarrollar máquinas verdaderamente inteligentes.
El Instituto Futuro de la Vida , una organización fundada en Cambridge, Massachusetts, para mitigar los posibles riesgos existenciales que plantea la IA, esta semana anunció $ 7 millones en subvenciones para proyectos dedicados a mantener la IA robusta y beneficiosa. La subvención fue financiada en gran parte por Musk, quien ha donado 10 millones de dólares al instituto.
Tal vez tenga sentido considerar resultados tan indeseables, pero todavía estamos muy lejos de crear algo que podamos considerar genuinamente inteligente. Si bien algunos de los 37 proyectos que recibirán fondos del Future of Life Institute exploran escenarios bastante lejanos que involucran una IA extremadamente poderosa, otros abordan esfuerzos importantes para hacer que el software sea más confiable, responsable y útil en contextos complejos o ambiguos.
Por ejemplo:
* fuxin li , un científico investigador de Georgia Tech, estudiará formas de comprender y predecir errores en los sistemas de aprendizaje profundo. Este es un esfuerzo muy valioso. Si bien estas redes neuronales avanzadas han producido resultados espectaculares en los últimos años en áreas como el reconocimiento de imágenes y voz, pueden fallar de manera sorprendente.
* Stefano Ermón , profesor asistente en la Universidad de Stanford, investigará formas de hacer que los agentes autónomos se comporten racionalmente en situaciones complejas. Eventualmente, esto podría, por ejemplo, ayudar a un automóvil automatizado a sopesar los riesgos planteados por diferentes acciones en una situación compleja, lo que le permitiría actuar en última instancia de una manera que encontraríamos más responsable y éticamente aceptable.
* Seth manada , investigador de la Universidad de Colorado, buscará aplicar la investigación neurocientífica sobre la toma de decisiones humanas a los esfuerzos para construir hardware informático con los llamados sistemas neuromórficos, inspirados en el cerebro. Esto podría arrojar información importante sobre el diseño de estos sistemas y apuntar a algunas aplicaciones novedosas.
* Manuela Veloso , profesor de la Universidad Carnegie Mellon, liderará un esfuerzo para desarrollar formas en que las máquinas puedan explicar su comportamiento a los humanos. Puede ser difícil incluso para los expertos comprender por qué una máquina se comporta de forma inesperada. Mejorar esta situación podría ser especialmente importante a medida que los robots comiencen a trabajar más de cerca con los humanos.
Irónicamente, estos proyectos de investigación también muestran cuán lejos estamos de construir algo que posiblemente podría conquistar el mundo. Y aunque tal vez tenga sentido considerar los riesgos futuros mientras todavía hay mucho tiempo, esperemos que la ansiedad por los escenarios futuristas no represente un riesgo para el progreso tecnológico significativo.