211service.com
Robots militares: armados, pero ¿qué tan peligrosos?
Un carta abierta La semana pasada, miles de científicos y tecnólogos firmaron un llamado a prohibir las armas letales controladas por máquinas artificialmente inteligentes, lo que refleja la creciente preocupación de que el rápido progreso en inteligencia artificial pueda aprovecharse para hacer que las máquinas asesinas sean más eficientes y menos responsables, tanto en el campo de batalla y fuera. Pero los expertos están más divididos sobre el tema de las máquinas para matar robots de lo que cabría esperar.
La carta, presentada en la Conferencia Internacional Conjunta sobre Inteligencia Artificial en Buenos Aires, Argentina, fue firmado por muchos investigadores líderes en IA, así como por destacados científicos y empresarios, incluidos Elon Musk, Stephen Hawking y Steve Wozniak. La carta dice:
La tecnología de inteligencia artificial (IA) ha llegado a un punto en el que el despliegue de dichos sistemas es factible, en la práctica, si no legalmente, en unos años, no décadas, y hay mucho en juego: las armas autónomas se han descrito como la tercera revolución en la guerra, después de la pólvora y armas nucleares
De hecho, se han logrado rápidos avances en inteligencia artificial en los últimos años, especialmente en el campo del aprendizaje automático, que implica enseñar a las computadoras a reconocer patrones a menudo complejos o sutiles en grandes cantidades de datos. Y esto está dando lugar a preguntas éticas sobre las aplicaciones de la tecnología en el mundo real (ver Cómo hacer que los autos sin conductor tomen decisiones éticas).
Mientras tanto, la tecnología militar ha avanzado para permitir que las acciones se realicen de forma remota, por ejemplo, utilizando aviones no tripulados o robots de desactivación de bombas, lo que aumenta la posibilidad de que esas acciones puedan automatizarse.
El tema de la automatización de las armas letales ha sido una preocupación para los científicos, así como para los expertos militares y políticos durante algún tiempo. En 2012, el Departamento de Defensa de los Estados Unidos emitió un directiva prohibir el desarrollo y uso de armas autónomas y semiautónomas durante 10 años. A principios de este año, las Naciones Unidas celebraron una reunión para discutir el tema de las armas automáticas letales y la posibilidad de tal prohibición.
Pero mientras que los drones o robots militares bien podrían volverse más automatizados, algunos dicen que la idea de máquinas totalmente independientes capaces de llevar a cabo misiones letales sin asistencia humana es más fantasiosa. Sin embargo, dado que aún quedan muchos desafíos fundamentales en el campo de la inteligencia artificial, no está nada claro cuándo podría llegar realmente la tecnología necesaria para las armas totalmente autónomas.
Estamos empujando nuevas fronteras en inteligencia artificial, dice Patricio Lin , profesor de filosofía en la Universidad Politécnica Estatal de California. Y mucha gente es escéptica, con razón, de que alguna vez avance hasta el punto en que tenga algo llamado autonomía total. Nadie es realmente un experto en predecir el futuro.
Lin, quien prestó testimonio en la reciente reunión de la ONU, agrega que la carta no toca el complejo debate ético detrás del uso de la automatización en los sistemas de armas. La carta es útil para crear conciencia, dice, pero no es tanto un llamado al debate; está tratando de terminar el debate, diciendo 'Lo hemos resuelto y todos deben seguir adelante'.
stuart russell , un destacado investigador de IA y profesor de la Universidad de California, Berkeley, descarta esta idea. Simplemente no es cierto que no haya habido debate, dice. Pero es cierto que las comunidades de IA y robótica han sido en su mayoría felizmente ignorantes de este problema, tal vez porque sus sociedades profesionales lo han ignorado.
Un tema de debate, que la carta sí reconoce, es que las armas automáticas posiblemente podrían ayudar a reducir las bajas no deseadas en algunas situaciones, ya que serían menos propensas al error, la fatiga o las emociones que los combatientes humanos.
Sin embargo, quienes están detrás de la carta tienen poco tiempo para este argumento.
Max Tegmark , físico del MIT y miembro fundador de la Instituto Futuro de la Vida , que coordinó la firma de la carta, dice que la idea de armas automatizadas éticas es una pista falsa. Creo que es bastante irrelevante, francamente, dice. Falta el gran punto sobre a qué conducirá esto si uno comienza esta carrera armamentista de IA. Si supone que solo EE. UU. construirá estas armas y que la cantidad de conflictos seguirá siendo exactamente la misma, entonces sería relevante.
El Future of Life Institute ha emitido una advertencia más general sobre los riesgos a largo plazo que plantea la IA sin restricciones, advirtiendo que podría presentar serios peligros en el futuro.
Este es un tema bastante diferente, dice Russell. Aunque existe una conexión, en el sentido de que si a uno le preocupa perder el control de los sistemas de IA a medida que se vuelven más inteligentes, tal vez no sea una buena idea entregarles nuestros sistemas de defensa.
Si bien muchos expertos en IA parecen compartir esta amplia preocupación, algunos la ven un poco fuera de lugar. Por ejemplo, marcus gary , un científico cognitivo e investigador de inteligencia artificial en la Universidad de Nueva York, ha argumentó que las computadoras no necesitan volverse artificialmente inteligentes para plantear muchos otros riesgos graves, por ejemplo, para los mercados financieros o los sistemas de tráfico aéreo.
Lin dice que si bien el concepto de robots asesinos sin control es obviamente preocupante, el tema de las armas automáticas merece una discusión más matizada. Emocionalmente, es un caso bastante sencillo, dice Lin. Intelectualmente creo que necesitan trabajar más.