Por qué los investigadores de IA no deberían dar la espalda a los militares

Ejercítio EE.UU

Más de 2400 investigadores de IA firmaron recientemente un promesa prometiendo no construir las llamadas armas autónomas, sistemas que decidirían por sí mismos a quién matar. Esto sigue a la decisión de Google de no renovar un contrato para suministrar al Pentágono inteligencia artificial para el análisis de imágenes de drones después de que la compañía se vio presionada por muchos empleados que se oponían a su trabajo en un proyecto conocido como Maven.

Paul Scharre, el autor de un nuevo libro, Army of None: Armas autónomas y el futuro de la guerra , cree que los investigadores de IA deben hacer más que optar por no participar si quieren generar un cambio.

Pablo Scharre. Imágenes de Win McNamee/Getty

Scharre, guardabosques del ejército en Irak y Afganistán y ahora miembro sénior del Center for a New American Security, argumenta que los expertos en IA deberían colaborar con los legisladores y los profesionales militares para explicar por qué los investigadores están preocupados y ayudarlos a comprender la limitaciones de los sistemas de IA.

Scharre habló con CON Revisión de tecnología el editor sénior Will Knight sobre la mejor manera de detener una carrera armamentista de IA potencialmente peligrosa.

paulscharre.com

¿Qué tan interesado está el ejército de los EE. UU. en desarrollar armas de IA?

Los líderes de defensa de EE.UU. han repetido fijado que sus intención es mantener a un humano informado y responsable de las decisiones de fuerza letal. Ahora, la advertencia es que también han reconocido que si otros países construyen armas autónomas, entonces pueden verse obligados a hacer lo mismo. Y ese es el riesgo real: si un país cruza esta línea, otros pueden sentir que tienen que responder de la misma manera solo para seguir siendo competitivos.

Sin embargo, ¿realmente se puede confiar en estas promesas?

Creo que los altos funcionarios de defensa de EE. UU. son sinceros en cuanto a que quieren que los humanos sigan siendo responsables del uso de la fuerza letal. Los profesionales militares ciertamente no quieren que sus armas se vuelvan locas. Habiendo dicho eso, sigue siendo una pregunta abierta cómo traducir un concepto amplio como la responsabilidad humana sobre la fuerza letal en una guía de ingeniería específica sobre qué tipos de armas están permitidas. La definición de lo que constituye un arma autónoma ya está en disputa, por lo que puede haber diferentes puntos de vista sobre cómo poner en práctica esos principios.

¿Por qué deben involucrarse los tecnólogos?

Los investigadores de IA deben ser parte de estas conversaciones, ya que su experiencia técnica es vital para dar forma a las opciones de política. Necesitamos tener en cuenta el sesgo de la IA, la transparencia, la explicabilidad, la seguridad y otras preocupaciones. La tecnología de inteligencia artificial tiene estas características gemelas en la actualidad: es poderosa pero también tiene muchas vulnerabilidades, al igual que las computadoras y los riesgos cibernéticos. Desafortunadamente, los gobiernos parecen haber captado la primera parte de ese mensaje (la IA es poderosa) pero no la segunda (viene con riesgos). Los investigadores de IA pueden ayudar a los gobiernos y los militares a comprender mejor por qué están tan preocupados por las consecuencias de convertir esta tecnología en un arma. Para presentar ese caso de manera efectiva, los investigadores de IA deben ser parte de un diálogo constructivo.

¿Qué opina del reciente compromiso contra las armas autónomas, organizado por el Future of Life Institute?

No es el primer llamado a la acción de los científicos de IA; se basa en cartas abiertas anteriores sobre armas autónomas en 2015 y 2017 . Pero estas cartas son un gesto simbólico y probablemente tengan rendimientos decrecientes en su efectividad. Los países también han estado discutiendo sobre armas autónomas en las Naciones Unidas desde 2014, y la presión de los científicos de IA agrega una dimensión importante a la conversación, pero aún tiene que convencer a las principales potencias militares para que apoyen una prohibición total. Sería más impactante que más investigadores de IA asistan a las reuniones de la ONU y ayuden a los formuladores de políticas a comprender por qué los científicos de IA están tan preocupados.

¿Qué pasa con la decisión de Google de no renovar su contrato con el Pentágono?

Fue un poco sorprendente porque Maven en realidad no involucró armas autónomas ni objetivos y parecía cumplir con el recientemente publicado por Google. principios de IA . Pero la competencia por los mejores talentos de IA es feroz, y sospecho que Google no podría arriesgarse a que algunos de sus mejores ingenieros renuncien como protesta.

¿Crees que tales gestos ayudarán a ralentizar el desarrollo de armas autónomas?

Cuando se trata de Maven, Google no participó ni siquiera en la construcción de armas controladas por humanos, y mucho menos en armas autónomas, por lo que no hay una conexión directa allí. La carta de compromiso, por supuesto, está dirigida directamente a las armas autónomas. Pero no creo que ninguno de los dos tenga un efecto importante en la forma en que los militares incorporan la IA y la autonomía en sus armas, ya que es probable que los contratistas de defensa construyan las armas. Si las principales empresas tecnológicas como Google optan por no trabajar con militares, eso podría retrasar la incorporación de la tecnología de inteligencia artificial en funciones de soporte vitales como el análisis de datos, que estaba haciendo Maven. Pero eventualmente otras compañías intervendrán para llenar el vacío. Ya hemos visto otro compañías decir públicamente que quieren trabajar con los militares.

¿Podrían estos esfuerzos tener consecuencias no deseadas también?

Pintar muchos usos legítimos de la IA como inaceptables podría abrir una brecha entre las comunidades técnicas y políticas y dificultar el discurso razonable. Los ingenieros deben abstenerse absolutamente de trabajar en proyectos que no pueden respaldar, pero cuando esas motivaciones personales pasan a presionar a otros para que dejen de trabajar en aplicaciones de seguridad nacional importantes y legítimas, dañan la seguridad pública y afectan los derechos de otros ingenieros de perseguir su propia conciencia. Los países democráticos necesitarán usar la tecnología de IA para una variedad de importantes y legales seguridad nacional fines: inteligencia, contraterrorismo, seguridad fronteriza, ciberseguridad y defensa.

¿Estados Unidos ya está en una carrera armamentista de armas de IA con China?

China ha declarado públicamente su intención de convertirse en el líder mundial en inteligencia artificial para 2030 y está aumentando su investigación y reclutando a los mejores talentos de todo el mundo. El modelo de fusión militar-civil de China también significa que la investigación de IA fluirá fácilmente de las empresas tecnológicas al ejército sin el tipo de barreras que algunos empleados de Google pretenden erigir en los Estados Unidos. china tiene Ya empezadó para sentar las bases de un estado de tecnovigilancia potenciado por IA.

Si las tácticas de los investigadores de IA solo logran frenar la adopción de herramientas de IA en sociedades abiertas y democráticas que valoran el comportamiento ético, su trabajo podría contribuir a marcar el comienzo de un futuro en el que la tecnología más poderosa esté en manos de regímenes a los que menos les importa la ética. y el estado de derecho.

En su libro, usted señala que definir la autonomía puede ser complicado. ¿No complicará esto la discusión sobre los usos militares de la IA?

Los autores del reciente compromiso contra las armas autónomas se oponen a las armas autónomas que matarían a una persona, pero reconocen que se necesitarían algunos tipos de sistemas autónomos para defenderse de otras armas similares. Es el área gris donde podría ser necesaria la autonomía para defenderse contra el armamento y una persona todavía está a bordo, como al apuntar a un avión de combate o un submarino, donde radica el verdadero desafío. Equilibrar objetivos contrapuestos no es sencillo, y los responsables de la formulación de políticas se enfrentarán a opciones reales a medida que adopten esta tecnología.

Los ingenieros de IA tendrán un mayor impacto en la configuración de estas opciones si se involucran en un diálogo constructivo y continuo con los formuladores de políticas, en lugar de optar por no participar. Los investigadores de IA que se preocupan por cómo se usa la tecnología serán más efectivos si van más allá de las campañas de presión y comienzan a ayudar a educar a los legisladores sobre la tecnología de IA actual y sus limitaciones.

esconder