Por qué los investigadores de IA deberían reconsiderar la participación en protestas en proyectos militares

jeremy puerto

Los trabajadores de la industria tecnológica que protestaron contra los contratos con el ejército deberían reconsiderar su posición, según un asesor del Departamento de Defensa.

Brendan McCord, un experto en inteligencia artificial que participó en el Proyecto Maven, el programa del Departamento de Defensa para acelerar la inteligencia artificial y el aprendizaje automático para usos militares, dijo que era necesario un compromiso constructivo con las fuerzas armadas para evitar malas decisiones.

En junio, Google dicho ya no funcionaría con Project Maven después de más de 4.000 empleados firmó una carta que acusó a la empresa de estar en el negocio de la guerra.

Pero hablando en EmTech Digital, la conferencia de IA de MIT Technology Review, McCord dijo que sería mejor para la sociedad en su conjunto ver que tales colaboraciones continúan, y que los empleados disidentes involucrados en proyectos de IA reexaminen su postura.

La mayoría aquí hoy estaría de acuerdo en que los militares y su papel en la disuasión, la ofensiva y la defensa son parte del mundo, y lo serán en el futuro previsible, dijo. Una estrategia de compromiso constructivo frente a una de optar por no participar es mucho más óptima.

Trabajar en IA para la defensa no lo hace menos sensato, agregó.

La naturaleza reservada del Proyecto Maven, que se decía que se centraba en mejorar el análisis de las imágenes capturadas por drones militares, había causado preocupación en un amplio grupo de investigadores de IA. Pero las fuerzas armadas de EE. UU. siguen siendo una fuerza poderosa para promover la paz y la estabilidad en el mundo, dijo McCord, lo que refleja los argumentos de que los investigadores de IA que rechazan a las fuerzas armadas por principio en realidad están dando la ventaja a aquellos con estándares éticos menos rigurosos, incluidas otras naciones.

Si bien McCord dijo que no esperaría que los pacifistas contra la guerra cambiaran de opinión, pidió a los investigadores que consideraran qué sucedería si otros países hicieran sus propios avances en campos emergentes. Una actitud más positiva hacia los militares era particularmente importante, agregó, ya que los gobiernos ahora juegan un papel menor en el desarrollo de nuevos descubrimientos tecnológicos que antes.

Al final de la Guerra Fría, el lugar de la innovación se desplazó al sector privado, dijo. El mundo ha cambiado. La capacidad de gobierno y el papel del gobierno se han reducido hasta un punto en el que, en mi opinión, nunca ha estado tan bajo. El efecto neto es que las grandes empresas de tecnología han asumido el rol, lo quieran o no, de ser los árbitros. A menudo se autorregulan.

Muchos desarrollos tecnológicos importantes, incluidos Internet, GPS y asistentes virtuales, se han producido como resultado de la inversión del Departamento de Defensa. Pero desde el final de la Guerra Fría, el gasto en investigación y desarrollo del Departamento de Defensa ha disminuido. A mediados de la década de 1980, los presupuestos de investigación y desarrollo gubernamentales y privados eran aproximadamente iguales: alrededor de $ 55 mil millones anuales. Desde entonces, el gobierno ha duplicado su inversión, mientras que las empresas privadas, como Google, Microsoft, Facebook y Amazon, han aumentado drásticamente los presupuestos privados a más de $350 mil millones cada año.

NSF, Centro Nacional de Estadísticas de Ciencia e Ingeniería, Patrones Nacionales de Recursos de I+D (serie anual)

Sin embargo, si bien las grandes empresas tecnológicas pueden no ser transparentes sobre su trabajo, el gobierno ha recibido críticas por su parte. Se informó a principios de esta semana por el Intercept que el Pentágono ha rechazado las solicitudes de libertad de información de datos sobre el Proyecto Maven , alegando que sus documentos están exentos del escrutinio público.

McCord conserva una función de asesor en el Departamento de Defensa, pero recientemente dejó su trabajo de tiempo completo allí para unirse al sector privado. Ahora tiene un puesto de alto nivel en Tulco Labs, una nueva empresa enfocada en la innovación en el trabajo fundada por el multimillonario del entretenimiento Thomas Tull.

Terminó diciendo que es imperativo que los empleados de la industria ayuden a mantener a raya a sus empleadores, citando al biólogo y teórico E.O. Wilson.

El verdadero problema de la humanidad, dijo, es que tenemos emociones paleolíticas, instituciones medievales y tecnología divina.

esconder