211service.com
No seas AI-vil: Google dice que sus algoritmos no harán daño
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (El proyecto sustantivo)
Google ha creado un código de ética de inteligencia artificial que prohíbe el desarrollo de armas autónomas. Pero los principios dejan suficiente margen de maniobra para que Google se beneficie de lucrativos acuerdos de defensa en el futuro.
El anuncio se produce a raíz de una importante protesta interna sobre el uso de la tecnología de inteligencia artificial de Google por parte de una iniciativa del Departamento de Defensa llamada Equipo interfuncional de guerra algorítmica. El objetivo de este emprendimiento, conocido internamente como Proyecto Maven , es mejorar la precisión de los ataques con drones, entre otras cosas.
El mes pasado, una docena de trabajadores de Google renunciaron por el escándalo y muchos más firmaron una carta abierta de protesta.
El alboroto captura los temores que muchos tienen sobre cómo la tecnología podría ayudar a automatizar la guerra en el futuro. Sin embargo, la situación no es sencilla.
La inteligencia artificial podría ayudar a que algunos sistemas de armas sean más seguros y menos propensos a errores. También hay muchas aplicaciones mundanas de la IA en la industria de la defensa. Google no quiere rechazar este enorme mercado potencial para su tecnología de inteligencia artificial en la nube.
El CEO de Google, Sundar Pichai, anunció el nuevo código en una publicación de blog hoy. Sugiere siete principios para guiar el uso de la IA por parte de Google, afirmando que debería beneficiar a la sociedad; evitar el sesgo algorítmico; respetar la privacidad; someterse a pruebas de seguridad; ser responsable ante el público; mantener el rigor científico; y ponerse a disposición de otros de acuerdo con los mismos principios.
Pero Pichai también se esforzó en afirmar que Google no permitiría que su tecnología de inteligencia artificial se usara para desarrollar nada que pudiera causar daño, incluidas armas u otras tecnologías cuyo principal propósito o implementación sea causar o facilitar directamente lesiones a las personas.
Pichai dijo que Google también evitaría desarrollar tecnología de vigilancia que viole las normas internacionalmente aceptadas sobre derechos humanos, o cualquier tecnología que contravenga las leyes internacionales.
La inteligencia artificial se está desarrollando rápidamente y Google se ha topado con otros problemas relacionados con proyectos de IA. Uno de sus sistemas de visión por computadora, por ejemplo, identificó erróneamente repetidamente a personas de ascendencia africana como gorilas. La compañía abandonó su lema Don't be evil este abril, pero conserva una cultura idealista.
Los usos militares de la inteligencia artificial podrían ser cada vez más polémicos a medida que la tecnología se adopte de nuevas formas y las empresas busquen vender su tecnología de inteligencia artificial en la nube lo más ampliamente posible.
El aprendizaje automático y la inteligencia artificial inevitablemente se volverán más importantes para el trabajo de inteligencia y defensa. Otras compañías tecnológicas de EE. UU., incluidas Amazon y Microsoft, han ofertado en un proyecto de computación en la nube multimillonario con el Pentágono.