211service.com
Estados Unidos acaba de publicar 10 principios que espera hagan que la IA sea más segura
una bandera americana Día de Brandon/Unsplash
La Casa Blanca ha publicado 10 principios a los que deben adherirse las agencias gubernamentales al proponer nuevas regulaciones de IA para el sector privado. La medida es el último desarrollo de la Iniciativa Estadounidense de IA, lanzada a través de una orden ejecutiva del presidente Trump a principios del año pasado para crear una estrategia nacional para la IA. También es parte de un esfuerzo continuo para mantener el liderazgo de EE. UU. en el campo.
Los principios, publicados por la Oficina de Política Científica y Tecnológica (OSTP, por sus siglas en inglés) de la Casa Blanca, tienen tres objetivos principales: garantizar la participación pública, limitar el exceso normativo y, lo que es más importante, promover una IA confiable que sea justa, transparente y segura. Están intencionalmente definidos de manera amplia, dijo la subdirectora de tecnología de EE. UU. Lynne Parker durante una conferencia de prensa, para permitir que cada agencia cree regulaciones más específicas adaptadas a su sector.
En la práctica, ahora se requerirá que las agencias federales presenten un memorando a OSTP para explicar cómo cualquier regulación propuesta relacionada con la IA cumple con los principios. Aunque la oficina no tiene la autoridad para prohibir las regulaciones, el procedimiento aún podría proporcionar la presión y la coordinación necesarias para mantener un cierto estándar.
OSTP está intentando crear un tamiz regulatorio, dice R. David Edelman, director del Proyecto sobre Tecnología, Economía y Seguridad Nacional del MIT. Un proceso como este parece un intento muy razonable de incorporar algún control de calidad en nuestra política de IA.
Los principios (con mi traducción) son:
- Confianza pública en la IA. El gobierno debe promover aplicaciones de IA confiables, robustas y confiables.
- Participación pública. El público debe tener la oportunidad de dar su opinión en todas las etapas del proceso de elaboración de normas.
- Integridad científica y calidad de la información. Las decisiones políticas deben basarse en la ciencia.
- Evaluación y gestión de riesgos. Las agencias deben decidir qué riesgos son y cuáles no son aceptables.
- Beneficios y costos. Las agencias deben sopesar los impactos sociales de todas las regulaciones propuestas.
- Flexibilidad. Cualquier enfoque debería poder adaptarse a los cambios y actualizaciones rápidos de las aplicaciones de IA.
- Equidad y no discriminación. Las agencias deben asegurarse de que los sistemas de IA no discriminen ilegalmente.
- Divulgación y transparencia. El público confiará en la IA solo si sabe cuándo y cómo se está utilizando.
- Seguridad y proteccion. Las agencias deben mantener todos los datos utilizados por los sistemas de IA seguros y protegidos.
- Coordinación interinstitucional. Las agencias deben hablar entre sí para ser coherentes y predecibles en las políticas relacionadas con la IA.
El plan recién propuesto significa un notable cambio de sentido con respecto a la postura de la Casa Blanca hace menos de dos años, cuando las personas que trabajaban en la administración Trump dijeron que no había intención de crear una estrategia nacional de IA. En cambio, la administración argumentó que minimizar la interferencia del gobierno era la mejor manera de ayudar a que prosperara la tecnología.
Pero a medida que más y más gobiernos de todo el mundo, y especialmente China, invierten fuertemente en IA, EE. UU. ha sentido una presión significativa para hacer lo mismo. Durante la conferencia de prensa, los funcionarios de la administración ofrecieron una nueva línea de lógica para un mayor papel del gobierno en el desarrollo de la IA.
Los principios regulatorios de IA de EE. UU. brindan una guía oficial y reducen la incertidumbre para los innovadores sobre cómo su propio gobierno está abordando la regulación de las tecnologías de inteligencia artificial, dijo el CTO de EE. UU., Michael Kratsios. Esto estimulará aún más la innovación, agregó, lo que permitirá a EE. UU. dar forma al futuro de la tecnología a nivel mundial y contrarrestar las influencias de los regímenes autoritarios.
Hay varias maneras en que esto podría desarrollarse. Bien hecho, alentaría a las agencias a contratar más personal con experiencia técnica, crear definiciones y estándares para una IA confiable y conducir a una regulación más reflexiva en general. Si se hace mal, podría dar incentivos a las agencias para eludir los requisitos o poner obstáculos burocráticos a las regulaciones necesarias para garantizar una IA confiable.
Edelman es optimista. El hecho de que la Casa Blanca señalara como meta una IA confiable es muy importante, dice. Envía un mensaje importante a las agencias.
Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.