El Congreso quiere protegerlo de algoritmos sesgados, falsificaciones profundas y otras IA malas

simone nironha

El miércoles pasado, los legisladores estadounidenses introdujeron una nueva factura eso representa uno de los primeros grandes esfuerzos del país para regular la IA. Es probable que haya más por venir.

Sugiere un cambio dramático en la postura de Washington hacia una de las tecnologías más poderosas de este siglo. Hace solo unos años, los formuladores de políticas tenían poca inclinación a regular la IA. Ahora, a medida que las consecuencias de no hacerlo se vuelven cada vez más tangibles, un pequeño contingente en el Congreso está avanzando en una estrategia más amplia para controlar la tecnología.

Aunque EE. UU. no está solo en este esfuerzo: el Reino Unido, Francia , Australia y otros recientemente redactaron o aprobaron leyes para responsabilizar a las empresas tecnológicas por sus algoritmos: el país tiene una oportunidad única de dar forma al impacto global de la IA como el hogar de Silicon Valley. Un problema en Europa es que no somos pioneros en el desarrollo de IA, dice Bendert Zevenbergen, exasesor de política tecnológica en el Parlamento Europeo y ahora investigador en la Universidad de Princeton. Somos una especie de destinatarios de la tecnología de inteligencia artificial de muchas maneras. Definitivamente somos el segundo nivel. El primer nivel es Estados Unidos y China.

El nuevo proyecto de ley, llamado Ley de responsabilidad algorítmica, requeriría que las grandes empresas auditen sus sistemas de aprendizaje automático en busca de sesgo y discriminación y tomen medidas correctivas de manera oportuna si se identifican tales problemas. También requeriría que esas empresas auditen no solo el aprendizaje automático, sino todos los procesos que involucran datos confidenciales, incluida la información de identificación personal, biométrica y genética, para detectar riesgos de privacidad y seguridad. Si se aprueba, el proyecto de ley colocaría el poder regulatorio en manos de la Comisión Federal de Comercio de EE. UU., la agencia a cargo de la protección del consumidor y la regulación antimonopolio.

El proyecto de ley es el primer producto de muchos meses de discusión entre legisladores, investigadores y otros expertos para proteger a los consumidores de los impactos negativos de la IA, dice Mutale Nkonde, investigador del Instituto de Investigación de Datos y Sociedad que participó en el proceso. Viene en respuesta a varias revelaciones de alto perfil en el último año que han demostrado el daño de gran alcance que el sesgo algorítmico puede tener en muchos contextos. Estos incluyen Amazon herramienta de contratación interna que sancionaba a las candidatas; plataformas comerciales de análisis y reconocimiento de rostros que son mucho menos precisas para las mujeres de piel más oscura que para los hombres de piel más clara; y, sobre todo recientemente, un algoritmo de recomendación de anuncios de Facebook que probablemente perpetúe la discriminación en el empleo y la vivienda, independientemente del público objetivo especificado por el anunciante.

Historia relacionada

Historia relacionada El sesgo puede aparecer en muchas etapas del proceso de aprendizaje profundo y las prácticas estándar en informática no están diseñadas para detectarlo.

El proyecto de ley ya ha sido elogiado por miembros de la comunidad de investigación y ética de la IA como un paso importante y reflexivo para proteger a las personas de impactos dispares no deseados. Gran primer paso, escribió Andrew Selbst, experto en tecnología y derecho de Data & Society, en Gorjeo . Requeriría documentación, evaluación e intentos de abordar los impactos previstos. Eso es nuevo, emocionante e increíblemente necesario.

Tampoco será el único paso. La propuesta, dice Nkonde, es parte de una estrategia más amplia para llevar la supervisión regulatoria a cualquier proceso y producto de IA en el futuro. Es probable que pronto haya otro proyecto de ley para abordar la propagación de la desinformación, incluidos los deepfakes, como una amenaza para la seguridad nacional, dice. otra factura presentado el martes prohibiría las prácticas de diseño manipulador que los gigantes tecnológicos a veces usan para hacer que los consumidores entreguen sus datos. Es un ataque múltiple, dice Nkonde.

Cada proyecto de ley es deliberadamente expansivo y abarca diferentes productos de IA y procesos de datos en una variedad de dominios. Uno de los desafíos con los que ha lidiado Washington es que una tecnología como el reconocimiento facial puede usarse para Propósitos drásticamente diferentes en todas las industrias. , como la aplicación de la ley, la automoción e incluso el comercio minorista. Desde un punto de vista regulatorio, nuestros productos son específicos de la industria, dice Nkonde. Los reguladores que miran los autos no son los mismos reguladores que miran la contratación del sector público, que no son los mismos reguladores que miran los electrodomésticos.

El Congreso está tratando de reflexionar sobre cómo reelaborar el marco regulatorio tradicional para adaptarse a esta nueva realidad. Pero será complicado hacerlo sin imponer una solución única para todos en diferentes contextos. Debido a que el reconocimiento facial se usa para tantas cosas diferentes, será difícil decir: 'Estas son las reglas para el reconocimiento facial', dice Zevenbergen.

Nkonde prevé que este movimiento regulatorio eventualmente dará lugar a una nueva oficina o agencia específicamente enfocada en tecnologías avanzadas. Sin embargo, habrá grandes obstáculos en el camino. Si bien las protecciones contra la desinformación y la recopilación de datos manipulados han obtenido el apoyo bipartidista, el proyecto de ley de responsabilidad algorítmica está patrocinado por tres demócratas, lo que hace que sea menos probable que sea aprobado por un Senado controlado por los republicanos y firmado por el presidente Trump. Además, actualmente solo un puñado de miembros del Congreso tiene un conocimiento técnico lo suficientemente profundo de los datos y el aprendizaje automático para abordar la regulación de una manera adecuada. Estas ideas y propuestas son una especie de nicho en este momento, dice Nkonde. Tienes estos tres o cuatro miembros que los entienden.

Pero ella sigue siendo optimista. Parte de la estrategia para avanzar incluye educar a más miembros sobre los problemas e incorporarlos. A medida que los eduque sobre lo que incluyen estos proyectos de ley y que los proyectos de ley obtengan copatrocinadores, se moverán cada vez más hacia el centro hasta que regular la industria tecnológica sea una obviedad, dice ella.

Esta historia apareció originalmente en nuestro boletín de inteligencia artificial nominado por Webby, The Algorithm. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.

esconder