Esta se acaba de convertir en una gran semana para la regulación de la IA

Concepto de puerta FTC

Sra. Tecnología | Unsplash





Es una semana excelente para el rechazo del gobierno al mal uso de la inteligencia artificial.

La UE ha publicado hoy su tan esperado conjunto de Reglamentos de IA , un primer borrador del cual filtrado la semana pasada . Las regulaciones son amplias, con restricciones a la vigilancia masiva y al uso de IA para manipular a las personas.

Pero una declaración de intenciones de la Comisión Federal de Comercio de EE. UU., esbozada en un breve entrada de blog de la abogada Elisa Jillson el 19 de abril, puede tener más dientes en el futuro inmediato. Según la publicación, la FTC planea perseguir a las empresas que usan y venden algoritmos sesgados .



Varias empresas estarán asustadas en este momento, dice Ryan Calo, profesor de la Universidad de Washington, que trabaja en tecnología y derecho. No es realmente solo esta publicación de blog, dice. Esta publicación de blog es un ejemplo muy claro de lo que parece ser un cambio radical.

La UE es conocida por su línea dura contra Big Tech, pero la FTC ha adoptado un enfoque más suave, al menos en los últimos años. La agencia está destinada a vigilar las prácticas comerciales desleales y deshonestas. Su mandato es limitado: no tiene jurisdicción sobre las agencias gubernamentales, los bancos o las organizaciones sin fines de lucro. Pero puede intervenir cuando las empresas tergiversan las capacidades de un producto que están vendiendo, lo que significa empresas que reclaman sus sistemas de reconocimiento facial. algoritmos policiales predictivos o las herramientas de atención médica no están sesgadas ahora pueden estar en la línea de fuego. Donde tienen poder, tienen un poder enorme, dice Calo.



Tomando acción

La FTC no siempre ha estado dispuesta a ejercer ese poder. Después de las críticas en las décadas de 1980 y 1990 de que estaba siendo demasiado agresivo, se retractó y provocó menos peleas, especialmente contra las empresas de tecnología. Esto parece estar cambiando.

En la publicación del blog, la FTC advierte a los proveedores que las afirmaciones sobre la IA deben ser veraces, no engañosas y respaldadas por evidencia.

Por ejemplo, supongamos que un desarrollador de IA les dice a los clientes que su producto proporcionará 'decisiones de contratación 100% imparciales', pero el algoritmo se creó con datos que carecían de diversidad racial o de género. El resultado puede ser el engaño, la discriminación y una acción de aplicación de la ley de la FTC.



La acción de la FTC tiene apoyo bipartidista en el Senado, donde ayer se les preguntó a los comisionados qué más podrían estar haciendo y qué necesitaban para hacerlo. Hay viento detrás de las velas, dice Calo.

Mientras tanto, aunque trazan una línea clara en la arena, las regulaciones de IA de la UE son solo pautas. Al igual que con las reglas de GDPR introducidas en 2018, dependerá de cada estado miembro de la UE decidir cómo implementarlas. Parte del lenguaje también es vago y está abierto a interpretación. Tome una disposición contra las técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona de una manera que podría causar daño psicológico. ¿Eso se aplica a las fuentes de noticias de las redes sociales y la publicidad dirigida? Podemos esperar que muchos cabilderos intenten excluir explícitamente la publicidad o los sistemas de recomendación, dice Michael Veale, miembro de la facultad del University College London que estudia derecho y tecnología.



Historia relacionada

Europa está adoptando reglas más estrictas sobre tecnología de vigilancia El objetivo es hacer que las ventas de tecnologías como spyware y reconocimiento facial sean más transparentes primero en Europa y luego en todo el mundo.

Tomará años de desafíos legales en los tribunales para discutir los detalles y las definiciones. Eso será solo después de un proceso extremadamente largo de investigación, denuncia, multa, apelación, contraapelación y remisión al Tribunal de Justicia de las Comunidades Europeas, dice Veale. En ese momento el ciclo comenzará de nuevo. Pero la FTC, a pesar de su mandato limitado, tiene la autonomía para actuar ahora.

Una gran limitación común tanto a la FTC como a la Comisión Europea es la incapacidad de controlar el uso de tecnología dañina de IA por parte de los gobiernos. Las regulaciones de la UE incluyen excepciones para el uso estatal de la vigilancia, por ejemplo. Y la FTC solo está autorizada para perseguir a las empresas. Podría intervenir impidiendo que los proveedores privados vendan software sesgado a las fuerzas del orden. Pero implementar esto será difícil, dado el secreto en torno a tales ventas y la falta de reglas sobre lo que las agencias gubernamentales deben declarar cuando adquisicion de tecnologia .

Sin embargo, los anuncios de esta semana reflejan un enorme cambio mundial hacia una regulación seria de la IA, una tecnología que se ha desarrollado e implementado con poca supervisión hasta el momento. Los organismos de control de la ética han estado pidiendo restricciones a las prácticas de inteligencia artificial injustas y dañinas durante años.

La UE considera que sus regulaciones colocan a la IA bajo las protecciones existentes para las libertades humanas. La inteligencia artificial debe estar al servicio de las personas, y por lo tanto la inteligencia artificial siempre debe cumplir con los derechos de las personas, dijo Úrsula von der Leyen , presidente de la Comisión Europea, en un discurso previo al lanzamiento.

La regulación también ayudará a AI con su problema de imagen . Como también dijo von der Leyen: Queremos alentar a nuestros ciudadanos a sentirse seguros para usarlo.

esconder