¿Quién va a regular la IA? Podría ser tu.

Desde el papel de Facebook en la difusión de información errónea hasta las nuevas leyes europeas de derechos de autor, es el tema más candente en tecnología en este momento. ¿Cómo deben regularse las empresas de tecnología? ¿Cómo se mantiene esa regulación con las tecnologías emergentes como la IA? ¿Y quién se asegurará de que las nuevas leyes no sofoquen la innovación?

Es cierto que los legisladores a menudo luchan por comprender los conceptos técnicos básicos, mientras que las empresas están avanzando en tecnologías mucho más rápido de lo que los gobiernos y el sistema legal pueden hacer frente. Hablando en EmTech Digital, la conferencia de IA de MIT Technology Review, un grupo de expertos líderes en IA y políticas sugirió que se necesitaban nuevos estándares y cooperación.

Mientras que el jefe de políticas de Google, Kent Walker anunció la formación de un nuevo consejo asesor externo para el desarrollo de IA , Rashida Richardson, directora de investigación de políticas de la Instituto AI Now , dijo que el énfasis debe estar en los tecnólogos y las empresas líderes que actúan para evitar el mal uso de los sistemas que están construyendo.

¿Quién tiene la responsabilidad de garantizar que las tecnologías emergentes no sean discriminatorias? ella preguntó.

Las consecuencias no deseadas, por ejemplo, cuando los sistemas de reconocimiento facial dan falsos positivos, son demasiado peligrosas para muchos grupos de personas, dijo, y los sistemas entrenados con datos incorrectos solo terminan reforzando el sesgo preexistente. Pero la prevención de abusos y al mismo tiempo el fomento del desarrollo es claramente algo con lo que la ley lucha.

Las empresas y personas responsables de crear tecnologías emergentes tienen una obligación. Necesitan hacer su debida diligencia, cuestionando profundamente el contexto en el que se creó un conjunto de datos, por ejemplo, dijo Richardson. En otros casos, hay momentos en que las empresas pueden encontrar que su tecnología no puede hacerse a prueba de discriminación, y tendrán que tomar una decisión difícil sobre si deben llevar ese producto al mercado.

Brendan McCord, asesor del Departamento de Defensa de EE. UU., dijo que las empresas más grandes e influyentes deberían usar su inmenso poder y asumir un papel más activo para ayudar a dar forma a los esfuerzos regulatorios.

Los grupos de la sociedad civil están haciendo un buen trabajo al tratar de crear conciencia sobre estos temas, dijo. Pero las empresas tienen una enorme capacidad para impulsar esta conversación.

McCord, quien trabajó anteriormente en el controvertido Proyecto Maven del Pentágono, sugirió que un consorcio de empresas líderes podría ayudar a establecer normas de la industria o incluso trabajar con legisladores para diseñar enfoques a prueba de futuro para regular la IA, el aprendizaje automático y otras tecnologías de rápida evolución.

Creo que una buena estrategia es que las empresas [como Google] se unan con otras empresas y creen impulso, impulsen el tipo correcto de regulación y la codifiquen, lo que genera un círculo virtuoso en el que otras empresas deben cumplir con esa regulación. , él dijo.

Sin embargo, esto requeriría que las empresas trabajen mucho más para poner el interés del público por encima de sus propias ganancias, agregó.

Walker de Google dijo que había muchos ejemplos de empresas que tomaron buenas decisiones, y que Google mismo estaba considerando qué elementos de las nuevas leyes de privacidad de datos de Europa podría importar a los EE. UU.

Pero la evidencia sugiere que los enfoques actuales de autorregulación han mostrado muchas debilidades y, a menudo, solo se manifiestan frente a las amenazas de los gobiernos o los tribunales. Facebook anunció hace menos de una semana que dejaría de permitir que los anunciantes se orienten por raza, género y edad, por ejemplo. Esa decisión, sin embargo, se produjo solo después de una serie de juicios que acusaban a la empresa de violar las leyes de derechos civiles establecidas en la década de 1960.

Richardson de AI Now dijo que es difícil regular las tecnologías emergentes porque se mueven muy rápido y, a menudo, dejan de lado a importantes partes interesadas.

Hay una retórica muy ambigua en torno a la igualdad, dijo. Es realmente difícil decir 'No dañaremos a las personas con esta tecnología'. ¿Quién toma esa decisión?

Es más difícil de regular, porque o tienes una moratoria completa hasta que lo entendamos, o vives en el mundo en el que vivimos ahora, en el que estás tratando de ponerte al día.

esconder