En 2020, dejemos de lavar la ética de la IA y hagamos algo

Opciones éticas de IA Getty

El año pasado, justo cuando comenzaba a cubrir la inteligencia artificial, el mundo de la IA estaba recibiendo una importante llamada de atención. Hubo algunos avances increíbles en la investigación de la IA en 2018, desde el aprendizaje por refuerzo hasta las redes antagónicas generativas (GAN) y una mejor comprensión del lenguaje natural. Pero el año también vio varias ilustraciones de alto perfil del daño que estos sistemas pueden causar cuando se implementan con demasiada rapidez.

un tesla se estrelló en piloto automático , matando al conductor, y un Uber autónomo se estrelló , matando a un peatón. Los sistemas comerciales de reconocimiento facial funcionaron terriblemente en auditorías sobre gente de piel oscura , pero los gigantes tecnológicos continuaron vendiéndolos de todos modos, a los clientes, incluidas las fuerzas del orden. A principios de este año, reflexionando sobre estos eventos, escribí una resolución para la comunidad de IA: dejar de tratar a la IA como magia y asumir la responsabilidad de crearla, aplicarla y regularla éticamente.

De alguna manera, mi deseo se hizo realidad. En 2019, se habló más que nunca de la ética de la IA. Docenas de organizaciones produjeron pautas de ética de IA; las empresas se apresuraron a establecer equipos de IA responsables y exhibirlos frente a los medios. Ya es difícil asistir a una conferencia relacionada con la IA sin que parte de la programación se dedique a un mensaje relacionado con la ética: ¿Cómo protegemos la privacidad de las personas cuando la IA necesita tantos datos? ¿Cómo empoderamos a las comunidades marginadas en lugar de explotarlas? ¿Cómo seguimos confiando en los medios frente a la desinformación creada y distribuida algorítmicamente?

Pero hablar es solo eso, no es suficiente. A pesar de toda la palabrería que se habla sobre estos problemas, las pautas de ética de IA de muchas organizaciones siguen siendo vagas y difíciles de implementar. Pocas empresas pueden mostrar cambios tangibles en la forma en que se evalúan y aprueban los productos y servicios de IA. Estamos cayendo en una trampa de lavado de ética, donde la acción genuina es reemplazada por promesas superficiales. En el ejemplo más agudo, Google formó una junta de ética de IA nominal sin poder de veto real sobre proyectos cuestionables, y con un par de miembros cuya inclusión provocó controversia. Una reacción violenta llevó inmediatamente a su disolución.

Mientras tanto, la necesidad de una mayor responsabilidad ética se ha vuelto más urgente. Los mismos avances realizados en las GAN en 2018 llevaron a la proliferación de falsificaciones profundas hiperrealistas, que ahora se utilizan para atacar a las mujeres y erosionar la creencia de las personas en la documentación y la evidencia. Los nuevos hallazgos han arrojado luz sobre el impacto climático masivo del aprendizaje profundo, pero las organizaciones han seguido entrenando modelos cada vez más grandes y que consumen más energía. Académicos y periodistas también han revelado cuántos humanos están detrás de la cortina algorítmica. La industria de la IA está creando una clase completamente nueva de trabajadores ocultos (moderadores de contenido, etiquetadores de datos, transcriptores) que trabajan duro en condiciones a menudo brutales.

Pero no todo es oscuro y sombrío: 2019 fue el año de la mayor retroceso de base contra la IA dañina de grupos comunitarios, legisladores y empleados tecnológicos. Varias ciudades, incluidas San Francisco y Oakland, California, y Somerville, Massachusetts, prohibieron el uso público del reconocimiento facial y la legislación federal propuesta pronto podría prohibirlo en las viviendas públicas de EE. UU. también. Los empleados de gigantes tecnológicos como Microsoft, Google y Salesforce también se manifestaron cada vez más en contra del uso de la IA por parte de sus empresas para rastrear a los migrantes y para la vigilancia con drones.

Dentro de la comunidad de IA, los investigadores también se duplicaron en la mitigación del sesgo de IA y reexaminaron los incentivos que conducen al consumo de energía descontrolado del campo. Las empresas invirtieron más recursos en proteger la privacidad de los usuarios y combatir las falsificaciones profundas y la desinformación. Los expertos y los legisladores trabajaron en conjunto para proponer una nueva legislación reflexiva destinada a controlar las consecuencias no deseadas sin frenar la innovación. En la reunión anual más grande en el campo este año, me conmovió y me sorprendió la cantidad de conferencias, talleres y carteles que se centraron en problemas del mundo real, tanto los creados por la IA como los que podría ayudar a resolver.

Así que aquí está mi esperanza para 2020: que la industria y la academia mantengan este impulso y realicen cambios concretos de abajo hacia arriba y de arriba hacia abajo que realineen el desarrollo de la IA. Si bien todavía tenemos tiempo, no debemos perder de vista el sueño que anima el campo. Hace décadas, los humanos comenzaron la búsqueda de construir máquinas inteligentes para que algún día pudieran ayudarnos a resolver algunos de nuestros desafíos más difíciles.

La IA, en otras palabras, está destinada a ayudar a la humanidad a prosperar. No olvidemos.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder