Una aplicación de inteligencia artificial que desnuda a las mujeres muestra cómo los deepfakes dañan a los más vulnerables

Una imagen de una mujer con su cuerpo borroso Ms. Tech/ Imagen original: Getty

La atención en torno a los deepfakes y los medios sintéticos ha crecido en los últimos meses. Pero aunque la conversación se ha centrado principalmente en su impacto potencial en la política, varios expertos en derechos humanos y ética tecnológica han advertido que se ha pasado por alto otro daño potencial: las consecuencias posiblemente devastadoras para las mujeres y otras poblaciones vulnerables que son blanco de la tecnología pero no pueden. protegerse

Ahora, el último experimento de deepfake, una aplicación llamada DeepNude que desnudó fotos de mujeres, está representando esas pesadillas. Reportado por primera vez por Vice , usó redes adversarias generativas, o GAN, para cambiar la ropa de las mujeres por cuerpos desnudos muy realistas. El artículo rápidamente inspiró una reacción viral y el creador de la aplicación la cerró.

La aplicación DeepNude demuestra nuestros peores temores sobre la forma única en que las herramientas audiovisuales pueden usarse como armas contra las mujeres, dice Mutale Nkonde, miembro del Instituto de Investigación de Datos y Sociedad, quien aconsejó un proyecto de ley presentado en el Congreso por la Representante Yvette Clarke que crearía mecanismos para las víctimas. de estos deepfakes maliciosos para buscar recursos legales por daños a la reputación.

La aplicación estaba dirigida específicamente a mujeres. Vice descubrió que el software solo generaba imágenes del cuerpo femenino, incluso cuando se le daba una imagen de un hombre. El creador anónimo confirmó que había entrenado el algoritmo GAN solo con fotos de mujeres desnudas, en este caso más de 10,000, porque eran más fáciles de encontrar en línea. Sin embargo, también tenía la intención de hacer una versión masculina.

Aunque los deepfakes no mostraban los cuerpos reales de las mujeres (el algoritmo los sintetiza por completo), aún tenían el potencial de causar un daño emocional y reputacional significativo. Las imágenes podrían confundirse fácilmente con la realidad y usarse como venganza pornográfica o una herramienta poderosa para silenciar a las mujeres. De hecho, esto ha sucedido antes: un mujer periodista en India Le injertaron la cara en un video porno después de que comenzó a descubrir la corrupción del gobierno. Instantáneamente se volvió viral, sometiéndola a un intenso acoso y amenazas de violación, y tuvo que desconectarse durante varios meses.

Deepfakes no son una nueva amenaza; los medios manipulados han existido desde mucho antes de la IA. Pero la tecnología ha acelerado y ampliado las tendencias existentes, dice Sam Gregory, director de programa de la organización sin fines de lucro de derechos humanos Witness. Los algoritmos han hecho que sea mucho más fácil para muchas más personas generar medios falsos cada vez más convincentes. Por lo tanto, cualquier cosa para la que las personas usaron medios manipulados en el pasado, como atacar a periodistas, insinuar corrupción u ofuscar evidencia, se volverá cada vez más común y peligrosamente difícil de detectar.

La aplicación no es diferente, dice. El abuso sexual de mujeres basado en imágenes ya existía como un problema. Ahora los deepfakes están agregando combustible a las llamas.

Con la misma lógica, a Nkonde le preocupa que las mujeres no sean los únicos objetivos vulnerables de las falsificaciones profundas. Las minorías, las personas LGBTQ y otros grupos a menudo sujetos al acoso en línea más severo probablemente también se conviertan en víctimas, aunque quizás de diferentes maneras. Durante la campaña presidencial estadounidense de 2016, por ejemplo, agentes rusos usó personajes afroamericanos falsos e imágenes relacionadas como parte de una campaña de desinformación de Facebook para aumentar las tensiones raciales entre los estadounidenses.

Esta fue una nueva forma de supresión de votantes, y fue a través de la apropiación indebida de las identidades de las personas en línea, dice Nkonde. La tecnología deepfake sería otra herramienta natural para los actores maliciosos que pretenden ser personas que no son para perturbar las comunidades y causar daño.

Entonces, ¿dónde vamos desde aquí? Tanto Nkonde como Gregory han compartido recomendaciones similares con MIT Technology Review en el pasado: las empresas y los investigadores que producen herramientas para deepfakes también deben invertir en contramedidas, y las empresas de búsqueda y redes sociales deben integrar esas contramedidas directamente en sus plataformas. Nkonde también insta a los reguladores a actuar con rapidez. A menos que el gobierno encuentre una manera de proteger los derechos de los consumidores, las aplicaciones como esta proliferarán, dice.

La tecnología no es neutral, dice Gregory. Esta aplicación [DeepNude] no es de doble uso. Es de un solo uso para un propósito malicioso, y se está creando de forma amoral.

Necesitamos enfocarnos realmente en la ética de crear y compartir herramientas de medios generativos, agrega. Deberíamos llamar esto repetidamente.

esconder