El año en que los deepfakes se generalizaron

Sra. tecnología

En 2018, Sam Cole, reportero de Motherboard, descubierto un nuevo e inquietante rincón de internet. Un usuario de Reddit con el nombre de deepfakes estaba publicando videos pornográficos falsos no consensuados utilizando un algoritmo de inteligencia artificial para cambiar las caras de las celebridades en pornografía real. Cole hizo sonar la alarma sobre el fenómeno, justo cuando la tecnología estaba a punto de explotar. Un año más tarde, la pornografía deepfake se había extendido mucho más allá de Reddit, con facilidad aplicaciones accesibles que podría quitarle la ropa a cualquier mujer fotografiada.

Desde entonces, los deepfakes han tenido mala reputación, y con razón. El la gran mayoría de ellos todavía se utilizan para la pornografía falsa . Una periodista de investigación fue severamente acosado y temporalmente silenciado por dicha actividad, y más recientemente, una mujer poeta y novelista estaba asustado y avergonzado. También existe el riesgo de que los deepfakes políticos generen noticias falsas convincentes que podrían causar estragos en entornos políticos inestables.

Pero a medida que los algoritmos para manipular y sintetizar medios se han vuelto más poderosos, también han dado lugar a aplicaciones positivas, así como a algunas que son divertidas o mundanas. Aquí hay un resumen de algunos de nuestros favoritos en un orden cronológico aproximado, y por qué creemos que son una señal de lo que está por venir.

Protección de denunciantes

TUS MEDIOS

En junio, Bienvenido a Chechenia , una película de investigación sobre la persecución de personas LGBTQ en la república rusa, se convirtió en el primer documental en usar deepfakes para proteger la identidad de sus súbditos. Los activistas que luchaban contra la persecución, que fueron los personajes principales de la historia, vivían escondidos para evitar ser torturados o asesinados. Después de explorar muchos métodos para ocultar sus identidades, el director David France decidió darles portadas falsas. Pidió a otros activistas LGBTQ de todo el mundo que prestaran sus rostros, que luego se injertaron en los rostros de las personas en su película. La técnica permitió a France preservar la integridad de las expresiones faciales de sus sujetos y, por lo tanto, su dolor, miedo y humanidad. En total, la película protegió a 23 personas, siendo pionera en una nueva forma de protección de los denunciantes.

historia revisionista

PANETTA Y BURDEOS

En julio, dos investigadoras del MIT, Francesca Panetta y Halsey Burgund, lanzó un proyecto para crear una historia alternativa del alunizaje del Apolo de 1969. Llamado En caso de desastre lunar , utiliza el discurso que el presidente Richard Nixon habría pronunciado si la ocasión trascendental no hubiera ido según lo planeado. Los investigadores se asociaron con dos compañías separadas para el audio y el video falsos, y contrataron a un actor para proporcionar la interpretación básica. Luego pasaron su voz y rostro a través de los dos tipos de software, y los unieron en un Nixon falso profundo final.

Si bien este proyecto demuestra cómo los deepfakes podrían crear poderosas historias alternativas, otro insinúa cómo los deepfakes podrían dar vida a la historia real. En febrero, la revista Time recreado Marcha de Martin Luther King Jr. en Washington por la realidad virtual para sumergir a los espectadores en la escena. El proyecto no usó tecnología deepfake, pero el gigante tecnológico chino Tencent más tarde lo citó en un libro blanco sobre sus planes para la IA, diciendo que los deepfakes podrían usarse para propósitos similares en el futuro.

Memes

MS TECNOLOGÍA | NEURIPS (SET DE ENTRENAMIENTO); HAO (CORTESÍA)

A finales del verano, la memersfera consiguió deepfakes fáciles de hacer y desató los resultados al universo digital. Un meme viral en particular, llamado Baka Mitai (en la foto de arriba), surgió rápidamente cuando la gente aprendió a usar la tecnología para crear sus propias versiones. El algoritmo específico que impulsa la locura provino de un trabajo de investigación de 2019 que permite a un usuario animar una foto de la cara de una persona con un video de otra persona. El efecto no es de alta calidad por ningún tramo de la imaginación, pero seguro que produce diversión de calidad. El fenómeno no es del todo sorprendente; jugar y parodiar han sido una fuerza impulsora en la popularización de deepfakes y otras herramientas de manipulación de medios. Es por eso que algunos expertos enfatizan la necesidad de barandillas para evitar que la sátira se convierta en abuso .

Anuncios deportivos

Los horarios ocupados hacen que sea difícil conseguir estrellas deportivas famosas en la misma sala en el mejor de los casos. En medio de un encierro, es imposible. Entonces, cuando necesite filmar un comercial en Los Ángeles con personas en burbujas de cuarentena en todo el país, la única opción es fingir. En agosto, el sitio de transmisión Hulu publicó un anuncio para promover el regreso de los deportes a su servicio, protagonizado por el jugador de la NBA Damian Lillard, la jugadora de la WNBA Skylar Diggins-Smith y el jugador de hockey canadiense Sidney Crosby. Vemos a estas estrellas renunciar a su horneado de masa fermentada y regresar a sus deportes, empuñando pelotas de baloncesto y palos de hockey. Excepto que no lo hacemos: las caras de esas estrellas se superpusieron en cuerpos dobles usando tecnología deepfake. El algoritmo se entrenó con imágenes de los jugadores capturadas con Zoom. Se han utilizado trucos informáticos para falsificar este tipo de cosas durante años, pero las falsificaciones profundas lo hacen más fácil y económico que nunca, y este año de todo remoto ha dado un impulso a la tecnología. Hulu no fue el único. Otros anunciantes, incluidos ESPN , también experimentó con deepfakes.

Campañas políticas

En septiembre, durante el período previo a las elecciones presidenciales de EE. UU., el grupo de defensa no partidista RepresentUs publicó un par de anuncios falsos . Presentaron versiones falsas del presidente ruso Vladimir Putin y del líder norcoreano Kim Jong-un transmitiendo el mismo mensaje: que ninguno de los dos debía interferir en las elecciones estadounidenses, porque Estados Unidos arruinaría su democracia por sí solo. Este no fue el primer uso de deepfakes durante una campaña política. En febrero, el político indio Manoj Tiwari usó deepfakes en un video de campaña para que pareciera que estaba hablando Haryanvi, el dialecto hindi hablado por sus votantes objetivo. Pero RepresentUs invirtió notablemente el guión en la narrativa típica sobre falsificaciones políticas profundas. Si bien los expertos a menudo se preocupan por la capacidad de la tecnología para sembrar confusión e interrumpir las elecciones, el grupo buscó hacer exactamente lo contrario: crear conciencia sobre la supresión de votantes para proteger los derechos de voto y aumentar la participación.

programas de televisión

Si los comerciales falsos y las acrobacias únicas comienzan a resultarle familiares, confíe en los creadores de parque del Sur para llevarlo a los extremos. En octubre, Trey Parker y Matt Stone debutaron con su nueva creación, justicia descarada , el primer programa de televisión falso . El programa satírico semanal gira en torno al personaje Sassy Justice, un reportero de noticias locales con una cara falsa de Trump. Sassy entrevista a figuras falsificadas como Jared Kushner (con la cara de Kushner superpuesta a la de un niño) y Al Gore. Con justicia descarada , los deepfakes han ido más allá del truco de marketing o el engaño malicioso para llegar a la corriente principal cultural. No solo se utiliza la tecnología para crear los personajes, sino que es el tema de la sátira en sí. En el primer episodio, Sassy Trump Justice, interpretando a un defensor del consumidor, investiga la verdad detrás de las noticias falsas.

esconder