Los memes están haciendo deepfakes y las cosas se están poniendo raras

Abajo a la derecha: soy yo. Sra. Tecnología | NeurIPS (conjunto de entrenamiento); Hao (cortesía)

Grace Windheim había oído hablar de deepfakes antes. Pero ella nunca había considerado cómo hacer uno. Fue un meme viral que utilizó la tecnología que la llevó a investigar la posibilidad y descubrir que era súper fácil y completamente gratis.

En un día, ella había creado un tutorial de YouTube paso a paso guiar a otros a través del proceso. Hacer uno de estos deepfakes y superponer audio no es tan complicado como podría pensar, dice en el video, publicado el 4 de agosto. Desde entonces, ha sido visto más de 360 ​​000 veces.

Windheim es parte de un nuevo grupo de creadores en línea que están jugando con deepfakes a medida que la tecnología se vuelve cada vez más accesible y se filtra en la cultura de Internet. El fenómeno no es sorprendente; Las herramientas de manipulación de medios a menudo han ganado terreno a través de jugar y parodiar . Pero también plantea nuevas preocupaciones sobre su potencial de abuso.

Deepfakes ya se han utilizado para acosar a las mujeres al cambiar sus rostros sin consentimiento en videos porno. Los académicos también se preocupan por su capacidad para interrumpir las elecciones. Si bien los deepfakes creados para los memes siguen siendo obviamente falsos y relativamente inofensivos, es posible que no permanezcan así por mucho tiempo.

Hay una línea muy fina entre usar deepfakes para entretenimiento y memes y usarlos para hacer daño, dice Windheim. En este tutorial, digo: 'Así es como se hace este deepfake en particular'. Pero lo aterrador del script es que se puede aplicar para hacer cualquier tipo de deepfake que desee.

he sido un tonto

Windheim, recién graduado de la universidad, trabaja como creador de contenido en la startup Kapwing, con sede en San Francisco. La compañía, que comenzó como creadora de memes, ofrece un conjunto gratuito de herramientas de software de edición de video basadas en navegador. Como parte de su trabajo, Windheim administra el canal de YouTube y produce videos de marketing de contenido para mostrar las capacidades de los productos.

A principios de agosto, se encontró con un término de búsqueda particularmente viral en Google Trends. Tres de las cinco consultas principales se referían a un meme falso de Baka Mitai. Casi nunca veo que surja una consulta con tanta frecuencia, dice.

El meme, como resultado, se basó en un video de un YouTuber sincronizando los labios a una canción japonesa de videojuegos llamada Baka Mitai (traducción: He sido un tonto). Varios usuarios de Internet habían usado el video para crear deepfakes horribles de todos, desde Barack Obama a Thanos cantando la canción. Sin embargo, a pesar de su popularidad, Windheim descubrió que se había escrito poco sobre cómo hacerlo. Ella vio una oportunidad.

El algoritmo deepfake particular que la gente estaba usando proviene de un trabajo de investigación 2019 presentado en NeurIPS, la mayor conferencia anual de investigación de IA. A diferencia de otros algoritmos más complejos, permite a un usuario tomar cualquier video del rostro de una persona y usarlo para animar una foto del rostro de otra persona con solo unas pocas líneas de código.

Windheim encontró el algoritmo de código abierto en un tutorial de YouTube y lo transfirió a un cuaderno de Google Colab, un servicio gratuito para ejecutar código en la nube. Después de algunos intentos, con la ayuda de las habilidades que había adquirido en la clase de codificación ocasional en la universidad, obtuvo el guión para escupir un video falso. Luego sincronizó la canción con el video con las herramientas de Kapwing, creando una nueva versión del meme.

Desde que ella publicó su tutorial en el canal de YouTube de Kapwing, varios YouTubers también han creado tutoriales usando el mismo algoritmo de copiar y pegar. La diferencia: muchos de ellos están enseñando a su audiencia cómo hacer ningún una especie de meme falso. Uno incluso enseña a la gente como hacerlas en el movil .

Estos memes ahora aparecen en todas partes en las redes sociales: en Twitter, Instagram y especialmente en TikTok. Los videos cortos de la plataforma, que a menudo presentan coreografías ágiles con música pegadiza, son particularmente propicios para ser falsificados con efectos fascinantes. El hashtag #deepfake en la aplicación ya ha acumulado más de 120 millones de visitas.

@lemonjezus

@helltaker03

Hay una peculiaridad reveladora en los rostros de los videos hechos con este algoritmo, lo que hace que su obra sea fácil de reconocer; eso es parte del humor de los deepfakes. Estas imperfecciones—y la calidad surrealista de los memes— evitará que se confundan con la realidad. Por el momento, los deepfakes más hiperrealistas son mucho más desafiantes técnicamente y computacionalmente más costosos de crear.

Pero al ritmo que avanza la tecnología, las falsificaciones profundas fáciles de hacer que son casi indistinguibles de la realidad probablemente estén a la vuelta de la esquina. Algunas empresas como el gigante tecnológico chino Tencent, propietario de WeChat, han anunciado públicamente sus intenciones de invertir más recursos para avanzar el estado del arte para aplicaciones comerciales .

Los deepfakes no son intrínsecamente malos. La tecnología ya ha sido utilizada por artistas, educadores y otros como una nueva y poderosa herramienta para la expresión creativa. En febrero, por ejemplo, la revista Time utilizó deepfakes para recrear la experiencia de Martin Luther King Jr. pronunciando su discurso I Have a Dream en realidad virtual. En última instancia, los reguladores deben definir qué es un uso apropiado y qué podría provocar daños.

Por ahora, Windheim confía en su propio juicio para tomar esa decisión. Antes de publicar su video, leyó sobre las implicaciones de las falsificaciones profundas y conversó con sus colegas. Nunca pretendemos que nuestros productos ayuden a los usuarios a difundir información errónea, dice, por lo que solo queríamos comprobar nuestra cordura.

Al final, decidieron algunas reglas básicas: enfocarían sus tutoriales en hacer memes específicos, nunca en crear deepfakes fuera de ese contexto. Siempre que sea entretenimiento y dentro de la cultura de los memes, dice, estamos en la zona clara.

esconder