Facebook está haciendo sus propios deepfakes de IA para evitar un desastre de desinformación

Imágenes de lado a lado de video original y deepfake. Facebook

Facebook teme que los videos falsos profundos generados por IA puedan ser la próxima gran fuente de desinformación viral, extendiéndose entre sus usuarios con consecuencias potencialmente catastróficas para las próximas elecciones presidenciales de EE. UU.

¿Su solución? Haciendo muchos deepfakes propios, para ayudar a los investigadores a construir y refinar herramientas de detección.

Facebook ha ordenado a su equipo de investigadores de inteligencia artificial que produzca una serie de videos falsos muy realistas que muestren a los actores haciendo y diciendo cosas rutinarias. Estos clips servirán como un conjunto de datos para probar y evaluar comparativamente las herramientas de detección de falsificaciones profundas. Los deepfakes de Facebook se lanzarán en una importante conferencia de IA a finales de año.

El auge de las falsificaciones profundas ha sido impulsado por los avances recientes en el aprendizaje automático. Durante mucho tiempo ha sido posible que los estudios de cine manipulen imágenes y videos con software y computadoras, y los algoritmos capaces de capturar y recrear la imagen de una persona ya se han utilizado para crear herramientas de apuntar y hacer clic para pegar la cara de una persona en otra persona. .

Existen métodos para detectar medios falsificados, pero a menudo implican un minucioso análisis de expertos. Las herramientas para capturar deepfakes automáticamente apenas están surgiendo.

El CTO de Facebook, Mike Schroepfer, dice que las falsificaciones profundas están avanzando rápidamente, por lo que es vital idear formas mucho mejores de marcar o bloquear posibles falsificaciones.

Todavía no hemos visto esto como un gran problema en nuestras plataformas, pero mi suposición es que si aumenta el acceso (hace que sea más barato, más fácil y más rápido construir estas cosas), claramente aumenta el riesgo de que las personas usen esto de alguna manera maliciosa, Schroepfer. , quien encabeza la iniciativa, dijo anoche. No quiero estar en una situación en la que este sea un problema masivo y no hayamos estado invirtiendo cantidades masivas en I+D.

Al comparar el esfuerzo con la lucha contra el correo electrónico no deseado, Schroepfer dijo que es posible que Facebook no pueda detectar las falsificaciones más sofisticadas. Cogeremos los más obvios, dijo. Pero dijo que Facebook aún no está empleando ningún método porque las falsificaciones están mejorando muy rápidamente.

La red social dedicará $10 millones para financiar la tecnología de detección a través de subvenciones y premios de desafío. Junto con Microsoft, el Asociación en IA , y académicos de instituciones como MIT, UC Berkeley y la Universidad de Oxford, la compañía está lanzando el Desafío de detección de Deepfake , que ofrecerá recompensas en efectivo no especificadas por los mejores métodos de detección.

Hacer un deepfake generalmente requiere dos clips de video. Los algoritmos aprenden la apariencia de cada cara para pegar una sobre la otra mientras mantienen cada sonrisa, parpadeo y asentimiento. También se pueden usar diferentes técnicas de IA para recrear la voz de una persona específica. El término deepfake proviene de un usuario de Reddit que lanzó una herramienta de este tipo en 2017. Se refiere al aprendizaje profundo, la técnica de IA empleada.

Una de las grandes preocupaciones es que los deepfakes podrían usarse para difundir información errónea altamente contagiosa durante las elecciones estadounidenses del próximo año, tal vez incluso influyendo en el resultado. Varios senadores estadounidenses han hecho sonar la alarma sobre la amenaza y Ben Sasse (R–Nebraska) presentó un proyecto de ley para ilegalizar la creación o distribución de deepfakes con intenciones maliciosas. Un reciente informe sobre la desinformación electoral de NYU identifica a los deepfakes como uno de varios desafíos clave para las elecciones de 2020.

Los videos manipulados ya se están difundiendo en las plataformas sociales, de hecho. A principios de este año, un clip que parecía mostrar a Nancy Pelosi arrastrando las palabras (realizado simplemente ralentizando el metraje) se difundió rápidamente en Facebook. La compañía se negó a eliminar esa publicación o una falsificación profunda de Mark Zuckerberg, y en su lugar eligió marcar los clips como falsos con organizaciones de verificación de hechos.

Tiene sentido que Facebook intente adelantarse al problema, especialmente después de las consecuencias de las últimas elecciones presidenciales. A medida que surgieron detalles de las campañas de desinformación política, Facebook enfrentó intensas críticas por permitir que se difundiera tal propaganda.

Sin embargo, promover el desafío deepfake podría tener consecuencias no deseadas. Henry Ajder, analista de Deeptrace, una empresa holandesa que está trabajando en herramientas para detectar clips falsificados, señala que la narrativa en torno a los deepfakes puede ofrecer una forma para que los políticos eludan la responsabilidad, al afirmar que se ha falsificado información real (ver Fake America great otra vez ). La mera idea de los deepfakes ya está creando muchos problemas, dice Ajder. Es un virus en el ámbito político que ha infectado la mente de políticos y ciudadanos.

Además, a pesar de la alarma, Ajder, que rastrea deepfakes en la naturaleza, duda que la tecnología se convierta en un arma con fines políticos durante algún tiempo. Él cree que se convertirá más inmediatamente en una potente herramienta de ciberacoso y acoso.

Ya existen algunos métodos para detectar deepfakes. Las técnicas simples implican analizar los datos en un archivo de video o buscar movimientos de la boca y parpadeos reveladores, lo cual es más difícil de capturar y recrear para un algoritmo.

Un método desarrollado recientemente por un grupo de expertos líderes consiste en entrenar un algoritmo de aprendizaje profundo para reconocer la forma específica en que se mueve la cabeza de una persona, ya que esto no es algo que los algoritmos aprendan típicamente.

Este enfoque surgió a través de otro esfuerzo para desarrollar herramientas de detección, que está siendo financiado por la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA).

Muchos expertos se han sorprendido y alarmado por la velocidad con la que avanzan las falsificaciones de IA. Esta misma semana, una aplicación china llamada Zao generó debate al publicar videos falsos supuestamente creados a partir de una imagen fija. hao-li , un artista de efectos visuales y profesor asociado en la Universidad del Sur de California, advirtió que es posible producir en masa falsificaciones indetectables en poco tiempo (consulte El artista de falsificación más importante del mundo está luchando con el monstruo que creó).

esconder