Google ha lanzado una base de datos gigante de deepfakes para ayudar a combatir los deepfakes

Categoría: Inteligencia artificial Al corriente Sep 25

Incluye 3000 videos generados por IA que se realizaron utilizando varios algoritmos disponibles públicamente.

El contexto: Durante el último año, los algoritmos generativos se han vuelto tan buenos para sintetizar medios que lo que producen pronto podría volverse indistinguible de la realidad. Los expertos ahora se apresuran a encontrar mejores métodos para detectar estos llamados deepfakes, especialmente ahora que se acercan las elecciones presidenciales de EE. UU. de 2020.

Caída profunda falsa: El martes, Google publicado una base de datos de código abierto que contiene 3000 videos manipulados originales como parte de su esfuerzo por acelerar el desarrollo de herramientas de detección de falsificaciones profundas. Trabajó con 28 actores para grabar videos de ellos hablando, haciendo expresiones comunes y haciendo tareas mundanas. Luego usó algoritmos deepfake disponibles públicamente para alterar sus rostros.

Lo último: A principios de este mes, Facebook anunció que lanzaría una base de datos similar a finales de año. En enero, un equipo académico dirigido por un investigador de la Universidad Técnica de Munich creó uno llamado FaceForensics++ realizando cuatro métodos comunes de manipulación facial en casi 1000 videos compilados de YouTube. Con cada uno de estos conjuntos de datos, la idea es la misma: crear un gran corpus de ejemplos que puedan ayudar a entrenar y probar herramientas de detección automatizadas.

Juego del gato y el ratón: Pero una vez que se ha desarrollado un método de detección para explotar una falla en un algoritmo de generación en particular, el algoritmo puede actualizarse fácilmente para corregirlo. Como resultado, algunos expertos ahora están tratando de encontrar métodos de detección que asuman la perfección de las imágenes sintéticas. Otros discutir que controlar las falsificaciones profundas no se logrará solo a través de medios técnicos: en cambio, también requerirá soluciones sociales, políticas y legales para cambiar los incentivos que fomentan su creación.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.