Aquí hay cinco formas en que la tecnología de eliminación de falsificaciones profundas podría resultar contraproducente

Categoría: Elecciones 2020 Al corriente 16 de diciembre

Los deepfakes se han convertido en un símbolo del fin de la verdad y, para algunos, en una herramienta potencial para influir en las elecciones. (No importa que la mayoría de los deepfakes sigan siendo pornografía falsa). Todo el mundo, desde el gobierno de los EE. UU. hasta los gigantes tecnológicos y las nuevas empresas, está tratando de desarrollar tecnología para acabar con los deepfakes. pero un nuevo informe publicado hoy por Witness , una organización sin fines de lucro que estudia los medios sintéticos, señala cómo estas herramientas podrían fallar.

Las técnicas: El video manipulado no es un problema nuevo, y hay muchos problemas sociales que incluso el mejor detector de falsificación profunda no puede solucionar. (Por ejemplo, saber que un video ha sido editado no responde automáticamente a la pregunta de si debe eliminarse. ¿Qué pasa si es una sátira?) Eso no ha impedido que empresas como Amber Video, Truepic y eWitness desarrollen contenido verificado. tecnologías de captura at-capture o de captura controlada. Estos utilizan una variedad de técnicas para firmar, etiquetar geográficamente y marcar la hora de una imagen o video cuando se crea. En teoría, esto hace que sea más fácil saber si los medios han sido manipulados.

¿Cuál es el problema? El informe de Witness presenta 14 formas diferentes en que estas tecnologías podrían terminar siendo dañinas. Algunas de las claves:

—Las herramientas que se están construyendo podrían usarse para vigilar a las personas
—Las restricciones técnicas podrían impedir que estas herramientas funcionen en los lugares donde más se necesitan (y aquellos que usan hardware antiguo podrían quedarse atrás)
—Los dispositivos con jailbreak no podrán capturar material verificable
—Las empresas podrían eliminar los datos o no dejar que los individuos los controlen
—Requerir más verificación para los medios en la corte podría hacer que el proceso legal sea más largo y más costoso

Entonces, ¿qué puede hacerse? No hay una solución fácil para estos problemas, dice el director del programa Witness, Sam Gregory. Las empresas que construyen estas tecnologías deben abordar estas preguntas y pensar en las personas que tienen más probabilidades de sufrir daños, agrega. También es posible construir herramientas de medios sintéticos de una manera más ética. El experto en tecnología Aviv Ovadya, por ejemplo, tiene ideas sobre cómo hacer herramientas de deepfake responsables. Las empresas pueden hacer todo lo posible para examinar qué clientes pueden usar sus herramientas y penalizar explícitamente a quienes violen sus normas. Los medios sintéticos de todo tipo van a ser más comunes. Se necesitarán muchas tácticas diferentes para mantenernos a todos a salvo.