Olvídese de las noticias falsas: casi todos los deepfakes se están haciendo para la pornografía

Categoría: Política tecnológica Al corriente Oct 07

Internet alberga al menos 14.678 deepfakes, según un nuevo informe de DeepTrace , una empresa que crea herramientas para detectar medios sintéticos. Pero la mayoría de ellos no fueron creados para meterse con las elecciones.

De regreso al principio: Deepfakes apareció en escena a fines de 2017. La palabra se usó originalmente para describir Porno falso generado por IA , con cabezas de actrices sobre cuerpos de estrellas de cine para adultos. Desde entonces, el significado de deepfakes se ha ampliado para referirse a cualquier tipo de video manipulado, como uno con Mark Zuckerberg dando un discurso falso sobre Facebook. Esto ha avivado los temores sobre el final de la verdad y el potencial de las falsificaciones profundas para influir en las elecciones.

Internet es para el porno: El informe encontró que la mayoría de los videos no tratan de influir en la política. Un 96% de las falsificaciones profundas seguían siendo porno falso antiguo. La pornografía deepfake es un fenómeno que ataca y daña exclusivamente a las mujeres, escriben los autores. Toda la pornografía falsa contenía mujeres, en su mayoría actrices y músicos famosos. (Las falsificaciones profundas no pornográficas restantes en YouTube incluían principalmente a hombres). El número en sí no es tan alto, pero es preocupante que esté creciendo tan rápido.

Contraatacar con la ley: El tema ha llamado la atención de los legisladores. En California, el gobernador Gavin Newsom acaba de promulgar dos proyectos de ley que limitan lo que la gente puede hacer con deepfakes. Una ley establece que es ilegal hacer y distribuir una falsificación maliciosa de un político dentro de los dos meses posteriores a una elección. (La ACLU y Electronic Frontier Foundation ya han respondido diciendo que la la ley es demasiado amplia y perjudicará el discurso político .) El segunda ley deepfake se acerca a cómo se utilizan realmente las manipulaciones. Permite que las personas demanden si su la imagen se usa en pornografía deepfake sin consentimiento .