Las falsificaciones profundas han hecho que el Congreso entre en pánico. Esto es lo que tiene que hacer.

Una foto ilustrativa del presidente Trump, la mitad en blanco y negro y la otra mitad muy saturada Sra. Tecnología; Foto original de WIN MCNAMEE; IMÁGENES FALSAS

La rápida difusión reciente de un video manipulado de Nancy Pelosi ha asustado a los legisladores en Washington. El video, editado para que parezca borracha, es solo uno de varios ejemplos en el último año de medios manipulados que se convirtieron en un discurso público general. En enero, una diferente video manipulado apuntando al presidente Donald Trump terminó transmitiéndose en la televisión de Seattle. Esta semana, se subió a Instagram un video de Mark Zuckerberg generado por IA. (Facebook ha prometido no eliminarlo).

Con las elecciones estadounidenses de 2020 a la vuelta de la esquina, el Congreso de los EE. UU. está cada vez más preocupado de que la capacidad rápida y fácil de falsificar medios pueda hacer que las campañas electorales sean vulnerables a los ataques de agentes extranjeros y comprometer la confianza de los votantes.

En respuesta, la Cámara de Representantes celebrará mañana su primera audiencia dedicada a los deepfakes, la clase de medios sintéticos generados por IA. Paralelamente, la Diputada Yvette Clarke presentará un proyecto de ley sobre el mismo tema. Un nuevo informe de investigación publicado por una organización sin fines de lucro esta semana también destaca una estrategia para hacer frente a la proliferación de deepfakes y otros medios manipulados.

No es la primera vez que los legisladores de EE. UU. han tratado de tomar medidas sobre este tema. En diciembre de 2018, el senador Ben Sasse presentó una factura diferente intentando prohibir deepfakes maliciosos. El senador Marco Rubio también ha reiterado sonó la alarma sobre la tecnología a lo largo de los años. Pero es la primera vez que vemos un esfuerzo tan concertado de los legisladores estadounidenses.

El proyecto de ley deepfake

El proyecto de ley, producto de varios meses de discusión con informáticos, expertos en desinformación y defensores de los derechos humanos, incluirá tres disposiciones. El primero requeriría que las empresas y los investigadores que crean herramientas que se pueden usar para hacer deepfakes agreguen automáticamente marcas de agua a las creaciones falsificadas.

El segundo requeriría que las empresas de redes sociales construyan una mejor detección de manipulación directamente en sus plataformas. Finalmente, la tercera disposición crearía sanciones, como multas o incluso tiempo en la cárcel, para castigar a los infractores por crear falsificaciones maliciosas que dañan a las personas o amenazan la seguridad nacional. En particular, intentaría introducir un nuevo mecanismo de recurso legal si la reputación de las personas se ve dañada por los medios sintéticos.

Este problema no solo afecta a los políticos, dice Mutale Nkonde, miembro del Instituto de Investigación de Datos y Sociedad y asesor del proyecto de ley. Es mucho más probable que los videos falsos se implementen contra mujeres, minorías, personas de la comunidad LGBT, personas pobres. Y esas personas no van a tener los recursos para luchar contra los riesgos de reputación.

El objetivo de presentar el proyecto de ley no es aprobarlo en el Congreso tal como está, dice Nkonde. En su lugar, está destinado a provocar una conversación más matizada sobre cómo tratar el problema en la ley al proponer recomendaciones específicas que pueden ser criticadas y refinadas. Lo que realmente estamos buscando hacer es ingresar al registro del Congreso la idea de que la manipulación audiovisual es inaceptable, dice ella.

El estado actual de las falsificaciones profundas

Por coincidencia, la organización sin fines de lucro de derechos humanos Witness lanzó un nuevo informe de investigación esta semana documentando el estado actual de la tecnología deepfake. Deepfakes actualmente no son convencionales: aún requieren habilidades especializadas para producir, y a menudo dejan artefactos dentro del video, como fallas y pixelación, que hacen que la falsificación sea obvia.

Pero la tecnología ha avanzado a un ritmo acelerado y la cantidad de datos necesarios para falsificar un video se ha reducido drásticamente. Hace dos semanas, Samsung demostrado que era posible crear un video completo a partir de una sola foto; esta semana investigadores universitarios y de la industria demostró una nueva herramienta que permite a los usuarios editar las palabras de alguien escribiendo lo que quieren que diga el sujeto.

Por lo tanto, es solo cuestión de tiempo antes de que proliferen las falsificaciones profundas, dice Sam Gregory, director del programa Witness. Muchas de las formas en que las personas considerarían usar deepfakes (para atacar a los periodistas, insinuar la corrupción de los políticos, manipular la evidencia) son claramente evoluciones de los problemas existentes, por lo que debemos esperar que las personas prueben las últimas formas de hacerlo de manera efectiva, dice. .

El informe describe una estrategia sobre cómo prepararse para un futuro tan inminente. Muchas de las recomendaciones y gran parte de la evidencia de apoyo también se alinean con las propuestas que aparecerán en el proyecto de ley de la Cámara.

El informe encontró que las inversiones actuales de los investigadores y las empresas de tecnología en la generación de deepfake superan con creces las de la detección de deepfake. Adobe, por ejemplo, ha producido muchas herramientas para facilitar las alteraciones de los medios, incluida una función reciente para eliminar objetos en videos; sin embargo, no les ha proporcionado un contraste.

El resultado es un desajuste entre la naturaleza real de la manipulación de los medios y las herramientas disponibles para combatirla. Si está creando una herramienta para la síntesis o la falsificación que es perfecta para el ojo humano o el oído humano, debe crear herramientas diseñadas específicamente para detectar esa falsificación, dice Gregory. La pregunta es cómo lograr que los fabricantes de herramientas corrijan ese desequilibrio.

Al igual que el proyecto de ley de la Cámara, el informe también recomienda que las empresas de búsqueda y redes sociales hagan un mejor trabajo al integrar las capacidades de detección de manipulación en sus plataformas. Facebook podría invertir en la detección de eliminación de objetos, por ejemplo, para contrarrestar la función de Adobe, así como otras técnicas de edición no autorizadas.

Luego, debe etiquetar claramente los videos y las imágenes en las noticias de los usuarios para señalar cuándo se han editado de manera invisible para el ojo humano. Google, como otro ejemplo, debería invertir en la búsqueda inversa de videos para ayudar a los periodistas y espectadores a identificar rápidamente la fuente original de un clip.

Más allá del Congreso

A pesar de la estrecha alineación del informe con el proyecto de ley, Gregory advierte que el Congreso de los EE. UU. debería pensar dos veces antes de aprobar leyes sobre falsificaciones profundas en el corto plazo. Es pronto para regular las falsificaciones profundas y los medios sintéticos, dice, aunque hace excepciones para aplicaciones muy limitadas, como su uso para producir imágenes sexuales no consentidas. No creo que tengamos una idea lo suficientemente buena de cómo las sociedades y las plataformas manejarán las falsificaciones profundas y los medios sintéticos para establecer regulaciones, agrega.

A Gregory le preocupa que la discusión actual en Washington pueda conducir a decisiones que tengan repercusiones negativas más adelante. Las regulaciones estadounidenses podrían moldear en gran medida lo que hacen otros países, por ejemplo. Y es fácil ver cómo en países con gobiernos más autoritarios, las regulaciones que protegen a los políticos podrían usarse para justificar la eliminación de cualquier contenido que sea controvertido o critique a los líderes políticos.

Nkonde está de acuerdo en que el Congreso debería adoptar un enfoque mesurado y reflexivo sobre el tema, y ​​considerar más allá de su impacto en la política. Realmente espero que hablen [durante la audiencia] sobre cuántas personas impacta esta tecnología, dice, y el impacto psicológico de no poder creer lo que puedes ver y escuchar.

esconder