No subestimes la falsificación barata

Sra. Tecnología | Unsplash

El 30 de noviembre, el portavoz del Ministerio de Relaciones Exteriores de China, Lijian Zhao colocó una imagen en su perfil de Twitter. En él, un soldado se para sobre una bandera australiana y sonríe como un maníaco mientras sostiene un cuchillo ensangrentado en la garganta de un niño. El niño, cuyo rostro está cubierto por un velo semitransparente, lleva un cordero. Junto a la imagen, Zhao tuiteó: Conmocionado por el asesinato de civiles y prisioneros afganos por parte de soldados australianos. Condenamos enérgicamente tales actos y llamamos [sic] por hacerlos responsables.

el tuit es haciendo referencia a un anuncio reciente por las Fuerzas de Defensa de Australia, que encontró información creíble de que 25 soldados australianos estuvieron involucrados en los asesinatos de 39 civiles y prisioneros afganos entre 2009 y 2013. La imagen pretende mostrar a un soldado australiano a punto de degollar a un niño afgano inocente. cosas explosivas.

Excepto que la imagen es falsa. Tras un examen más detenido, ni siquiera es muy convincente. Podría haber sido elaborado por un novato en Photoshop. Esta imagen es lo que se conoce como falsificación barata, un medio de comunicación que ha sido manipulado, editado, mal etiquetado o contextualizado de forma grosera para difundir desinformación.

La falsificación barata se encuentra ahora en el centro de un gran incidente internacional. El primer ministro de Australia, Scott Morrison, dijo que China debería estar completamente avergonzada y exigió una disculpa por el imagen repugnante . Beijing se ha negado, acusando a Australia de barbarie y de tratando de desviar la atención del público de presuntos crímenes de guerra cometidos por sus fuerzas armadas en Afganistán.

Hay dos importantes lecciones políticas que se pueden extraer de este incidente. La primera es que Beijing sancionó el uso de una falsificación barata por parte de uno de sus principales diplomáticos para difundir activamente desinformación en las plataformas en línea occidentales. China tradicionalmente ha actuado con cautela en estos asuntos, con el objetivo de presentarse como una superpotencia benigna y responsable. Esta nuevo enfoque es una salida significativa.

La falsificación barata se encuentra ahora en el centro de un gran incidente internacional.

Sin embargo, en términos más generales, esta escaramuza también muestra la creciente importancia de la desinformación visual como herramienta política. Durante la última década, la proliferación de medios manipulados ha remodelado las realidades políticas. (Considérese, por ejemplo, las falsificaciones baratas que catalizaron un genocidio contra los musulmanes rohingya en Birmania, o ayudó a difundir desinformación codiciada. ) Ahora que las superpotencias globales están compartiendo abiertamente falsificaciones baratas en las redes sociales, ¿qué les impide (o a cualquier otro actor) desplegar desinformación visual más sofisticada a medida que surge?

Durante años, periodistas y tecnólogos han advertido sobre los peligros de las falsificaciones profundas. En general, falso profundo Los s son un tipo de medios sintéticos que han sido manipulados o creados por inteligencia artificial. También pueden entenderse como el sucesor superior de las falsificaciones baratas.

Los avances tecnológicos están mejorando simultáneamente la calidad de la desinformación visual y facilitando que cualquiera la genere. A medida que sea posible producir deepfakes a través de aplicaciones para teléfonos inteligentes, casi cualquier persona podrá crear desinformación visual sofisticada casi sin costo alguno.

Falsa alarma

Las advertencias falsas alcanzaron un punto álgido antes de las elecciones presidenciales de EE. UU. de este año. Durante meses, políticos, periodistas y académicos debatieron cómo contrarrestar la amenaza percibida. En el período previo a la votación, las legislaturas estatales de Texas y California incluso prohibió preventivamente el uso de deepfakes para influir en las elecciones .

Historia relacionada

Un bot deepfake está siendo utilizado para desnudar a niñas menores de edad

Una tecnología similar a DeepNude, la aplicación de 2019 que se cerró poco después del lanzamiento, ahora se está extendiendo sin restricciones en Telegram.

En retrospectiva, estos temores fueron exagerado . Aparte de algunos desarrollos interesantes, incluyendo una creación irónica por la emisora ​​estatal rusa Russia Today (RT) en el que un Donald Trump derrotado admite ser un peón del presidente ruso Vladimir Putin, hubo pocas falsificaciones profundas relacionadas con las elecciones para informar. Ciertamente, no se materializó nada que pudiera decirse objetivamente que influyó en el resultado. En lugar de usarse para sabotear o explotar a los políticos, los deepfakes todavía se usan con mayor frecuencia para crear pornografía no consentida .

Aunque los deepfakes aún no se han convertido en las armas de desinformación masiva que algunos predijeron, no hay lugar para la autocomplacencia. El riesgo potencial está mitigado en gran medida, por ahora, por limitaciones técnicas. A medida que mejoren las tecnologías de creación de deepfakes, se abrirán las compuertas.

E incluso antes de eso, el mero conciencia de deepfakes ya está teniendo un efecto nocivo. En un futuro cercano, los malos actores podrán producir falsificaciones profundas de todo y simplemente descartar cualquier medio auténtico como falso. Esta doble bonificación para los malos actores se conoce como el dividendo del mentiroso. Aunque el término era acuñado en un artículo seminal de 2018 sobre deepfakes, no se refiere solo a deepfakes. El concepto se extiende a toda la desinformación, incluidas las falsificaciones baratas.

Falsificaciones baratas por todas partes

Ya que apareció el infame video manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi En 2019, las falsificaciones baratas se han convertido en una característica habitual de la vida política estadounidense. Este año, ayudaron a sostener una operación de desinformación de alto perfil impulsada por el presidente y sus asociados más cercanos. La falsa afirmación de que las elecciones se vieron empañadas por un fraude electoral generalizado fue constantemente reforzada por falsificaciones baratas.

Un ejemplo es un video viral del presidente electo Joe Biden diciendo: Hemos reunido, creo, la organización de fraude electoral más extensa e inclusiva en la historia de la política estadounidense. Cuando se contextualiza adecuadamente, los comentarios de Biden pueden entenderse como una descripción de un programa para proteger a los votantes en caso de litigio sin fundamento con respecto al resultado de las elecciones. Sin embargo, el clip fue compartido por ambos Trump y secretaria de prensa Kayleigh McEnany y retratado como una admisión de fraude.

Incluso mientras se seguían contando los votos, videos auténticos de trabajadores electorales transcripción de votos y recogida de papeletas de manera rutinaria fueron compartidos, por personas, incluido el propio Trump, como evidencia de volcado y manipulación de votos. Mientras tanto, una falsificación barata viral que mostraba a un hombre rompiendo papeletas resultó ser obra de un bromista de TikTok .

Las acusaciones de fraude electoral generalizado no tienen fundamento, y los tribunales de todo Estados Unidos están descartando los intentos del equipo legal de Trump de disputar el resultado de las elecciones. A principios de este mes, el Fiscal General Bill Barr (quien deja el cargo el 23 de diciembre) finalmente admitido que el Departamento de Justicia de los Estados Unidos no ha descubierto evidencia de fraude.

Pero las falsificaciones baratas parecen haber tenido consecuencias en el mundo real: a principios de diciembre, Gabriel Sterling, gerente de implementación del sistema de votación de Georgia , citó casos de intimidación y amenazas de muerte contra los trabajadores electorales, suplicando: ¡Todo ha ido demasiado lejos! ¡Tiene que parar! Un trabajador electoral de Georgia tuvo que esconderse después de una falsificación barata de 34 segundos que lo acusó falsamente de tirar una papeleta de voto en ausencia se volvió viral.

La creencia en la narrativa de las elecciones amañadas cae marcadamente en líneas partidistas. A Encuesta Politico/Morning Consult llevado a cabo después de la elección encontró que el 70% de los votantes republicanos dijeron que no creían que hubiera sido libre y justo. El número de votantes republicanos que expresaron una desconfianza similar en el proceso antes de las elecciones fue del 35 %. Por el contrario, solo la mitad de los votantes demócratas (52 %) dijeron que creían que las elecciones serían libres y justas antes del 3 de noviembre. En las encuestas realizadas después de la victoria de Biden, la cifra se disparó al 90 %.

¿Qué creer?

La creciente prevalencia de la desinformación visual parece estar afectando a la política de dos maneras distintas. Primero, está alimentando la proliferación de todo tipo de desinformación. Los malos actores actúan con más impunidad, confiados en que pueden evitar el escrutinio y la rendición de cuentas. En el momento de escribir este artículo, la falsificación barata compartida por Lijian Zhao todavía estaba fijada en su perfil de Twitter.

Las falsificaciones baratas de hoy ofrecen lecciones valiosas sobre las falsificaciones profundas del futuro.

En segundo lugar, la creciente prevalencia de la desinformación visual nos hace más susceptibles a toda desinformación. A medida que el público se vuelva más consciente de las muchas formas en que se pueden manipular los medios, se volverá más escéptico con respecto a todos los medios, incluidos los medios auténticos.

Este escepticismo hace que sea más fácil para los malos actores descartar hechos reales como falsos. También puede dar lugar a interpretaciones cada vez más subjetivas y partidistas de los acontecimientos por parte del propio público. Considere, por ejemplo, la creencia generalizada entre los votantes republicanos de que las elecciones estadounidenses de 2020 no fueron libres ni justas. Esto es demostrablemente falso, pero como sugieren los datos de opinión pública, no son solo los votantes republicanos los que desconfían del proceso electoral. Hasta que ganaron, los votantes demócratas estaban además escéptico. Si un candidato republicano gana en 2024, ¿la opinión pública cambiará nuevamente a lo largo de las líneas partidistas?

Si bien las predicciones más nefastas sobre las falsificaciones profundas por motivos políticos no se cumplieron en 2020, debemos analizar su evolución en el contexto de las falsificaciones baratas y otras formas de desinformación política. Las falsificaciones baratas de hoy ofrecen lecciones valiosas sobre las falsificaciones profundas del futuro. La pregunta, entonces, no debería ser ¿Cuándo surgirán los deepfakes políticos? pero ¿cómo podemos mitigar las muchas formas en que la desinformación visual ya está remodelando nuestra realidad política?

Nina Schick es la autora de Deepfakes: The Coming Infocalypse.

esconder