Los trabajadores de Deepfake Amazon están sembrando confusión en Twitter. Ese no es el problema.

En un almacén de Amazon en Bessemer, Alabama, se muestra una pancarta que alienta a los trabajadores a votar en las votaciones laborales. punto de acceso

Las noticias: Antes de una votación histórica que podría conducir a la formación del primer sindicato en un almacén de Amazon en los EE. UU., comenzaron a aparecer nuevas cuentas de Twitter que pretendían ser empleados de Amazon. Los perfiles usaban fotos falsas como imágenes de perfil y estaban tuiteando algunas defensas bastante risibles y exageradas de las prácticas de trabajo de Amazon. No parecían reales, pero aun así generaron confusión entre el público. ¿Amazon estaba realmente detrás de ellos? ¿Fue esta una nueva y terrible estrategia antisindical en las redes sociales? Es casi seguro que la respuesta es no, pero el uso de deepfakes en este contexto apunta a una tendencia más preocupante en general.

La historia de fondo: Hay una razón por la que estos nuevos perfiles falsos profundos parecían familiares. En 2018, Amazon comenzó un programa muy real para convencer al público de que estaba tratando bien a los trabajadores de su almacén. Estableció estaciones de computadoras en esos almacenes y creó cuentas de Twitter para un pequeño grupo de empleados, conocidos como Embajadores de Amazon FC, que podían twittear durante las horas pagadas sobre cuánto amaban su trabajo. El plan fracasó y condujo a la creación de numerosos cuentas de embajador de parodia en Twitter. Amazon redujo el programa poco después, y muchas de las cuentas reales originales fueron suspendidas o cerradas, dice Aric Toler, jefe de capacitación e investigación del sitio de periodismo de investigación Bellingcat.

Lo último: El lunes, apareció el nuevo lote de cuentas de embajador, o al menos eso parecía. Pero cuando la gente empezó a investigar, muchos puntiagudo fuera que algunos tenían fotos de perfil con los signos reveladores de rostros profundamente falsos, como aretes deformados y fondos borrosos. Fue entonces cuando las cosas se pusieron confusas.

La gente se aferró rápidamente a la idea de que la propia Amazon estaba detrás de las nuevas cuentas falsas como parte de una campaña antisindical en las redes sociales. La compañía dijo más tarde Karen Wise, reportera del New York Times que no lo era. Toler, que rastreó las cuentas originales, cree que Amazon dice la verdad. Todas las cuentas originales de los embajadores se registraron con direcciones de correo electrónico de Amazon y se publicaron con Sprinklr. Las nuevas cuentas deepfake, que desde entonces han sido suspendidas, fueron registrado usando Gmail y publicado a través de la aplicación web de Twitter. Además, el contenido de los tuits tenía claramente la intención de ser humorístico. Estas cuentas probablemente eran solo más parodias creadas para burlarse de Amazon.

¿Importa esto? En este caso particular, probablemente no. Por supuesto, es bastante inofensivo, dice Toler. Es Amazon. Están bien. Pero revela un problema más preocupante: que las cuentas deepfake pueden implementarse de manera coordinada en las redes sociales o en otros lugares para propósitos mucho más siniestros. La versión más maliciosa de esto serían los actores estatales, advierte Toler.

Historia relacionada

La lucha de dos años para evitar que Amazon venda reconocimiento facial a la policía Los movimientos de esta semana de Amazon, Microsoft e IBM marcan un hito importante para los investigadores y defensores de los derechos civiles en una lucha larga y continua por el reconocimiento facial en la aplicación de la ley.

De hecho, ya ha habido varios casos de alto perfil en los que se han utilizado fotos falsas en campañas de desinformación dañinas. En diciembre de 2019, Facebook identificó y eliminó una red de más de 900 páginas, grupos y cuentas , incluidas algunas con imágenes de perfil falsificadas, asociadas con el medio de extrema derecha The Epoch Times, que es conocido por participar en tácticas de desinformación. En octubre de 2020, un falso analista de seguridad también escribió un documento de inteligencia falso distribuido entre los círculos del presidente Trump, que se convirtió en la base de numerosas teorías de conspiración en torno a Hunter Biden. con una imagen de perfil falsa .

Toler dice que los rostros falsos profundos se han convertido en una tendencia en su línea de trabajo como investigador de código abierto de actividades sospechosas en línea, especialmente desde el lanzamiento de ThisPersonDoesNotExist.com, un sitio web que muestra un nuevo rostro generado por IA con cada actualización. Siempre hay una lista de verificación mental que revisas cada vez que encuentras algo, dice. La primera pregunta es '¿Esta persona es real o no?', que era una pregunta que realmente no teníamos hace cinco años.

¿Qué tan grande es esta amenaza? Por el momento, dice Toler, el uso de rostros falsos profundos no ha tenido un gran impacto en su trabajo. Todavía es relativamente fácil para él identificar cuándo una imagen de perfil es una falsificación profunda, al igual que cuando la foto es una imagen de archivo. El escenario más difícil es cuando la imagen es de una persona real extraída de una cuenta privada de redes sociales que no está indexada en los motores de búsqueda de imágenes.

Una creciente conciencia de las falsificaciones profundas también ha llevado a las personas a examinar con más cuidado los medios que ven, dice Toler, como lo demuestra la rapidez con la que las personas se dieron cuenta de la falsificación de las cuentas de Amazon.

Pero Sam Gregory, el director del programa de Witness, una organización sin fines de lucro de derechos humanos, dice que esto no debería adormecernos con una falsa sensación de seguridad. Los deepfakes están mejorando constantemente, dice: Creo que la gente tiene demasiada confianza en que siempre será posible detectarlos.

Una hiperconciencia de las falsificaciones profundas también podría llevar a las personas a deja de creer en los medios reales , lo que podría tener consecuencias igualmente nefastas, como socavar la documentación de los abusos contra los derechos humanos.

¿Qué debemos hacer? Gregory alienta a los usuarios de las redes sociales a evitar fijarse en si una imagen es falsa o no. A menudo, eso es solo una pequeña parte del rompecabezas, dice. El regalo no es que de alguna manera hayas interrogado a la imagen. Es que miras la cuenta y se creó hace una semana, o es un periodista que dice ser periodista, pero nunca ha escrito nada más que puedas encontrar en una búsqueda de Google.

Estas tácticas de investigación son mucho más resistentes a los avances en la tecnología deepfake. El consejo también es válido para el caso de Amazon. Fue revisando los correos electrónicos de las cuentas y los detalles de los tweets que Toler finalmente determinó que eran falsos, no examinando las imágenes de perfil.

esconder