Las imágenes falsas se difunden rápidamente en Facebook, y sus filtros de IA no las detectan

Categoría: Silicon Valley Al corriente Feb 23

Hay un arma de manipulación masiva que, según los informes, Facebook está luchando por superar: Photoshop.

Imágenes falsas: El Wall Street Journal explica que las imágenes manipuladas fueron una técnica crucial y engañosamente simple utilizada por los propagandistas rusos para difundir información fabricada durante las elecciones de 2016.

Las imágenes son perfectas: A las personas les encantan las imágenes y las comparten con más frecuencia en las redes sociales que las publicaciones de solo texto. Editarlos para inyectar contenido falso o mensajes engañosos es una forma útil de difundir propaganda rápidamente.

Difícil de bloquear: La IA puede identificar objetos en imágenes, pero comprender cómo y por qué se han alterado las imágenes es más difícil, sobre todo porque requiere una comprensión del contexto. Y en cualquier caso, a Facebook le preocupa censurar el contenido y ni siquiera automatiza el proceso de eliminación de publicaciones de texto, que debería ser más fácil.

A continuación: El diario dice que la red social está trabajando en sistemas que podrían identificar cuando las imágenes se usan fuera de contexto. Pero espere que las imágenes falsas circulen en las noticias por un tiempo todavía.