Google ha lanzado una herramienta para detectar imágenes falsificadas y manipuladas

Categoría: Inteligencia artificial Al corriente Feb 05

Jigsaw, una incubadora de tecnología de Google, ha lanzado una plataforma experimental llamada Assembler para ayudar a los periodistas y verificadores de hechos de primera línea a verificar rápidamente las imágenes.

Cómo funciona: Ensamblador combina varios técnicas existentes en el mundo académico para detectar técnicas de manipulación comunes, como cambiar el brillo de la imagen y pegar píxeles copiados en otro lugar para cubrir algo y conservar la misma textura visual. También incluye un detector que detecta falsificaciones profundas del tipo creado con StyleGAN, un algoritmo que puede generar caras imaginarias realistas. Estas técnicas de detección alimentan un modelo maestro que les dice a los usuarios qué tan probable es que una imagen haya sido manipulada.

Por qué importa: Las imágenes falsas se encuentran entre las cosas más difíciles de verificar, especialmente con el aumento de la manipulación por parte de la inteligencia artificial. La ventana de oportunidad para que los periodistas y verificadores de hechos reaccionen también se está reduciendo rápidamente, a medida que la desinformación se propaga a gran velocidad y escala.

No es una panacea: Assembler es un buen paso en la lucha contra los medios manipulados, pero no cubre muchas otras técnicas de manipulación existentes, incluidas las que se usan para videos, que el equipo deberá agregar y actualizar a medida que el ecosistema siga evolucionando. También sigue existiendo como una plataforma separada de los canales donde normalmente se distribuyen las imágenes manipuladas. Los expertos han recomendado que los gigantes tecnológicos como Facebook y Google incorporen este tipo de funciones de detección directamente en sus plataformas. De esa manera, tales controles se pueden realizar casi en tiempo real a medida que se cargan y comparten fotos y videos.

También hay otros enfoques a considerar. Algunas nuevas empresas buscan tecnología de verificación, por ejemplo, que memoriza las posiciones de los píxeles en una foto en el momento de su captura, pero esto también presenta desafíos.

Más allá de la tecnología: En última instancia, las soluciones técnicas no serán suficientes. Uno de los aspectos más complicados de la falsificación digital no son las imágenes falsas en sí mismas. Más bien, es la idea de que existen, lo que se puede invocar fácilmente para dudar de la veracidad de los medios reales. Este es el tipo de desafío que también requerirá soluciones sociales y políticas.