Las aplicaciones que eliminan las falsificaciones profundas pueden detectar incluso un solo píxel fuera de lugar

Cortesía de Serelay





Falsificar fotos y videos solía requerir mucho trabajo. O usó CGI para generar imágenes fotorrealistas desde cero (tanto desafiante como costoso) o necesitaba cierto dominio de Photoshop, y mucho tiempo, para modificar de manera convincente las imágenes existentes.

Ahora, el advenimiento de las imágenes generadas por IA ha facilitado que cualquier persona modifique una imagen o un video con resultados confusos y realistas. A principios de este año, Revisión de tecnología del MIT El editor sénior de IA, Will Knight, usó un software comercial para falsificar su propio video falso del senador estadounidense Ted Cruz. El video es un poco defectuoso, pero no será por mucho tiempo.

Esa misma tecnología está creando una clase cada vez mayor de imágenes y fotos, llamadas falsificaciones profundas, que tienen el potencial de socavar la verdad, confundir a los espectadores y sembrar discordia a una escala mucho mayor de lo que ya hemos visto con las noticias falsas basadas en texto.



Estas son las posibilidades que inquietan a Hany Farid, profesor de ciencias de la computación en Dartmouth College que ha estado desacreditando las imágenes falsas durante 20 años. No creo que estemos listos todavía, advierte. Pero tiene la esperanza de que la creciente conciencia sobre el problema y los nuevos desarrollos tecnológicos puedan preparar mejor a las personas para distinguir las imágenes reales de las creaciones manipuladas.

Una imagen original del Brasenose College de la Universidad de Oxford. Cortesía de Serelay

Un ejemplo de cómo se podría editar la imagen original para eliminar la bandera del arcoíris LGBTQ en el techo. Cortesía de Serelay



Hay dos formas principales de enfrentar el desafío de verificar imágenes, explica Farid. La primera es buscar modificaciones en una imagen. Los expertos en análisis forense de imágenes utilizan técnicas computacionales para determinar si algún píxel o metadato parece estar alterado. Pueden buscar sombras o reflejos que no sigan las leyes de la física, por ejemplo, o comprobar cuántas veces se ha comprimido un archivo de imagen para determinar si se ha guardado varias veces.

El segundo y más nuevo método es verificar la integridad de una imagen en el momento en que se toma. Esto implica realizar docenas de comprobaciones para asegurarse de que el fotógrafo no esté intentando falsificar los datos de ubicación y la marca de tiempo del dispositivo. ¿Las coordenadas de la cámara, la zona horaria, la altitud y las redes Wi-Fi cercanas se corroboran entre sí? ¿La luz de la imagen se refracta como lo haría en una escena tridimensional? ¿O alguien está tomando una foto de otra foto bidimensional?

Farid piensa que este segundo enfoque es particularmente prometedor. Teniendo en cuenta los dos mil millones de fotos que se suben a la web diariamente, cree que podría ayudar a verificar las imágenes a escala.



Serelay permite a los usuarios subir fotos sospechosas para comprobar si han sido manipuladas. El sistema realiza una serie de comprobaciones para determinar dónde se han realizado modificaciones, si las hubiera. Cortesía de Serelay

Dos nuevas empresas, Truepic con sede en EE. UU. (para la que Farid asesora) y Serelay con sede en el Reino Unido, ahora están trabajando para comercializar esta idea. Han adoptado enfoques similares: cada uno tiene aplicaciones de cámara gratuitas para iOS y Android que utilizan algoritmos patentados para verificar automáticamente las fotos cuando se toman. Si una imagen se vuelve viral, se puede comparar con el original para verificar si ha conservado su integridad.

Mientras Truepic carga las imágenes de sus usuarios y las almacena en sus servidores, Serelay almacena una especie de huella digital al calcular alrededor de cien valores matemáticos de cada imagen. (La compañía afirma que estos valores son suficientes para detectar incluso una edición de un solo píxel y determinar aproximadamente qué sección de la imagen se cambió). Truepic dice que eligen almacenar las imágenes completas en caso de que los usuarios quieran eliminar fotos sensibles por razones de seguridad. (En algunos casos, los usuarios de Truepic que operan en escenarios de alta amenaza, como una zona de guerra, deben eliminar la aplicación inmediatamente después de documentar las escenas). Serelay, por el contrario, cree que no almacenar las fotos brinda a los usuarios una mayor privacidad.



Serelay es capaz de atrapar y resaltar la bandera que falta en la foto. Cortesía de Serelay

Como una capa adicional de confianza y protección, Truepic también almacena todas las fotos y metadatos utilizando una cadena de bloques, la tecnología detrás de Bitcoin que combina criptografía y redes distribuidas para almacenar y rastrear información de manera segura.

No es a prueba de balas, admite Farid, y dice que tiene algunas desventajas. Por ejemplo, los usuarios deben usar el software de verificación en lugar de la aplicación de la cámara en su teléfono. También señala que las empresas que intentan comercializar este tipo de tecnología pueden priorizar la monetización sobre la seguridad. Hay cierta confianza que estamos depositando en las empresas que crean estas aplicaciones, dice.

Pero también hay estrategias de mitigación. Truepic y Serelay ofrecen kits de desarrollo de software para que su tecnología sea accesible para plataformas de terceros. Su idea es convertir algún día su tecnología de verificación en un estándar de la industria para las cámaras digitales, incluidas las aplicaciones de cámara nativa de Facebook, Snapchat o incluso Apple. En ese escenario, una imagen inalterada publicada en las redes sociales podría recibir automáticamente una marca de verificación, como una insignia de verificación de Twitter, que indica que coincide con una imagen en su base de datos, una señal que Serelay espera que establezca confiabilidad.

La gran mayoría del contenido que vemos en línea se toma con dispositivos móviles, dice Farid. Básicamente, hay un puñado de cámaras que pueden incorporar este tipo de tecnología en su sistema, y ​​creo que tendrías una muy buena solución.

Cada startup se encuentra ahora en conversaciones iniciales con empresas de redes sociales para explorar la posibilidad de una asociación, y Serelay también forma parte de un nuevo programa acelerador de Facebook llamado LDN_LAB.

Si bien la tecnología aún no es predominante, Farid alienta a las personas a usarla de forma predeterminada cuando documentan escenarios de alto riesgo, ya sean discursos de campañas políticas, violaciones de derechos humanos o pruebas en la escena del crimen. Truepic ya ha visto a los ciudadanos usar su aplicación para documentar las crisis en Siria. Al Jazeera luego usó las imágenes verificadas para producir varios videos . Ambas compañías también han comercializado su tecnología en la industria de seguros como una forma verificada de documentar daños.

Farid dice que es importante que las empresas que realizan este trabajo sean transparentes sobre sus procesos y trabajen con socios de confianza. Eso puede ayudar a mantener la confianza del usuario y mantener alejados a los malos.

Todavía tenemos un camino por recorrer para estar completamente preparados para la proliferación de deepfakes, dice. Pero tiene esperanza. La tecnología tipo Truepic y la tecnología tipo Serelay están en buen estado, dice. Creo que nos estamos preparando.

esconder