Facebook, Google, Twitter no están preparados para deepfakes presidenciales

Categoría: Inteligencia artificial Al corriente 06 de agosto

Ninguno de los tres grandes cuernos de niebla de Internet (Facebook, Google o Twitter) parece tener un plan claro para lidiar con los videos falsos o deepfakes generados por IA antes de las elecciones presidenciales del próximo año, según el presidente del Comité de Inteligencia de la Cámara.

Actualización de estado: Adam Schiff, un demócrata de California, dijo el viernes que las tres compañías han comenzado a pensar seriamente en los desafíos que plantean los medios manipulados por máquinas, o deepfakes, pero que hay mucho más trabajo por hacer si quieren estar preparados para el disruptivo efecto de esta tecnología en las próximas elecciones.

No se asuste: No hay necesidad de asustarse. De hecho, existen algunas técnicas emergentes para detectar videos que se fabricaron con IA.

cara a cara: Los videos falsos utilizan avances recientes en el aprendizaje automático para intercambiar caras automáticamente en un video o realizar otros trucos para desdibujar la realidad. Las herramientas simples de falsificación profunda se pueden descargar de la web y puede encontrar muchos ejemplos surrealistas de los resultados. a través de internet .

La preocupación: La manipulación de imágenes ha existido durante mucho tiempo, pero la IA está haciendo que la falsificación sofisticada sea más accesible. Durante una elección, quizás se podría usar un deepfake para influir en los votantes en el último momento. En mayo, un video de Nancy Pelosi que había sido manipulado para que pareciera que arrastraba las palabras, circuló rápidamente en las redes sociales.

Gato y ratón: Por el momento, hay algunas formas de detectar deepfakes. El parpadeo irregular es una señal reveladora de que se ha alterado un video, por ejemplo. Pero la detección es algo así como una carrera armamentista, porque un algoritmo de IA generalmente se puede entrenar para abordar una falla determinada.

Entendido: Este junio, un papel nuevo de varios expertos forenses digitales describieron un enfoque más infalible. Se basa en el entrenamiento de un algoritmo de detección para reconocer los movimientos de la cara y la cabeza de una persona en particular, mostrando así cuando la cara de esa persona se ha pegado en la cabeza y el cuerpo de otra persona. El enfoque solo funciona cuando el sistema ha sido entrenado para reconocer a alguien, pero al menos podría mantener a los candidatos presidenciales a salvo de ataques.

¿Guardar silencio? Google en realidad proporcionó algunos fondos para esta nueva investigación. Entonces, tal vez estas compañías mantienen sus tarjetas cerca de su cofre cuando se trata de detección de falsificaciones profundas. Si quiere estar un paso por delante de los falsificadores, sin duda sería una decisión inteligente.