Cómo esconderse del estado de vigilancia de la IA con una copia impresa en color

Categoría: Inteligencia artificial Al corriente 23 de abril

La tecnología de video impulsada por IA se está volviendo omnipresente, rastreando nuestros rostros y cuerpos a través de tiendas, oficinas y espacios públicos. En algunos países, la tecnología constituye una nueva y poderosa capa de vigilancia policial y gubernamental.

Afortunadamente, como algunos investigadores de la universidad belga KU Leuven acaba de mostrar , a menudo puede ocultarse de un sistema de video AI con la ayuda de una simple impresión en color.

¿Quien dijo que? Los investigadores demostraron que la imagen que diseñaron puede ocultar a una persona completa de un sistema de visión por computadora alimentado por IA. Lo demostraron en un popular sistema de reconocimiento de objetos de código abierto llamado yolo(v2) .

Al escondite: El truco posiblemente podría permitir que los ladrones se escondan de las cámaras de seguridad u ofrecer a los disidentes una forma de eludir el escrutinio del gobierno. Lo que demuestra nuestro trabajo es que es posible eludir los sistemas de vigilancia con cámaras utilizando parches contradictorios, dice Wiebe Van Ranst , uno de los autores.

Piérdase: Van Ranst dice que no debería ser demasiado difícil adaptar el enfoque a los sistemas de videovigilancia disponibles en el mercado. Por el momento también necesitamos saber qué detector está en uso. Lo que nos gustaría hacer en el futuro es generar un parche que funcione en múltiples detectores al mismo tiempo, dijo a MIT Technology Review. Si esto funciona, hay muchas posibilidades de que el parche también funcione en el detector que está en uso en el sistema de vigilancia.

Tarea de bobo: El engaño demostrado por el equipo belga explota lo que se conoce como aprendizaje automático adversario. La mayor parte de la visión por computadora se basa en entrenar una red neuronal (convolucional) para reconocer diferentes cosas al proporcionarle ejemplos y ajustar sus parámetros hasta que clasifique los objetos correctamente. Al introducir ejemplos en una red neuronal profunda entrenada y monitorear la salida, es posible inferir qué tipos de imágenes confunden o engañan al sistema.

Ojos por todas partes: El trabajo es importante porque la IA se encuentra cada vez más en las cámaras y el software de vigilancia cotidianos. Incluso se está utilizando para obviar la necesidad de una línea de pago en algunas tiendas experimentales, incluidas las operadas por Amazon. Y en China, la tecnología está emergiendo como un nuevo y poderoso medio para atrapar a los delincuentes y, lo que es más preocupante, seguimiento de ciertos grupos étnicos .