Los cerebros humanos y las IA se pueden piratear con estas extrañas fotos modificadas

Categoría: Inteligencia artificial Al corriente Mar 01

Los algoritmos de visión por computadora no son las únicas formas de inteligencia que pueden ser engañadas por fotos manipuladas.

UH oh: Los investigadores han utilizado una IA para diseñar las primeras fotos que engañan tanto a los humanos como a los algoritmos de visión por computadora, como la de arriba: una imagen inalterada de un gato, a la izquierda, junto a una versión que ha sido modificada para parecerse extrañamente a un perro.

¡Para la ciencia! Encontrar debilidades humanas de esta manera podría mejorar nuestros sistemas de IA. En el papel que describe estas fotos manipuladas, en coautoría con Ian Goodfellow, el creador de las redes adversariales generativas (GAN), los investigadores señalan que si encontramos una cierta clase de imágenes alteradas que no pueden engañar a la mente humana, sugiere que un mecanismo similar podría existir en el aprendizaje automático. Después de todo, la mayoría de los sistemas de IA se basan libremente en el cerebro humano.

Por qué importa: Ahora que hay pegatinas que se pueden poner objetos físicos para confundir los sistemas de visión por computadora, los llamados ejemplos contradictorios son un problema del mundo real. Y si los vehículos autónomos no tienen una manera de asegurarse de que sus sistemas puedan ver cada señal de alto, no estarán listos para la carretera en el corto plazo.