Se puede engañar al software inteligente para que vea lo que no existe

Una técnica llamada aprendizaje profundo ha permitido que Google y otras empresas hagan avances para que las computadoras entiendan el contenido de las fotos. Ahora, los investigadores de la Universidad de Cornell y la Universidad de Wyoming han demostrado cómo crear imágenes que engañan a dicho software para convertirlo en ver cosas que no están ahí .

Imágenes como estas se crearon para engañar a los algoritmos de aprendizaje automático. El software ve cada patrón como uno de los dígitos del 1 al 5.

Los investigadores pueden crear imágenes que a un humano le parecen tonterías revueltas o patrones geométricos simples, pero que el software identifica como un objeto cotidiano, como un autobús escolar. Las imágenes engañosas ofrecen una nueva visión de las diferencias entre cómo los cerebros reales y las neuronas simuladas simples se utilizan en las imágenes del proceso de aprendizaje profundo.

Los investigadores generalmente entrenan software de aprendizaje profundo para que reconozca algo de interés, por ejemplo, una guitarra, mostrándole millones de imágenes de guitarras, y cada vez le dice a la computadora Esto es una guitarra. Después de un tiempo, el software puede identificar guitarras en imágenes que nunca antes había visto, asignando a su respuesta una calificación de confianza. Podría otorgar una calificación de confianza alta a una guitarra que se muestra sola sobre un fondo blanco, y una calificación de confianza más baja a una guitarra que se ve en el fondo de una imagen granulada desordenada (consulte 10 Tecnologías innovadoras 2013: aprendizaje profundo).

Ese enfoque tiene aplicaciones valiosas como el reconocimiento facial o el uso de software para procesar imágenes de cámaras de seguridad o tráfico, por ejemplo, para medir los flujos de tráfico o detectar actividades sospechosas.

Pero aunque las funciones matemáticas utilizadas para crear una red neuronal artificial se entienden individualmente, se desconoce cómo funcionan juntas para descifrar imágenes. Entendemos que funcionan, pero no cómo funcionan, dice jeff clune , profesor asistente de informática en la Universidad de Wyoming. Pueden aprender a hacer cosas que ni siquiera podemos aprender a hacer nosotros mismos.

Estas imágenes parecen abstractas para los humanos, pero el algoritmo de reconocimiento de imágenes para el que fueron diseñadas las ve como los objetos descritos en las etiquetas.

Para arrojar nueva luz sobre cómo funcionan estas redes, el grupo de Clune utilizó una red neuronal llamada AlexNet que ha logrado resultados impresionantes en el reconocimiento de imágenes. Lo operaron a la inversa, pidiéndole a una versión del software sin conocimiento de guitarras que crear una imagen de uno, generando píxeles aleatorios en una imagen.

Los investigadores le pidieron a una segunda versión de la red que había sido entrenada para detectar guitarras que calificara las imágenes realizadas por la primera red. Esa calificación de confianza fue utilizada por la primera cadena para refinar su próximo intento de crear una imagen de guitarra. Después de miles de rondas de esto entre las dos piezas de software, la primera red pudo generar una imagen que la segunda red reconoció como una guitarra con un 99 por ciento de confianza.

Sin embargo, para un ser humano, esas imágenes de guitarra parecían estáticas de TV en color o patrones simples. Clune dice que esto muestra que el software no está interesado en juntar detalles estructurales como cuerdas o un diapasón, como podría estarlo un humano tratando de identificar algo. En cambio, el software parece estar buscando distancias específicas o relaciones de color entre píxeles, o color y textura en general.

Eso ofrece una nueva visión de cómo funcionan realmente las redes neuronales artificiales, dice Clune, aunque se necesita más investigación.

ryan adams , profesor asistente de ciencias de la computación en Harvard, dice que los resultados no son del todo sorprendentes. El hecho de que grandes áreas de las imágenes trucadas parezcan mares de estática probablemente se deba a la forma en que las redes se alimentan de imágenes de entrenamiento. El objeto de interés suele ser solo una pequeña parte de la foto, y el resto no tiene importancia.

Adams también señala que la investigación de Clune muestra que los humanos y las redes neuronales artificiales tienen algunas cosas en común. Los humanos han estado pensando que ven objetos cotidianos en patrones aleatorios, como las estrellas, durante milenios.

Clune dice que sería posible utilizar su técnica para engañar a los algoritmos de reconocimiento de imágenes cuando se ponen a trabajar en servicios web y otros productos. Sin embargo, sería muy difícil de lograr. Por ejemplo, Google tiene algoritmos que filtran la pornografía de los resultados de su servicio de búsqueda de imágenes. Pero para crear imágenes que lo engañen, un bromista necesitaría conocer detalles significativos sobre cómo se diseñó el software de Google.

esconder