¿Cómo convertir un perro en un coche? Cambiar un solo píxel.

Categoría: Sin categorizar Al corriente Oct 30

Gracias a un nuevo enfoque para falsificar IA de reconocimiento de imágenes, desarrollado por un equipo de la Universidad de Kyushu en Japón, por esa broma.

Intentar descubrir las IA es un pasatiempo popular para muchos investigadores, y en el pasado hemos informado sobre falsificaciones de aprendizaje automático. El enfoque general es agregar características a las imágenes que activarán incorrectamente una red neuronal y hacer que identifique lo que ve como algo completamente diferente.

La nueva investigación, publicado en arXiv , describe un algoritmo que puede identificar de manera eficiente los mejores píxeles para alterar con el fin de confundir a una IA para que etiquete incorrectamente una imagen. Al cambiar solo un píxel en una imagen de 1024 píxeles, el software puede engañar a una IA aproximadamente el 74 por ciento de las veces. Esa cifra aumenta a alrededor del 87 por ciento si se ajustan cinco píxeles.

Puede ver algunos ejemplos anteriores, que engañaron a una IA para que llamara perro a un avión, camión a una rana y automóvil a un caballo, entre otras cosas.

Como el Registrarse Señala , las imágenes de 1024 píxeles son bastante pequeñas, lo que significa que las imágenes más grandes necesitarían cientos de píxeles ajustados. Pero el impulso para hacer que las IA se caigan usando la menor cantidad de cambios posibles es interesante y preocupante, en igual medida. Como explicamos en el pasado, encontrar una manera de proteger las IA de este tipo de trucos es bastante difícil, porque todavía no entendemos realmente el funcionamiento interno de las redes neuronales profundas.

Hasta que lo hagamos, tales ataques serán difíciles de evitar.