Una nueva forma de entrenar los sistemas de IA podría mantenerlos más seguros de los piratas informáticos

Categoría: Inteligencia artificial Al corriente Jul 10

El contexto: Uno de los mayores defectos no resueltos del aprendizaje profundo es su vulnerabilidad a los llamados ataques adversarios . Cuando se agregan a la entrada de un sistema de IA, estas perturbaciones, aparentemente aleatorias o indetectables para el ojo humano, pueden hacer que las cosas salgan completamente mal. Las pegatinas colocadas estratégicamente en una señal de alto, por ejemplo, pueden engañar a un automóvil autónomo para que vea una señal de límite de velocidad de 45 millas por hora, mientras que las pegatinas en una carretera pueden confundir un tesla en virar hacia el carril equivocado.

Seguridad crítica: La mayoría de las investigaciones contradictorias se centran en los sistemas de reconocimiento de imágenes, pero la imagen basada en el aprendizaje profundo reconstrucción Los sistemas también son vulnerables. Esto es particularmente preocupante en el cuidado de la salud, donde estos últimos a menudo se utilizan para reconstruir imágenes médicas como tomografías computarizadas o resonancias magnéticas a partir de datos de rayos X. Un ataque adversario dirigido podría hacer que dicho sistema reconstruya un tumor en un escaneo donde no lo hay.

La investigación: Bo Li (nombrada una de las Innovadoras menores de 35 años de MIT Technology Review de este año) y sus colegas de la Universidad de Illinois en Urbana-Champaign ahora proponen un nuevo método para entrenar tales sistemas de aprendizaje profundo para que sean más infalibles y, por lo tanto, confiables en escenarios críticos para la seguridad. Enfrentan la red neuronal responsable de la reconstrucción de imágenes contra otra red neuronal responsable de generar ejemplos contradictorios, en un estilo similar a algoritmos GAN . A través de rondas iterativas, la red adversaria intenta engañar a la red de reconstrucción para que produzca cosas que no son parte de los datos originales o la verdad sobre el terreno. La red de reconstrucción se modifica continuamente para evitar que la engañen, lo que la hace más segura de implementar en el mundo real.

Los resultados: Cuando los investigadores probaron su red neuronal entrenada adversariamente en dos conjuntos de datos de imágenes populares, pudieron reconstruir la verdad del terreno mejor que otras redes neuronales que habían sido a prueba de fallas con diferentes métodos. Sin embargo, los resultados aún no son perfectos, lo que muestra que el método aún necesita refinamiento. El trabajo será presentado la próxima semana en el Conferencia Internacional sobre Aprendizaje Automático . (Lea el Algoritmo de esta semana para obtener consejos sobre cómo navego en conferencias de IA como esta).