211service.com
La IA consume mucha energía. Los piratas informáticos podrían hacer que consuma más.
Taylor Vick/Unsplash
Las noticias: Un nuevo tipo de ataque podría aumentar el consumo de energía de los sistemas de IA. De la misma manera que un ataque de denegación de servicio en Internet busca obstruir una red y dejarla inutilizable, el nuevo ataque obliga a una red neuronal profunda a ocupar más recursos informáticos de los necesarios y ralentizar su proceso de pensamiento.
El objetivo: En los últimos años, la creciente preocupación por el costoso consumo de energía de los grandes modelos de IA ha llevado a los investigadores a diseñar redes neuronales más eficientes. Una categoría, conocida como arquitecturas de múltiples salidas adaptables a la entrada, funciona dividiendo las tareas según lo difíciles que sean de resolver. Luego gasta la cantidad mínima de recursos computacionales necesarios para resolver cada uno.
Supongamos que tiene una imagen de un león mirando directamente a la cámara con una iluminación perfecta y una imagen de un león agazapado en un paisaje complejo, parcialmente oculto a la vista. Una red neuronal tradicional pasaría ambas fotos a través de todas sus capas y gastaría la misma cantidad de cómputo para etiquetar cada una. Pero una red neuronal de salida múltiple adaptable a la entrada podría pasar la primera foto a través de una sola capa antes de alcanzar el umbral de confianza necesario para llamarla por lo que es. Esto reduce la huella de carbono del modelo, pero también mejora su velocidad y permite implementarlo en dispositivos pequeños como teléfonos inteligentes y parlantes inteligentes.
El ataque: Pero este tipo de red neuronal significa que si cambia la entrada, como la imagen que se alimenta, puede cambiar la cantidad de cómputo que necesita para resolverlo. Esto abre una vulnerabilidad que los piratas informáticos podrían explotar, como describieron los investigadores del Centro de Ciberseguridad de Maryland en un nuevo documento que se presentó en la Conferencia Internacional sobre Representaciones de Aprendizaje esta semana. Al agregar pequeñas cantidades de ruido a las entradas de una red, hicieron que las percibiera como más difíciles y aumentaron su cálculo.
Cuando asumieron que el atacante tenía información completa sobre la red neuronal, pudieron maximizar su consumo de energía. Cuando asumieron que el atacante tenía información limitada o nula, aún pudieron ralentizar el procesamiento de la red y aumentar el uso de energía entre un 20 % y un 80 %. La razón, como encontraron los investigadores, es que los ataques se transfieren bien a través de diferentes tipos de redes neuronales. Diseñar un ataque para un sistema de clasificación de imágenes es suficiente para interrumpir muchos, dice Yiğitcan Kaya, estudiante de doctorado y coautor del artículo.
La advertencia: Este tipo de ataque es todavía algo teórico. Las arquitecturas adaptables a la entrada aún no se usan comúnmente en aplicaciones del mundo real. Pero los investigadores creen que esto cambiará rápidamente debido a las presiones dentro de la industria para implementar redes neuronales más livianas, como para el hogar inteligente y otros dispositivos IoT. Tudor Dumitraş, el profesor que asesoró la investigación, dice que se necesita más trabajo para comprender hasta qué punto este tipo de amenaza podría causar daños. Pero, agrega, este documento es un primer paso para generar conciencia: lo que es importante para mí es llamar la atención de las personas sobre el hecho de que este es un nuevo modelo de amenaza y que se pueden realizar este tipo de ataques.