La IA para la ciberseguridad es algo nuevo y una apuesta peligrosa

Imagen de código superpuesto en una foto de manos en el teclado de una computadora portátil Unsplash

Cuando caminé por el piso de exhibición en la conferencia de seguridad cibernética Black Hat masiva de esta semana en Las Vegas, me sorprendió la cantidad de empresas que se jactan de cómo están utilizando el aprendizaje automático y la inteligencia artificial para ayudar a hacer del mundo un lugar más seguro.

Pero a algunos expertos les preocupa que los proveedores no presten suficiente atención a los riesgos asociados con la dependencia excesiva de estas tecnologías. Lo que está sucediendo es un poco preocupante y, en algunos casos, incluso peligroso, advierte Raffael Marty de la empresa de seguridad Forcepoint.

El hambre de algoritmos de la industria de la seguridad es comprensible. Se enfrenta a un tsunami de ciberataques justo cuando la cantidad de dispositivos conectados a Internet se está disparando. Al mismo tiempo, hay una escasez masiva de trabajadores cibernéticos calificados (consulte La nueva amenaza insidiosa de la seguridad cibernética: el estrés de la fuerza laboral).

El uso del aprendizaje automático y la inteligencia artificial para ayudar a automatizar la detección y respuesta de amenazas puede aliviar la carga de los empleados y, potencialmente, ayudar a identificar las amenazas de manera más eficiente que otros enfoques basados ​​en software.

Peligros de datos

Pero Marty y algunos otros que hablaron en Black Hat dicen que muchas empresas ahora están implementando productos basados ​​en aprendizaje automático porque sienten que tienen que hacerlo para obtener una audiencia con clientes que han comprado el ciclo de exageración de la IA. Y existe el peligro de que pasen por alto las formas en que los algoritmos de aprendizaje automático podrían crear una falsa sensación de seguridad.

Muchos productos que se implementan implican aprendizaje supervisado, lo que requiere que las empresas elijan y etiqueten los conjuntos de datos en los que se entrenan los algoritmos, por ejemplo, etiquetando el código que es malware y el código que está limpio.

Marty dice que un riesgo es que, al apresurarse a llevar sus productos al mercado, las empresas utilicen información de capacitación que no se ha eliminado completamente de los puntos de datos anómalos. Eso podría llevar a que el algoritmo pierda algunos ataques. Otra es que los piratas informáticos que obtienen acceso a los sistemas de una empresa de seguridad podrían corromper los datos cambiando las etiquetas para que algunos ejemplos de malware se etiqueten como código limpio.

Los malos ni siquiera necesitan manipular los datos; en su lugar, podrían resolver las características del código que utiliza un modelo para marcar el malware y luego eliminarlas de su propio código malicioso para que el algoritmo no lo detecte.

uno contra muchos

En una sesión de la conferencia, Holly Stewart y Jugal Parikh de Microsoft señalaron el riesgo de confiar demasiado en un único algoritmo maestro para impulsar un sistema de seguridad. El peligro es que si ese algoritmo se ve comprometido, no hay otra señal que señale un problema con él.

Para ayudar a protegerse contra esto, el servicio de protección contra amenazas Windows Defender de Microsoft utiliza un conjunto diverso de algoritmos con diferentes conjuntos de datos de entrenamiento y características. Entonces, si un algoritmo es pirateado, los resultados de los demás, suponiendo que su integridad no se haya visto comprometida también, resaltarán la anomalía en el primer modelo.

Más allá de estos temas. Marty, de Forcepoint, señala que con algunos algoritmos muy complejos puede ser muy difícil averiguar por qué en realidad escupen ciertas respuestas. Este problema de explicabilidad puede dificultar la evaluación de las anomalías que surgen (consulte El oscuro secreto en el corazón de la IA).

Nada de esto significa que la IA y el aprendizaje automático no deban tener un papel importante en un arsenal defensivo. El mensaje de Marty y otros es que es realmente importante para las empresas de seguridad, y sus clientes, monitorear y minimizar los riesgos asociados con los modelos algorítmicos.

Ese no es un desafío pequeño dado que las personas con la combinación ideal de experiencia profunda en seguridad cibernética y ciencia de datos siguen siendo tan raras como un día fresco en el verano de Las Vegas.

esconder