211service.com
AI Fight Club podría ayudarnos a salvarnos de un futuro de ciberataques súper inteligentes
Juan Malta
Una nueva competencia anuncia lo que probablemente se convertirá en el futuro de la ciberseguridad y la ciberguerra, con algoritmos de IA ofensivos y defensivos en batalla.
El concurso , que se desarrollará durante los próximos cinco meses, está dirigido por Kaggle , una plataforma para concursos de ciencia de datos. Enfrentará los algoritmos de los investigadores entre sí en un intento de confundirse y engañarse unos a otros, con la esperanza de que este combate proporcione información sobre cómo fortalecer los sistemas de aprendizaje automático contra futuros ataques.
Es una idea brillante catalizar la investigación tanto para engañar a las redes neuronales profundas como para diseñar redes neuronales profundas que no puedan ser engañadas, dice jeff clune , profesor asistente de la Universidad de Wyoming que estudia los límites del aprendizaje automático.
El concurso tendrá tres componentes. Un desafío implicará simplemente tratar de confundir un sistema de aprendizaje automático para que no funcione correctamente. Otro implicará tratar de obligar a un sistema a clasificar algo incorrectamente. Y una tercera implicará desarrollar las defensas más robustas. Los resultados se presentarán en una importante conferencia de IA a finales de este año.
El aprendizaje automático, y el aprendizaje profundo en particular, se está convirtiendo rápidamente en una herramienta indispensable en muchas industrias. La tecnología implica introducir datos en un tipo especial de programa informático, especificar un resultado particular y hacer que una máquina desarrolle su propio algoritmo para lograr el resultado. El aprendizaje profundo hace esto ajustando los parámetros de una enorme red interconectada de neuronas simuladas matemáticamente.
Hace tiempo que se sabe que los sistemas de aprendizaje automático pueden ser engañados. Los spammers pueden, por ejemplo, evadir los filtros de spam modernos averiguando qué patrones ha sido entrenado para identificar el algoritmo del filtro.
En los últimos años, sin embargo, los investigadores han demostrado que incluso los algoritmos más inteligentes a veces pueden ser engañados de manera sorprendente. Por ejemplo, algoritmos de aprendizaje profundo con habilidades casi humanas para reconocer objetos en imágenes. puede ser engañado por imágenes aparentemente abstractas o aleatorias que explotan los patrones de bajo nivel que buscan estos algoritmos (ver El oscuro secreto en el corazón de la IA).
El aprendizaje automático adversario es más difícil de estudiar que el aprendizaje automático convencional: es difícil saber si su ataque es fuerte o si su defensa es realmente débil, dice Ian Goodfellow, investigador de Cerebro de Google , una división de Google dedicada a la investigación y aplicación del aprendizaje automático, que organizó el concurso.
A medida que el aprendizaje automático se generaliza, existe el temor de que dichos ataques puedan utilizarse con fines lucrativos o puramente dañinos. Podría ser posible que los piratas informáticos evadan las medidas de seguridad para instalar malware, por ejemplo.
La seguridad informática definitivamente se está moviendo hacia el aprendizaje automático, dice Goodfellow. Los malos utilizarán el aprendizaje automático para automatizar sus ataques y nosotros utilizaremos el aprendizaje automático para defenderse.
En teoría, los delincuentes también podrían engañar a los sistemas de reconocimiento de voz y rostro, o incluso colocar carteles para engañar a los sistemas de visión en los autos sin conductor, provocando que se estrellen.
Kaggle se ha convertido en un caldo de cultivo invaluable para el desarrollo de algoritmos y un semillero para científicos de datos talentosos. La empresa fue adquirida por Google en marzo y ahora forma parte de la plataforma Google Cloud. Goodfellow y otro investigador de Google Brain, Alexey Kurakin, presentaron la idea del desafío antes de la adquisición.
Benjamin Hamner, cofundador y CTO de Kaggle, dice que espera que el concurso llame la atención sobre un problema inminente. A medida que el aprendizaje automático se usa más ampliamente, la comprensión de los problemas y los riesgos del aprendizaje antagónico se vuelve cada vez más importante, dice.
Los beneficios del concurso abierto superan cualquier riesgo asociado con la publicidad de nuevos tipos de ataques, agrega: Creemos que es mejor crear y compartir esta investigación abiertamente, en lugar de hacerlo a puerta cerrada.
Mientras tanto, Clune dice que está interesado en el concurso para probar algoritmos que supuestamente pueden resistir ataques. Mi dinero está en que las redes seguirán siendo engañadas en el futuro previsible, dice.