Los piratas informáticos engañan a un Tesla para que se desvíe hacia el carril equivocado

Categoría: Inteligencia artificial Al corriente 01 de abril

Los piratas informáticos tienen demostrado algunas formas preocupantes de manipular y confundir los diversos sistemas en un Tesla Model S. Su hazaña más dramática: enviar el automóvil a toda velocidad hacia el carril de tráfico que se aproxima colocando una serie de pequeñas pegatinas en la carretera.

Vector de ataque: Este es un ejemplo de un ataque adversario, una forma de manipular un modelo de aprendizaje automático mediante la introducción de una entrada especialmente diseñada. Los ataques adversarios podrían volverse más comunes a medida que el aprendizaje automático se use más ampliamente, especialmente en áreas como la seguridad de la red.

Líneas borrosas: El piloto automático de Tesla es vulnerable porque reconoce los carriles mediante visión artificial. En otras palabras, el sistema se basa en los datos de la cámara, analizados por una red neuronal, para decirle al vehículo cómo mantenerse centrado dentro de su carril.

Atasco de tráfico: Este no es el primer ataque adversario a un sistema de conducción autónoma. Dawn Song, profesora de UC Berkeley, usó pegatinas de aspecto inocuo para engañar a un automóvil autónomo haciéndole creer que una señal de alto era un límite de velocidad de 45 millas por hora. Otro estudio , publicado en marzo, demostró cómo los sistemas médicos de aprendizaje automático pueden engañarse de manera similar para que proporcionen diagnósticos erróneos.

Corrección de errores: Los investigadores detrás del truco de reconocimiento de carril, de la Laboratorio de seguridad de Keen del gigante tecnológico chino Tencent, utilizó un ataque similar para interrumpir los limpiaparabrisas automáticos del vehículo. También secuestraron el volante del automóvil utilizando otro método. Un portavoz de Tesla le dijo a Forbes que la última vulnerabilidad ha sido corregida en su actualización de software más reciente. El portavoz dijo que el ataque adversario no era realista dado que un conductor puede anular fácilmente el piloto automático en cualquier momento.