211service.com
Los piratas informáticos son el verdadero obstáculo para los vehículos autónomos
Espen Friberg
Antes de que los camiones y taxis autónomos salgan a la carretera, los fabricantes deberán resolver problemas mucho más complejos que la prevención de colisiones y la navegación (ver 10 Tecnologías innovadoras 2017: Camiones autónomos).
Estos vehículos tendrán que anticiparse y defenderse contra un espectro completo de atacantes maliciosos que ejercen tanto ataques cibernéticos tradicionales como una nueva generación de ataques basados en el llamado aprendizaje automático antagónico (ver AI Fight Club podría ayudar a salvarnos de un futuro de ataques cibernéticos súper inteligentes ). A medida que crece el consenso de que los vehículos autónomos están a solo unos años de ser desplegados en las ciudades como taxis robóticos y en las carreteras para aliviar el aburrimiento abrumador de los camiones de larga distancia, este riesgo de ataque ha desaparecido en gran medida de la cobertura sin aliento.
Me recuerda numerosos artículos que promovían el correo electrónico a principios de la década de 1990, antes de que el nuevo mundo de las comunicaciones electrónicas estuviera inundado de spam no deseado. En aquel entonces, la promesa del aprendizaje automático se consideraba una solución a los problemas de spam del mundo. Y, de hecho, hoy en día el problema del correo no deseado está resuelto en gran medida, pero nos tomó décadas llegar aquí.
No ha habido informes hasta la fecha de piratas informáticos hostiles dirigidos a vehículos autónomos. Irónicamente, sin embargo, eso es un problema. Tampoco hubo atacantes maliciosos cuando las nuevas empresas de punto com en la década de 1990 desarrollaron las primeras plataformas de comercio electrónico. Después de la primera gran ronda de ataques al comercio electrónico, Bill Gates escribió un memorando a Microsoft exigiendo que la empresa se tomara la seguridad en serio . El resultado: hoy Windows es uno de los sistemas operativos más seguros y Microsoft gasta más de mil millones de dólares al año en ciberseguridad . Sin embargo, los piratas informáticos siguen encontrando problemas con los sistemas operativos Windows, los navegadores web y las aplicaciones.
Es probable que las compañías automotrices experimenten una progresión similar. Después de estar muy avergonzados por no considerar la seguridad en absoluto (el bus CAN, diseñado en la década de 1980, no tiene el concepto de autenticación), ahora parecen estar prestando atención. Cuando los piratas informáticos demostraron que los vehículos en las carreteras eran vulnerables a varias amenazas de seguridad específicas, los fabricantes de automóviles respondieron retirando y actualizando el firmware de millones de automóviles. En julio pasado, la directora ejecutiva de GM, Mary Barra, dijo que proteger los autos de un incidente de seguridad cibernética es una cuestión de seguridad pública.
Pero los esfuerzos realizados hasta la fecha pueden estar pasando por alto la próxima tendencia de seguridad. Los sistemas de visión por computadora y de prevención de colisiones que se están desarrollando para vehículos autónomos se basan en complejos algoritmos de aprendizaje automático que no son bien entendidos, incluso por las empresas que confían en ellos (consulte El oscuro secreto en el corazón de la IA).
Investigadores del año pasado en la CMU demostró que Los algoritmos de reconocimiento facial de última generación podrían ser derrotados usando un par de anteojos transparentes con un patrón original impreso en sus marcos. Algo en el patrón inclinó al algoritmo de la manera correcta, y pensó que vio lo que no estaba allí. Mostramos que los atacantes pueden evadir los algoritmos de reconocimiento facial de última generación que se basan en redes neuronales con el fin de hacerse pasar por una persona objetivo, o simplemente identificarse incorrectamente, escribió el investigador principal Mahmood Sharif en un correo electrónico.
También el año pasado, investigadores de la Universidad de Carolina del Sur, la Universidad Zhejiang de China y la empresa de seguridad china Qihoo 360 demostró que podrían bloquear varios sensores en un Tesla S, haciendo que los objetos sean invisibles para su sistema de navegación.
Muchos artículos recientes sobre conducción autónoma minimizan o incluso ignoran la idea de que podría haber adversarios activos, adaptables y maliciosos que intentan hacer que los vehículos choquen. En una entrevista con Revisión de tecnología del MIT , el presidente de la Junta Nacional de Seguridad en el Transporte, Christopher Hart, dijo que era muy optimista de que los automóviles autónomos reducirían la cantidad de accidentes en las carreteras del país. Al analizar los problemas de seguridad, Hart se centró en la necesidad de programar vehículos para tomar decisiones éticas, por ejemplo, cuando un camión de 80 000 libras de repente bloquea el camino de un automóvil.
¿Por qué alguien querría piratear un automóvil autónomo, sabiendo que podría resultar en una muerte? Una de las razones es que el despliegue generalizado de vehículos autónomos dará como resultado una gran cantidad de personas desempleadas, y algunas de ellas se enfadarán.
En agosto de 2016, el director ejecutivo de Ford, Mark Fields dijo eso planeó tener vehículos completamente autónomos operando como taxis urbanos para 2021. Google, Nissan y otros planearon tener autos autónomos similares en las carreteras tan pronto como en 2020. Esos taxis automatizados o vehículos de entrega podrían ser vulnerables a ser deslumbrados maliciosamente con un alto -puntero láser de potencia por un camionero sin trabajo, un ex conductor de Uber que todavía tiene que hacer los pagos del automóvil, o simplemente un grupo de adolescentes aburridos.
Cuando se le preguntó acerca de sus planes para abordar la amenaza del aprendizaje automático adverso, Sarah Abboud, portavoz de Uber, respondió: Nuestro equipo de expertos en seguridad explora constantemente nuevas defensas para el futuro de los vehículos autónomos, incluida la integridad de datos y la detección de abusos. Sin embargo, a medida que evoluciona la tecnología autónoma, también lo hace el modelo de amenazas, lo que significa que algunos de los problemas de seguridad actuales probablemente difieran de los que se abordan en un entorno verdaderamente autónomo.
Solo se necesitarán unos pocos accidentes para detener el despliegue de vehículos sin conductor. Es probable que esto no obstaculice los sistemas avanzados de piloto automático, pero es probable que sea un elemento disuasorio considerable para el despliegue de vehículos totalmente autónomos.
Simon Garfinkel es un escritor científico que vive en Arlington, Virginia. Está trabajando en un nuevo libro sobre la historia de la informática.