211service.com
El accidente fatal del piloto automático de Tesla es un recordatorio de que los autos autónomos a veces se equivocan
Más de 30.000 personas son asesinado por autos en los EE. UU. cada año, y las personas que trabajan en tecnología de conducción autónoma en compañías como Google y Tesla dicen que cualquier tecnología que pueda reducir significativamente esa cifra merece una atención seria.
Pero incluso si los automóviles automatizados pueden ser mucho más seguros que los convencionales, aún estarán involucrados en accidentes. Ningún software puede ser perfecto. Y a medida que madure la tecnología de conducción autónoma, los reguladores y la sociedad en su conjunto tendrán que decidir qué tan seguros deben ser estos vehículos. De hecho, se ha argumentado que, en algunas situaciones, los vehículos autónomos deben programarse para elegir activamente a qué personas dañar.
Esos temas espinosos se volvieron más concretos hoy con la noticia de que Tesla está siendo investigado por la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. después de un accidente fatal que involucra la función de conducción automatizada Autopilot de la compañía , que puede hacer cosas como cambiar de carril y ajustar la velocidad durante la conducción en carretera para algunos de los automóviles de la compañía.
El sedán Model S de Tesla Motors.
En Florida en mayo, un sedán Tesla Model S chocó contra un camión con remolque que cruzaba la carretera por delante mientras Autopilot tenía el control del automóvil. Ni la función de piloto automático de Tesla ni el conductor aplicaron los frenos del automóvil. En una publicación de blog el jueves, Tesla dijo que El piloto automático no registró el lado blanco del tráiler contra el cielo brillante .
El piloto automático de Tesla puede conducir el automóvil, detectar obstáculos y marcas de carril y usar los frenos, todo por sí solo. Pero es mucho menos capaz que un conductor humano y carece de la sofisticación y los sensores de alto detalle que se ven en proyectos de automóviles autónomos más maduros como el de Google.
Tesla ha sido criticado por promover la conveniencia de Autopilot, un nombre que sugiere que no se necesita intervención humana, al tiempo que mantiene que los conductores deben estar constantemente listos para tomar el control del software. El líder del proyecto de automóvil autónomo de Google, Chris Urmson, ha dicho que los experimentos de su compañía han demostrado que no se puede confiar en los humanos para hacer eso, porque rápidamente llegan a confiar en que el automóvil sabe lo que está haciendo. De todos modos, el CEO de Tesla, Elon Musk, ha dicho que los datos de su compañía sugieren El piloto automático es el doble de seguro que los conductores humanos .
Todavía no sabemos exactamente qué sucedió en el fatal accidente de May. La declaración de Tesla enfatiza que el conductor sabía que siempre debía estar atento a lo que estaba haciendo Autopilot. Pero si la NHTSA encuentra que el diseño del piloto automático tiene la culpa, Tesla podría verse obligado a retirar el producto o podría sentir que tiene que simplificar la función. Eso podría perjudicar tanto a Tesla como al entusiasmo por la tecnología en general.
Cualquiera que sea el resultado de la investigación de la NHTSA, el incidente es una oportunidad para considerar los estándares a los que aplicamos el software de conducción autónoma y las empresas que lo diseñan. Si se va a usar ampliamente, tendremos que aceptar que está involucrado en accidentes, algunos fatales y otros causados por sus propias fallas.
Los conductores humanos ponen un listón bajo: alrededor del 90 por ciento de los accidentes son causados por errores humanos, y los errores tontos como conducir mientras envían mensajes de texto o borrachos matan a demasiadas personas. Es fácil ver cómo las máquinas podrían mejorar eso. Pero decidir cuánto mejor deben ser será mucho más difícil.