¿Por qué la gente nunca podría usar coches autónomos?

La conducción automatizada avanza todo el tiempo, pero todavía falta un ingrediente fundamental: la confianza. La presentadora Jennifer Strong se reúne con ingenieros que construyen un nuevo lenguaje de comunicación entre los vehículos automatizados y sus ocupantes humanos, una pieza crucial que falta en el impulso hacia un futuro sin conductor.

Nos encontramos:

• Dr. Richard Corey y Dr. Nicholas Giudice, fundadores del laboratorio VEMI en la Universidad de Maine
• Ryan Powell, diseño e investigación de UX en Waymo.
• Rashed Haq, vicepresidente de robótica en Cruise

Créditos:

Este episodio fue informado y producido por Jennifer Strong, Tanya Basu, Emma Cillekens y Tate Ryan-Mosley. Tuvimos la ayuda de Karen Hao y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción completa del episodio:

Jennifer Fuerte: Los automóviles sin conductor se han evocado en películas y se ha hablado de ellos durante décadas. Los primeros intentos de hacerlos fueron hace aproximadamente un siglo. Y claro, ya no son tan increíbles como en Herbie The Love Bug de la década de 1960, donde este automóvil autónomo tiene mente propia:

[Clip de Herbie]: Yo no te traje aquí. Es este pequeño y desagradable auto.

Jennifer Fuerte: Pero si bien la inteligencia artificial que impulsa la tecnología ha avanzado a pasos agigantados, y ahora tenemos algunos taxis autónomos en los EE. de Herbie alejándose sin el consentimiento del conductor.

Y lo que es más, los pitidos y pitidos destinados a decirnos algo sobre lo que está haciendo el automóvil no nos dicen intuitivamente qué está pasando.

Para ser justos, ese no es solo un problema con los vehículos automatizados, aparece en la mayoría de los autos con elementos computarizados. Mi automóvil suena para que mi pasajero se ponga el cinturón de seguridad cuando todo lo que hay allí es un bolso.

A pesar de los mejores esfuerzos de los programadores, todavía hay un problema fundamental: los automóviles y las personas no hablan el mismo idioma.

Todo esto es importante porque este no es un videojuego o un teléfono que intenta interpretar su lenguaje matemático de 1 y 0 de manera que tenga sentido en el lenguaje humano. Esta es una cosa en movimiento que lleva nuestros cuerpos del lugar a al lugar b. Cuando las cosas van mal, pueden salir realmente mal.

Soy Jennifer Strong y en este episodio, nos sumergimos en algunas preguntas difíciles sobre la usabilidad y la confianza.

Imagina que estás a punto de salir de casa: estás luchando para llegar a una reunión con algunos clientes. Quieres hablar con tu jefe de antemano, pero también tienes que llevar a tus hijos a la escuela. Usted y los niños luchan por salir por la puerta y dirigirse al automóvil, café y tostadas en la mano, mochilas y botellas de agua a cuestas. Sería bueno establecer un piloto automático. Pero, ¿confiarías en él? ¿De verdad te imaginas soltar el volante?

¿Y cómo saber qué escenario es menos seguro? ¿La inevitable multitarea y la gestión de niños mientras se conduce? ¿O entregar algún control a una máquina?

La tecnología que tenemos ahora, como el piloto automático de Tesla, no es lo suficientemente avanzada como para ser realmente autónomo. Las personas en el campo se refieren a esto como conducción automatizada: requiere que un ser humano controle lo que está haciendo el automóvil. Sabemos que al menos cinco personas han muerto en choques con conducción automatizada cuando alguien detrás del volante no estaba prestando mucha atención.

Pero los conductores distraídos son peligrosos en todo tipo de automóvil, y en los EE. UU. todavía mueren entre 30 y 40 mil personas en accidentes cada año.

Jennifer Fuerte: Dando un paseo por mi vecindario, a menudo veo a mi mejor amiga en su porche con su hijo de trece años. Es una típica escena urbana... excepto por la siguiente parte.

Ana : Entras en los controles... esto no cargará...

Jennifer Fuerte: Hannah está usando una aplicación en el iPhone de su mamá para llevar su auto eléctrico a un espacio de estacionamiento donde puedan enchufarlo.

Ana : Bueno, esto es una cuestión de usabilidad... no se cargará.

camello : Eso sucede varias veces cuando empezamos a implementar la función de invocación...

Jennifer Fuerte: Los niños están creciendo con aplicaciones y, a menudo, es más intuitivo para ellos cómo funcionan estas cosas que para sus padres. Tampoco se frustran tan fácilmente con la nueva tecnología.

ana: aquí vamos. Bueno. Entonces, te muestra una foto del auto. Simplemente empuja en la dirección que quieras ir y mantenlo, y debería moverse. Pero no fue así... [risilla] ...

Jennifer Fuerte: El fabricante de automóviles Tesla tiene una función de piloto automático que permite a los conductores llamar a los automóviles en los estacionamientos para que los recojan, entre muchas otras cosas.

¡Oh! Allí va.

Ana : Las luces se encienden y se puede ver que el volante se mueve dentro del automóvil... y también cree que nuestro portabicicletas es otro automóvil, por lo que no podemos revertirlo con esto.

Jennifer Strong: Autopilot también ofrece una versión más avanzada de control de crucero… aunque tampoco es perfecto.

camello : Pero he llegado a apreciar que se detendrá o disminuirá la velocidad en función de la persona frente a usted. Si no puede pasar al carril de adelantamiento. Sin embargo, aún debe estar alerta porque se detendrá en seco en una carretera en movimiento rápido. Por razones... sin razón. No es que pueda decirlo. Entonces, soy muy receloso. No me permite relajarme mucho. Solo deja que mi pie tome un descanso.

camello : Y cuando quiera hablarme sobre sus medidas de seguridad, me gustaría que hablara claramente. En lugar de bip bip... tratando de desplazarse... ¿qué demonios [emitir pitidos] ¿eso significa? No sé. [risa]

Ana : Cuando hacemos actualizaciones de software, nos da un resumen de lo que se hace. Pero como dijo mi mamá, no está en un inglés sencillo. Es muy difícil de entender. Entonces realmente solo tienes que descubrir qué ha cambiado a medida que avanzas, lo que puede ser peligroso. Si es algo importante, no sabes cómo encender la calefacción o encender el piloto automático. Y también sé que comencé a viajar en el asiento delantero, me convertí en una especie de copiloto y no hay una forma obvia de ajustar el tamaño de la fuente. Mi mamá no puede leer la hora ni la navegación. Tiene muy buena vista, pero todavía le cuesta. Y tengo que apartar la vista de la carretera. Si estuviera conduciendo, probablemente tampoco podría hacerlo. Por lo tanto, no es muy fácil de usar.

Jennifer Fuerte: No se puede negar que tenemos problemas reales en esta relación, es solo una cuestión de cómo se abordan, como bien saben los investigadores que se enfocan en eso en la Universidad de Maine.

ricardo corey : Hay muy poca discusión desde el lado humano. Y, y seré el primero en decir esto... ¡Bien! Porque número uno, quiero asegurarme de que el auto se mantenga en el camino. Eso es, esa es nuestra cosa número uno. Asegúrese de que la ingeniería sea correcta y que se mantengan en el camino... pero pronto llegaremos a un punto en el que tendremos que entrar en ellos, y tenemos que averiguar qué significa eso desde el lado humano, ¿qué necesitamos?

Jennifer Fuerte: Richard Corey es el director del Laboratorio VEMI de la Universidad de Maine, que se centra en las interacciones hombre-máquina.

ricardo corey : Comenzamos a investigar más a fondo y nos dimos cuenta de que la notificación en un Tesla, que todo el mundo considera que es el líder en vehículos autónomos en este momento, la notificación para informarle que el Tesla ya no tiene el control son cuatro pitidos. Y pensamos que no parece ser suficiente información [risas] considerando el procesamiento neurológico y las cosas por las que pasamos cuando manejamos un automóvil y somos conscientes de las cosas que nos rodean y...

Nicolás Giudice : Enlazando con eso, nos dimos cuenta de que...

Jennifer Fuerte: Y ese es el cofundador del laboratorio, Nicholas Giudice. .

Nicolás Giudice : Si bien las personas tampoco están pensando realmente en el lado humano de las cosas y observando todos los factores humanos, ha habido algunas investigaciones, en su mayoría investigaciones de encuestas que muestran de manera bastante consistente que a las personas les gusta la idea de los vehículos autónomos. Y luego cuando dices, bueno, ¿te gustaría salir y meterte en uno? Tenemos uno justo afuera del laboratorio. Son como, Oh no, absolutamente no. Quiero decir que es que muestran este tipo de miedo a la tecnología, miedo a cómo funciona. Miedo a no saber, una especie de pérdida de control. Porque conducir te da esta sensación de que tienes agencia sobre el proceso, tienes control sobre lo que está sucediendo. Y cuando te subes a un vehículo autónomo, la gente parece estar preocupada no solo por eso, no tienen control, sino que no saben por qué el vehículo está haciendo lo que está haciendo.

Jennifer Fuerte: Entonces, para ayudar a comprender cómo podría funcionar esta relación de confianza, están estudiando cómo lo hacen los humanos.

Nicolás Giudice: Cuando los humanos confían unos en otros, es porque han aprendido a trabajar juntos. Aprendieron a entender lo que necesitan el uno del otro. Y entonces, esta idea de la colaboración del vehículo humano, es una especie de marco subyacente para nuestra investigación. En parte, estamos obteniendo confianza al decir si podemos construir un proceso de colaboración en el que el humano pueda entender cómo interactuar y qué necesita el vehículo y el vehículo entiende más sobre lo que el humano está haciendo y lo que necesita. Ese proceso, ese proceso de colaboración, genera confianza. Y así, esencialmente estamos generando confianza a través de una mejor comunicación.

Jennifer Fuerte: La confianza no es tangible. Entonces, ¿cómo la miden los científicos, centrados en la experiencia del usuario?

Nicolás Giudice : ¿Están relajados? Podemos ver esto a partir de medidas fisiológicas. Así que puedes ver la frecuencia cardíaca o la conducción cutánea. Mire cómo cambia su atención y, por lo tanto, obtener confianza a través de estos diferentes tipos de herramientas creemos que es una forma innovadora de hacerlo. Porque hasta ahora esto se ha mirado a través de encuestas, ¿no? Por lo tanto, tiene personas que realizan estas encuestas y esa es una buena manera de ver los aspectos de la confianza, pero en realidad no es tan directo. Y así, cuando combinamos las medidas cualitativas y cuantitativas y conductuales y fisiológicas, realmente obtenemos una forma mucho más grande y robusta de ver la confianza desde diferentes niveles.

Jennifer Fuerte: Su prueba en persona ha sido retrasada por el coronavirus. Pero esencialmente lo que esperaban hacer es esto:

ricardo corey : Íbamos a utilizar un vehículo autónomo durante un año en un lugar público. E íbamos a empezar a ver qué podemos poner allí. ¿Podemos poner cámaras allí? ¿Podemos tener gente allí para hacer estudios observacionales? ¿Podemos poner sensores en el asiento para averiguar, no sé, cuánto se mueve la gente si está nerviosa o algo así? Todos y cada uno de los datos que podríamos recopilar para iniciar el proceso de averiguar quién se siente cómodo y quién no.

Jennifer Fuerte: Los investigadores quieren rastrear si las personas se sienten más cómodas y confiadas a medida que los automóviles evolucionan y, finalmente, obtener la capacidad de explicar lo que están haciendo y por qué.

Pero incluso cuando puedes medir la confianza, no es igual. Y no lo dan todos de la misma manera.

Nicolás Giudice : La gente está más dispuesta de alguna manera, especialmente alguien como yo que es ciego congénito, estoy más dispuesto a asumir algunos de los riesgos desconocidos que preocupan a la gente con los vehículos autónomos. Porque estoy como, ¡sí! Esto me va a permitir llegar a donde quiera cuando quiera. Ya sabes, y podrías tener rutas de autobús, puedes tener paratránsito, pero luego estás atado a horarios muy específicos. Esta es una forma económicamente viable y verdaderamente liberadora de poder moverse. Y esa conexión con la independencia, esa conexión con la calidad de vida está ligada a la confianza, poner parte de la confianza también es simplemente saber que es parejo, están confiando en que es algo que puede funcionar porque en este momento, muchos de los sistemas que hay por ahí no funcionan.

Jennifer Fuerte: Lo mismo ocurre con aquellos que están envejeciendo o tienen problemas que les impiden conducir.

Entonces, ¿qué podemos aprender al observar cómo las personas confían en alguien detrás del volante y cómo se replica esa relación cuando se trata de humanos y automóviles sin conductor?

ricardo corey : Nosotros, como humanos, podemos saber físicamente si alguien está nervioso.

Jennifer Strong: Richard Corey.

ricardo corey : Están agarrando el tablero, clavando en él, ese tipo de cosas, y están nerviosos y luego puedes ajustar la forma en que conduces. Incluso puedes decir: Oye, está bien. Quiero decir, una vez estaba manejando en medio de una tormenta de nieve muy fuerte y todos en el auto se estaban volviendo locos. Y yo estaba como, mira, ya sabes, está bien. Todavía tengo el control de esto. Y son las pequeñas cosas humanas que haces las que conectan. ¿Qué puede decirte el auto o la computadora, lo que sea que diga, Oye, está bien? Es por eso que estoy haciendo esto. Vamos a pasar al carril derecho porque es muy difícil y tenemos que reducir la velocidad un poco, pero en realidad no estamos viendo nada de esa tecnología existente hoy. Y eso, como humanos, lo necesitamos.

Jennifer Fuerte: Y su colega Nicholas Giudice dice que así es como podría funcionar la comunicación...

Nicolás Giudice : Puede haber un avatar, solo cosas en las que realmente puedes comenzar a pensar en el, el, el vehículo en términos de tener propiedades similares a las humanas que no es solo esta automatización de caja negra en la que solo estás ... .

Jennifer Fuerte: El favorito desde hace mucho tiempo en esta carrera para construir vehículos autónomos es una empresa llamada Waymo, que solía conocerse como el proyecto de automóvil autónomo de Google.

Se convirtió en el primer robot-taxi del mundo en 2018, después de poner una flota de taxis autónomos en las carreteras de Phoenix, Arizona. Y a pesar de tener que suspender los viajes en persona durante la pandemia mundial, sus autos aún viajan 20 millones de millas virtuales por día en simuladores.

También se encuentra entre un puñado de empresas que ahora prueban camiones autónomos en Texas.

En Waymo, la comunicación se ve como pantallas de televisión, efectos de sonido... y voces humanas...

ryan powell : Y hoy sabemos que cuando eres un pasajero en un automóvil conducido por un humano, hay mucha comunicación entre tú y ese conductor que ayuda a establecer la confianza.

Jennifer Fuerte: Ryan Powell dirige el equipo de diseño e investigación de la experiencia del usuario.

ryan powell : ...así que puede ser una comunicación directa. Por ejemplo, puede preguntarle a un conductor qué ruta estamos tomando o por qué no se está moviendo, la luz es verde, pero también puede ser indirecta. Como podrías notar que ese conductor humano podría volver a colocar sus manos en el volante justo antes de que esté listo para girar a la izquierda. Pero supimos desde un principio que necesitábamos algún método de comunicación en nuestros vehículos para generar confianza de modo que los pasajeros pudieran sentirse seguros e informados... con ese fin, dedicamos mucho tiempo a pensar en la interfaz visual de nuestro automóvil. tratamos de visualizar lo que el automóvil puede ver, ya sabes, cómo comunicamos la intención del automóvil en qué situaciones los pasajeros necesitan información adicional, cuál es el nivel correcto de información.

Jennifer Fuerte: Porque, por otro lado, también están tratando de no sobrecargar a los ciclistas con demasiada información.

ryan powell : Entonces, lo que escucha cuando interactúa con un producto o servicio debe recibir tanta consideración de diseño como lo que ve. Entonces, cuando pensamos en nuestra experiencia de usuario, es por eso que hemos decidido diseñar no solo para lo que puede ver, sino también para lo que puede escuchar.

Y entonces, esto es a lo que nos referimos como una especie de pista de bienvenida que escucharía una vez que se abran las puertas y mientras se dirige hacia el vehículo, pero la retroalimentación de voz nos permite transmitir información más compleja y también para personalizar los mensajes también. Entonces, este es un ejemplo de lo que, cuando el automóvil comienza a moverse, esto es lo que escucharía un ciclista. Entonces, Desert Breeze Park, por supuesto, es el destino que el ciclista puso allí. Y podemos, nuevamente, personalizar eso, esa voz tomando el destino que ingresaron en la aplicación y simplemente reforzando al pasajero que sabemos dónde está el destino, hacia dónde nos dirigimos como nosotros, como el coche para moverse realmente.

Jennifer Fuerte: Algo que me he preguntado es ¿qué pasa si te quedas dormido en un taxi sin conductor? ¿Cómo te despierta el auto, o el ayudante, como lo llama Waymo?

ryan powell : Le avisamos cuando, um, cuando esté a un minuto de su, su, destino y la idea es que, de alguna manera, si se ha quedado dormido o dormido, ahí es donde nosotros usar una voz. Así que se enciende una voz y te avisa que llegarás en aproximadamente un minuto. Y la otra cosa que sirve como un recordatorio para recoger tus cosas, si has puesto algo en los otros asientos y para que no dejes eso, eso atrás, porque de nuevo, no no tener ese conductor humano para mirar a su alrededor y decir, Oye, olvidaste tu chaqueta. O, ya sabes, olvidaste tu, tu, um, tu teléfono o tu bolso. Y entonces usamos la voz en ese caso. Y también pensamos, um, ya sabes, que eso ayudaría a alguien a despertarse si se hubiera quedado dormido mientras estaba en el viaje.

Jennifer: Se investigó mucho para elegir una voz para el vehículo autónomo en la que confiarían los pasajeros.

ryan powell : A menudo nos preguntan por qué una voz femenina versus una voz masculina, pero en realidad la decisión para nosotros no fue sobre el género. Se trataba más de encontrar la voz con el mejor sonido que coincidiera con esos principios. Y así, al final resultó ser una voz femenina para nosotros, ya sabes, una voz que suena competente, considerada y amistosa, ya sabes, de nuevo ayuda mucho a las personas a tener una experiencia positiva. Y eso es lo que buscábamos cuando pensamos en la voz que escuchas en el auto.

Jennifer Fuerte: Y lo que es más, Waymo produce todos sus sonidos en una clave particular, con la esperanza de influir en cómo nos sentimos dentro del automóvil.

[Sonar]

ryan powell : Existe la idea de que la clave de E es una especie de clave muy brillante u optimista. Y entonces notarán que todo nuestro paisaje sonoro nuevamente, se toca alrededor de esta, esta clave de E. Y entonces, reproduciré un sonido aquí en la clave de E.

[Sonar]

Como investigadores, dedicamos mucho tiempo a eso con nuestros conductores: tratamos de descubrir esos momentos en los que las personas necesitan información adicional para comprender lo que sucede en el vehículo. Y nuevamente, se remonta a esa idea de generar confianza. Por lo tanto, podría ser un ejemplo simple en el que el automóvil, podría estar conduciendo y el automóvil de repente reduce la velocidad y vemos esto todo el tiempo. De alguna manera, ya sabes, no lo eres, por supuesto que no es un momento de ansiedad o un momento alarmante, pero tú, levantas la vista de tu teléfono y te preguntas como, Oh, lo que está pasando, ya sabes, no hay nadie delante de nosotros pero estamos conduciendo mucho más lento de lo que éramos. Y ese es un ejemplo de dónde nosotros, en ese caso, hemos entrado en una zona escolar, pero nuevamente, debido a que no está conduciendo, probablemente no lo sabrá de inmediato. Entonces, ahí es donde confiamos en esa interfaz visual o, en algunos casos, usamos el sonido o la voz para informarle lo que sucedió.

Jennifer Fuerte: Uno de los principales competidores de Waymo se llama Cruise. Nos encontramos con su responsable de robótica, tras el descanso.

[medio rollo]

Jennifer Fuerte: La compañía de autos sin conductor Cruise es parte de General Motors. La puesta en marcha de San Francisco construye autos eléctricos y se enfoca en viajes compartidos y entregas en entornos urbanos densos.

Rashed Haq es su vicepresidente de robótica.

Rashad Huck : Los coches autónomos tienen que aprender los comportamientos sociales de otros conductores u otros participantes en el tráfico como los peatones. Y al mismo tiempo, tienen que ajustarse a las expectativas sociales similares a las humanas de otros conductores y pasajeros. Y tienen que hacer esto mientras alcanzan niveles sobrehumanos de seguridad.

Jennifer Fuerte: Parte de su trabajo es enseñar a los vehículos autónomos a ser más humanos, porque hay muchas cosas que hacemos mientras conducimos simplemente para nuestra propia comodidad. Preferimos giros más suaves y no conducimos exactamente en el medio de un carril al lado de autos estacionados.

Él y su equipo estudian nuestros hábitos no solo para imitarlos en ciertos escenarios, sino también para adaptarse a ellos. Por ejemplo, dice que están usando algoritmos de visión por computadora para analizar la intención de los peatones a partir de sus comportamientos.

Rashad Huck : Entonces, por ejemplo, si hay alguien parado en un cruce de peatones, pero mirando su teléfono, entonces el AV puede inferir que es poco probable que crucen de inmediato o que están distraídos y en realidad podrían comenzar a caminar y no mirar hacia arriba. .

Tenemos sensores que pueden ver 360 grados bastante lejos, generalmente más que los humanos. Y en un día cualquiera, estamos conduciendo más de lo que haría un ser humano en toda su vida. Eso te da una especie de límites sobre cómo, qué tan rápido pueden recuperarse los algoritmos. Obviamente, aún no tiene que tener el juicio de los humanos.

Jennifer Fuerte: Y antes de llegar allí, necesitamos saber cómo queremos automatizar lejos de la conducción humana.

¿Podemos esperar de manera realista que las personas tomen el control en cualquier momento, cuando han cedido ese control durante la mayor parte del viaje? Los ingenieros de aviones se dieron cuenta hace mucho tiempo de que los pilotos no pueden hacer esto de manera segura, por lo que los sistemas de navegación siempre los mantienen haciendo algún tipo de tarea para seguir volando.

Tal vez eso signifique que los autos deberían contener cuánto toman el volante hasta que puedan ser verdaderamente autónomos.

Este tipo de tecnología requiere un nuevo tipo de confianza humana. Aunque no podemos cuantificarlo, sabemos que los niveles de confianza que sienten las personas aumentan con la transparencia, la experiencia personal y las garantías. Entonces, cuando conducimos nuestros propios autos, nunca dudamos realmente de que se detendrán cuando frenamos. A medida que externalizamos la toma de decisiones a las máquinas, es necesario ganarse esa confianza. Sin él, pasarán más décadas y es posible que algunas de estas tecnologías nunca vean la luz del día.

Próximo episodio: la tecnología de reconocimiento de emociones insinúa un futuro en el que nuestros automóviles, teléfonos y otros dispositivos reaccionan a nuestros sentimientos.

Rana al-Kaliouby : Así que construimos algoritmos que pueden comprender sus expresiones faciales, como sus sonrisas, sus ceño fruncidos o sus cejas levantadas, y mapear eso en una comprensión de cuál es su estado emocional y mental.

Jennifer Fuerte: ¿Podemos siquiera codificar las emociones? ¿Y deberíamos? Únase a nosotros para una miniserie sobre inteligencia artificial emocional, mientras exploramos cómo transformar herramientas inteligentes en herramientas empáticas.

Tanya Basu y yo informamos y producimos este episodio, con Emma Cillekens y Tate Ryan-Mosely. Tuvimos la ayuda de Karen Hao y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield.

Gracias por escuchar, soy Jennifer Strong.

esconder