La IA lee las emociones humanas. ¿Deberia?

AI puede leer su respuesta emocional a la publicidad y sus expresiones faciales en una entrevista de trabajo. Pero si ya puede hacer todo esto, ¿qué pasa después? En la segunda parte de una serie sobre inteligencia artificial emocional, Jennifer Strong y el equipo de MIT Technology Review exploran las implicaciones de cómo se usa y hacia dónde se dirige en el futuro.

Nos encontramos:

• Shruti Sharma, VSCO
• Gabi Zijderveld, Affectiva
• Tim VanGoethem, Harman
• Rohit Prasad, Amazonas
• Meredith Whittaker, Instituto AI Now de NYU

Créditos:

Este episodio fue informado y producido por Jennifer Strong, Karen Hao, Tate Ryan-Mosley y Emma Cillekens. Tuvimos la ayuda de Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción completa del episodio:

jennifer fuerte : En esta era de Covd-19, muchas de las relaciones y experiencias que alguna vez disfrutamos en persona ahora están mediadas por la tecnología. Ya sea que esté trabajando desde casa, ayudando a educar a los niños desde los confines de sus propias paredes o, como muchos de nosotros, haciendo ambas cosas, una nueva constante que probablemente no desaparecerá es la videollamada. Ya sea que esté en una sala de Zoom, Google Meet o cualquier otra cosa, la realidad es que es probable que se quede incluso después de que pase este momento actual. Y hay algo en esta experiencia que se siente distante y desconectado. Como si te estuvieras comunicando a través de un filtro. Conversaciones simples interrumpidas por fallas en Internet o perdidas en la traducción. ¿Qué pasaría si esta tecnología pudiera usarse para mejorar las interacciones, en lugar de silenciarlas? ¿Qué pasaría si pudiera responder a su lenguaje corporal, sus entonaciones vocales, para ayudarlo a transmitir más que solo palabras? Es algo que Rana el Kaliouby, fundadora de Affectiva, insinuó cuando hablamos en nuestro último episodio.

Rana el Kaliouby : Donde estoy presentando para decir, cien personas remotas, si fuera un evento real en vivo, aprovecharía la energía de las personas en la sala y no puedo hacer eso en línea. Y es, es realmente doloroso y lo odio. [risa] Entonces, me sigo imaginando como un gráfico en tiempo real del nivel de compromiso, nivel de risa, tal vez como una transmisión de emoji o algo que le dé a la gente una idea de esta experiencia compartida.

jennifer fuerte : Su empresa y muchas otras se apresuran a trabajar en este tipo de posibilidades, pero gran parte de la tecnología que impulsaría tales cosas ya está en uso, a menudo de formas inesperadas. Por ejemplo, para medir las expresiones faciales en personas que han sufrido un ictus.

Gabi Zijderveld : Hay mucho estigma social asociado a eso porque la gente piensa que estas personas se ven enojadas o fruncen el ceño, pero tuvieron un derrame cerebral y no pueden sonreír. Por lo general, los cirujanos miden si su reconstrucción de sonrisas es exitosa o no haciendo cosquillas a sus pacientes y luego comienzan a reír y usan una regla y miden movimientos milimétricos.

jennifer fuerte : Y un cirujano pensó que ese método era ridículo.

Gabi Zijderveld : Entonces, usando nuestra IA emocional, creó un sistema de software para comparar y medir qué tan exitoso es, reconstruyendo las sonrisas de los pacientes.

Jennifer Strong: Soy Jennifer Strong y en la segunda parte de nuestra serie que explora la IA emocional, analizamos cómo ya se está aplicando y adónde podría llevarnos en el futuro.

[MOSTRAR ID]

Shruti Sharma : Ok, voy a compartir mi pantalla aquí. Avísame si puedes verlo.

jennifer fuerte : Shruti Sharma es gerente senior de ingeniería para aprendizaje automático en la aplicación de fotos llamada VSCO.

Shruti Sharma : Y entonces solo estás viendo estas persianas naranjas en una habitación de aspecto negro oscuro. Y las imágenes relacionadas que están apareciendo son una especie de sentido misterioso de juego de luz y oscuridad y luces y sombras, esencialmente.

jennifer fuerte : estas fotos fueron elegidas por Ava, que es una IA que evalúa las imágenes y las clasifica por estado de ánimo y emoción. Un tipo de clasificación que solían hacer las personas. Y no estamos hablando de paisajes de playa cayendo en la misma pila, o un montón de fotos de gatos agrupadas. Esto es mucho más matizado. No esperaba esto. No es solo el mismo tono de color, sino que realmente evoca el mismo tipo de sentimiento de una foto a otra.

Shruti Sharma : Entonces, para nosotros, el objetivo de reconocer el estado de ánimo y el sentimiento o la emoción en una foto es esencialmente capturar esa esencia que, de otro modo, solo un ser humano podría ver. Ava, nuestra tecnología de aprendizaje automático, no solo mira el contenido de la foto, sino también los atributos que son muy específicos de la fotografía que contribuyen a estos sentimientos y emociones que una foto produce en los humanos... cosas como la composición, el estilo de la toma. , estético.

jennifer fuerte : Esta aplicación es una plataforma creativa para fotógrafos.

Shruti Sharma : El hecho de que todas estas imágenes tengan la sensación de que aquí suceden más cosas de las que vemos en la foto. Es difícil saber qué está pasando completamente, y hay una sensación de misterio aquí que se está evocando. Es un sentimiento muy personal que evocan las fotografías y que una máquina sea capaz de hacer coincidir las imágenes basándose en eso casi me alegra el corazón. [reír]

jennifer fuerte : A diferencia de otras aplicaciones de esta tecnología, si la IA pierde una categoría o una clasificación, lo que está en juego aquí es bastante bajo.

Shruti Sharma : Lo cual creo que es también su belleza. ¿Correcto? ¿La máquina está realmente cometiendo un error o simplemente te está dando una perspectiva diferente? Y creo que es un poco de ambos a veces.

jennifer fuerte : Pero clasificar las fotos es solo la punta del iceberg.

Gabi Zijderveld : Entonces, si pudieras hacer clic en eso...

karen hao : OK.

Gabi Zijderveld : Y lo mejor es que conduzcas, porque así podrás probar la demo.

jennifer fuerte : Gabi Zijderveld es el director de marketing de Affectiva. Ella está acompañando a mi colega, la reportera sénior de inteligencia artificial de Tech Review, Karen Hao, a través de una demostración de uno de sus productos que puede leer emociones.

Gabi Zijderveld : Básicamente, esta es una versión simplificada de cómo se implementaría nuestra tecnología en el análisis de medios y, específicamente, en las pruebas de anuncios. Simplemente te da una idea más o menos de cómo hacemos esto y qué tipo de cosas podemos medir. Entonces, como puede ver, tenemos algunos anuncios o videos diferentes, precargados, y luego puede elegir uno que se destaque para usted.

karen hao : Presionando play…

Gabi Zijderveld : Mientras ve este anuncio, como puede ver, estamos midiendo sus reacciones.

karen hao : [Risa audible]

jennifer fuerte : Está viendo un divertido clip de YouTube donde dos niños y las tareas de ser madre trabajadora, entre otras cosas, interrumpen un programa de noticias. Es una parodia de la entrevista viral de la BBC, ya sabes, en la que una niña adorable entra bailando el vals en la oficina de su padre.

Gabi Zijderveld : Básicamente, en esta demostración, le pedimos permiso para encender su cámara web. Y cuando comenzaste a reproducir el video, básicamente cuadro por cuadro, nuestra IA midió tus reacciones y tus respuestas a lo que estabas viendo en este anuncio. En el lado izquierdo de la demostración, verá todas estas métricas diferentes, como la expresividad, la atención, el disgusto, la sonrisa... le muestra o resalta dónde tuvo casos de arrugas en el ceño, que podrían ser personas que cuestionan o levantando, levantando las cejas si se quiere, literalmente. Si haces clic en la curva de una sonrisa, eso podría ser interesante... una sonrisa no siempre significa necesariamente que estás disfrutando de algo, pero conocemos el contexto, sabemos que es un anuncio humorístico y podemos ver en tu curva que estabas sonriendo mucho. Claramente, este video estaba teniendo el efecto deseado contigo. Y luego, si hace clic en el resumen de vistas, también es genial. Esto compara sus datos con todos los demás que han visto este video.

karen hao : Guau. Supongo que era mucho más expresivo que la persona promedio.

Gabi Zijderveld : Sí, sí, exactamente. También tu sonrisa era mucho más alta. Claramente te gustó este video mucho más que el promedio.

jennifer fuerte : Lo que están demostrando aquí lee la emoción y la desglosa en datos para anunciantes y agencias de publicidad.

Gabi Zijderveld : Esa información nuevamente es una perspectiva muy importante porque básicamente les ayuda a determinar qué tan efectivos son sus anuncios y dónde colocar su inversión en medios.

jennifer fuerte : Ella dice que necesitan alrededor de cien pruebas para obtener suficientes datos para una comparación efectiva. Affectiva ha implementado esta tecnología de IA de emociones en todo el mundo con clientes como Disney, Coca Cola, Kelloggs, Samsung y Google.

Gabi Zijderveld : Aproximadamente el 28 % de las empresas Fortune Global 500 utilizan nuestra tecnología. Ad age tiene una lista de los anunciantes más grandes del mundo y el 70% de ellos usa nuestra tecnología. Hemos probado a lo largo de los años, más de 52.000 anuncios en 90 países. Así que se está investigando mucho. Supongamos que alguien está probando un anuncio de cerveza en el Reino Unido y le gustaría comparar el rendimiento de su anuncio de cerveza con otros anuncios de cerveza en el Reino Unido, o tal vez un anuncio de cerveza en los EE. UU. Pueden hacerlo porque tenemos muchos datos. que tipo de proporciona estas normas.

jennifer fuerte : Y después de 10 años de refinar la IA emocional en el análisis de medios... Affectiva ahora se está moviendo hacia la industria del entretenimiento.

Gabi Zijderveld : Por ejemplo, ya hemos realizado una serie de estudios en los que realmente se trata de comprender cómo las audiencias interactúan y casi se vinculan, por así decirlo, con ciertos personajes en la programación de televisión. Presentan nuevos personajes. A veces, esos personajes se quedan y el público los ama. A veces no lo hacen. Así que investigan mucho sobre eso. Y, por supuesto, intentan predecir cuál será el tipo de fórmula exitosa y hacerlo desde el principio puede ahorrarles mucho dinero, hacerlo mal es costoso en esos casos. También hemos realizado pruebas de avances de películas que en sí mismas son un tipo de contenido publicitario.

jennifer fuerte : Pero es en la industria automotriz en la que Affectiva y muchas otras empresas están especialmente enfocadas.

Gabi Zijderveld : Aparte de la aplicación de seguridad mediante la comprensión de la discapacidad del conductor, que es básicamente un sistema de control del conductor, también hay otras aplicaciones, porque en el momento en que puede comprender lo que sucede con los pasajeros del asiento trasero, hay muchas otras cosas interesantes que puede hacer. Básicamente, puedes adaptar el entorno al estado de la persona en ese momento. Así que alguien podría estar en camino a una reunión de trabajo en el futuro. Su vehículo podría entender eso porque todos los diferentes sistemas están conectados entre sí. Tal vez pueda mirar en su calendario si da permiso para eso. Y si vas de camino a una reunión, quizás no quieras música. Tal vez no quieras ver el video en la parte de atrás. Tal vez desee la iluminación adecuada en su región del automóvil. Tal vez necesite que su asiento esté colocado de cierta manera. También podría tratarse básicamente de mejorar la experiencia, ¿verdad? Haciéndolo más divertido y placentero o más reparador.

jennifer fuerte : Todavía no está en el mercado, pero dice que han probado elementos de inteligencia artificial emocional en automóviles, incluido este:

Gabi Zijderveld : Hubo incluso hace varios años, un proyecto de investigación que hicimos con Porsche, en el que básicamente hicimos que nuestra tecnología evaluara cómo reaccionaba la gente a la música que se reproducía en el vehículo. Y si les gustaba la música, básicamente ajustaría las recomendaciones en función de las reacciones de las personas y las personalizaría de esa manera.

jennifer fuerte : Ella estima que pasarán de 2 a 4 años antes de que este tipo de tecnología esté en el camino.

Otro grupo que trabaja en este tipo de inteligencia artificial emocional para vehículos es Harman, una empresa propiedad de Samsung.

Tim VanGoethem : Estamos construyendo estos algoritmos que podrían usar una imagen de cámara de una cámara montada en el tablero y estamos construyendo el software que puede mirar sus ojos u otras características faciales y poder inferir el estado del conductor.

jennifer fuerte : Ese es Tim VanGoethem, el director de movilidad avanzada de la empresa.

Tim VanGoethem : Así que podríamos hacer cosas como comprender su ritmo cardíaco, simplemente observando cómo cambia la pigmentación de su piel cada vez que late su corazón. Podemos observar las características de cómo se mueven sus ojos y, en base a eso, podemos correlacionar eso con si está distraído, somnoliento, estresado o su mente no parece estar enfocada... Entonces, entender cómo hacer que eso tenga sentido. Si está cansado, ¿podemos hacer ajustes simples en la temperatura de la cabina? ¿Podemos cambiar sutilmente la posición del asiento? Elige una mezcla de música que sea quizás un poco más dinámica en comparación con lo que estás escuchando actualmente. Entonces, podría ser la combinación de algunos ajustes muy simples con algunos pasos muy grandes, dependiendo de lo que podamos inferir que es su condición.

jennifer fuerte : Entonces, ¿cuánto más lejos podrían empresas como esta llevar la tecnología?

Tim VanGoethem : Donde eso podría ir en el futuro es la interfaz con los dispositivos portátiles que llevas en el automóvil. Mucha gente ama sus relojes inteligentes y, con bastante frecuencia, esos relojes inteligentes también tienen una capacidad de fitness o bienestar. Entonces, en el futuro, el automóvil podría traer información de esos dispositivos portátiles. Entonces, en lugar de tratar de usar una cámara para inferir o deducir su frecuencia cardíaca, podríamos usar el sensor del reloj inteligente. Y luego el reloj inteligente con el permiso del usuario podría compartir esa información con el automóvil. Y luego, obviamente, podría ser una señal más precisa. El paso más allá es que también podríamos aprovechar ecosistemas aún más grandes. Entonces, como ejemplo, si el automóvil y los algoritmos en el automóvil supieran que no ha dormido bien antes de subirse al automóvil, podríamos tomar algunas decisiones previas sabiendo que ya está entrando en el automóvil potencialmente cansado.

jennifer fuerte : Durante los próximos 2 a 5 años intentará responder a esta pregunta.

Tim VanGoethem : ¿Cómo el automóvil no solo resuelve los problemas de las personas mientras están en su automóvil, sino cómo pueden conectarse con estos ecosistemas más grandes? Y creo que eso evolucionará con el tiempo a medida que las personas entiendan la relación de cómo mi vida fuera del automóvil y mi vida dentro del automóvil se mezclan naturalmente.

jennifer fuerte : ¿En cuanto a qué tan cómodos estarán los conductores al permitir que su automóvil lea sus emociones y responda e incluso se conecte con su vida fuera del vehículo? Bueno, ya estamos dejando que las máquinas hagan esto en nuestros espacios más íntimos... dentro de nuestra casa.

Rohit Prasad : Tal como lo hacemos como humanos: apreciamos las interacciones con personas que son humildes, serviciales, identificables y confiables. Y, por supuesto, también desea algún tipo de diversión en la personalidad para que pueda ser muy atractivo.

jennifer fuerte : Rohit Prasad es el científico jefe detrás de Alexa de Amazon. Cuando se lanzó el asistente de voz hace seis años, representó el comienzo de un nuevo tipo de relación con la tecnología personal. Para que funcionara, sabía que tendrían que crear una personalidad que funcionara para diferentes personas en diferentes espacios.

Rohit Prasad : Creemos que la confianza no se gana solo por cómo suenas, sino por lo que dices y lo que haces. Queríamos que la gente como nosotros se sintiera cómoda hablando con una IA en sus hogares... Y nuestros hogares son un entorno comunitario. No es solo un dispositivo personal como su teléfono inteligente. Y en ese entorno, Alexa va a interactuar conmigo, mi esposa, mis hijos. ¿Correcto? Así que ahora tienes que hacer que la voz funcione para todos estos entornos.

jennifer fuerte : Sabían que cultivar la confianza con los usuarios también dependería de la capacidad de Alexa para reconocer y responder a las emociones de las personas.

Rohit Prasad : Cuando los clientes están contentos o emocionados, Alexa debe imitar ese comportamiento. Y cuando el cliente está decepcionado, Alexa debería adoptar un tono más empático.

jennifer fuerte : En estos días, Alexa puede hacer algunas de las cosas básicas.

Rohit Prasad : Entonces, algunas de las respuestas emocionales que puedes ver son cuando preguntas sobre tu equipo deportivo favorito y si ganaron, Alexa será más jovial en la respuesta.

jennifer fuerte : Además, Amazon continúa trabajando en sus habilidades de escucha.

Rohit Prasad : Entonces, ¿alexa puede sentir tu frustración vocal y alterar sus respuestas hacia ti? Para que Alexa capte tu frustración vocal y adapte sus respuestas de la manera correcta para brindarte lo que necesitas como cliente en lugar de frustrarte más al dar la misma respuesta.

jennifer fuerte : Y Alexa ya puede hacer una versión de duplicación de su usuario:

grabación de alexa : Dejame decirte un secreto. Puedo susurrar.

Rohit Prasad : Esto es lo que llamamos un modo de susurro. Esto sucedió cuando uno de mis jefes anteriores en Alexa llegó a casa. Le susurró a Alexa y Alexa respondió y despertó a su esposa.

jennifer fuerte : Dice que los inspiró a enseñarle a Alexa a susurrar porque si le susurras a un humano, esa persona generalmente te susurra de vuelta. También le están enseñando a responder como un experto y cuándo saber que no lo es. Dice que depende del tipo de preguntas.

Rohit Prasad : En ciertos entornos, cuando se trata de temas muy delicados que puede compartir con un compañero, pero es posible que Alexa no sea la experta en eso, por ejemplo, la salud mental. O cualquier otro problema de salud. Allí, creo que nuestro principio rector siempre es obtener la ayuda de expertos en esos entornos y creo que, aunque lo compartes como compañero, hay una gran responsabilidad para la IA en ese punto.

jennifer fuerte : A medida que Alexa conozca a sus usuarios, podría desempeñar un papel cada vez más importante en sus vidas.

Rohit Prasad : Creo que esa relación sigue creciendo de asistente a asesor e incluso compañero de personas. Y estamos viendo que eso sucede en el tiempo de hoy. Y creo que a medida que creces con Alexa, la relación evoluciona.

jennifer fuerte : Pero advierte:

Rohit Prasad : Estos son todavía los primeros días y continuaremos investigando para descubrir cuál es la mejor respuesta emotiva o respuesta estilística basada en la opinión del cliente. Pero solo quiero asegurarme de que estamos en la misma página de que es un problema bastante difícil porque no quieres que los errores amplifiquen y hagan que los clientes pierdan la confianza con Alexa. De hecho, desea una acción más confiable, lo que significa que probablemente esté bien tener respuestas más neutrales en ciertos entornos. Y eso es en lo que estamos trabajando en este momento también.

jennifer fuerte : Emotion AI puede mejorar nuestras interacciones con la tecnología, pero dependiendo de cómo se use, también puede causar un daño real. Profundizaremos en algunos ejemplos de eso justo después del descanso.

[anuncio mid-roll]

jennifer fuerte : La pandemia ha visto un aumento en el uso de programas digitales que supervisan los exámenes escolares. Estos productos utilizan el seguimiento y el reconocimiento del comportamiento para observar a los estudiantes a través de sus computadoras portátiles y buscar signos de trampa. The New York Times habló con un estudiante universitario que sufre una discapacidad de tic facial y una recién graduada de derecho afrolatina que luchó durante cuatro horas solo para que el software registrara su rostro. Estos problemas también han surgido en el software de entrevistas que utiliza un seguimiento facial y de comportamiento similar para ayudar a decidir si eres digno de ser contratado.

meredith whittaker : La idea de que el acceso de las personas a los trabajos y las oportunidades está determinado por lo que podría considerarse una especie de estereotipos y suposiciones sobre cómo se ven, cómo actúan, si hablan de una manera acorde con algún modelo u otro de éxito es increíblemente preocupante

jennifer fuerte : Meredith Whittaker es cofundadora del AI Now Institute en NYU.

meredith whittaker : Y estudiamos las implicaciones sociales de la inteligencia artificial.

jennifer fuerte : Más allá de solo etiquetar emociones, dice que se trata realmente de interpretar el valor de esas emociones y automatizar decisiones con esa información.

meredith whittaker : Se trata del poder corporativo y la forma en que estas empresas están produciendo tecnologías que hacen afirmaciones fantásticas casi siempre ocultas detrás de velos de secreto comercial. No están auditados. Están sin examinar. Estamos viendo tecnología que afirma ser capaz de detectar el carácter interior de las personas, su competencia, sus sentimientos, y se implementa para informar la toma de decisiones en el aula, a quién contratar y a quién promover. Lo estamos viendo desplegado en el sistema de justicia penal, en lugares que realmente están dando forma a la vida de las personas y al acceso a las oportunidades. Y dado que no existe un consenso científico sobre la eficacia de la automatización de este tipo de reclamos, pensamos que era hora de pedir la prohibición del uso de estas tecnologías en estos dominios.

jennifer fuerte : Y dice que lo que quizás sea más preocupante es la frecuencia con la que se utilizan estas tecnologías sin que las personas sujetas a ellas tengan idea o recurso alguno.

meredith whittaker : Es muy difícil saber si yo, si no me contrataron para un trabajo y me entrevistó HireVu, fue porque el software está sesgado o porque de todos modos no habría conseguido el trabajo. ¿Correcto? Es difícil sacar una conclusión de una muestra de uno. Y los datos que nos permitirían detectar un patrón de discriminación o daño o error o lo que sea, no son de dominio público. Las personas que tienen acceso a esos datos son HireVu y luego cualquier compañía que esté licenciando a HireVu para usarla en entrevistas, ¿verdad? Y ninguna de esas empresas tiene un interés real en permitir que el público, los legisladores y los defensores analicen esos datos.

jennifer fuerte : Y por eso, su grupo está pidiendo que se prohíba la IA emocional en casos de uso sensibles, que incluirían aplicaciones que pueden no parecer tan sensibles, como un pitido en el tablero de un automóvil cuando cree que un conductor podría estar somnoliento.

meredith whittaker : Tenemos que retroceder aquí y mirar la dinámica de poder aquí, ¿verdad? Tal vez un automóvil que parpadea un poco cuando piensa que estás somnoliento en función de cómo se ve tu cara no sea tan dañino. Pero, ¿esa información se envía a su compañía de seguros? ¿Se utiliza esa información para establecer las tarifas de su seguro o para adjudicar su culpa si tiene un accidente? ¿Evita que los conductores de Lyft o Uber inicien sesión en su aplicación? ¿Cuáles son los usos de estos datos?

jennifer fuerte : Lo que dice puede sonar demasiado cauteloso, pero el año pasado el principal regulador financiero de Nueva York dictaminó que las compañías de seguros de vida pueden establecer primas en ese estado en función de la información de las redes sociales. Entonces, ¿qué impide que los datos de los automóviles, o cualquier otra cosa, se utilicen para establecer sus tarifas de seguro en el futuro? En este momento, en la mayoría de los lugares nada.

jennifer fuerte : Este episodio fue informado y producido por Karen Hao y yo, Tate Ryan-Mosley y Emma Cillekens. Tuvimos la ayuda de Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield. Gracias por escuchar, soy Jennifer Strong.

esconder