Necesitamos Computadoras con Empatía

Estaba ensayando un discurso para una conferencia de IA recientemente cuando mencioné a Amazon Alexa. En ese momento, Alexa se despertó y anunció: Jugando a Selena Gomez. Tuve que gritar Alexa, ¡detente! un par de veces antes de que me escuchara.

Pero Alexa no se dio cuenta de mi molestia. Como la mayoría de los asistentes virtuales y otras tecnologías, no tiene idea de lo que sentimos.

Esta historia fue parte de nuestra edición de noviembre de 2017

• Ver el resto del número
• Suscribir

Ahora estamos rodeados de dispositivos inteligentes hiperconectados que son autónomos, conversacionales y relacionales, pero carecen por completo de la capacidad de decir cuán molestos, felices o deprimidos estamos. Y eso es un problema.

¿Qué pasaría si, en cambio, estas tecnologías (altavoces inteligentes, vehículos autónomos, televisores, refrigeradores conectados, teléfonos móviles) fueran conscientes de sus emociones? ¿Qué pasaría si sintieran un comportamiento no verbal en tiempo real? Su automóvil podría notar que se ve cansado y se ofrece a tomar el volante. Su refrigerador podría trabajar con usted en una dieta más saludable. Su rastreador de actividad física portátil y su televisor pueden unirse para sacarlo del sofá. El espejo de tu baño podría sentir que estás estresado y ajustar la iluminación mientras enciendes la música adecuada para mejorar el estado de ánimo. Las tecnologías conscientes del estado de ánimo harían recomendaciones personalizadas y alentarían a las personas a hacer las cosas de manera diferente, mejor o más rápido.

Hoy en día, una categoría emergente de IA (inteligencia emocional artificial o IA emocional) se centra en el desarrollo de algoritmos que pueden identificar no solo las emociones humanas básicas, como la felicidad, la tristeza y la ira, sino también estados cognitivos más complejos, como la fatiga, la atención, el interés. , confusión, distracción y más.

Espero que las tecnologías que nos rodean se vuelvan conscientes de las emociones en los próximos cinco años.

Mi empresa, Affectiva, se encuentra entre las que trabajan para construir tales sistemas. Hemos compilado un vasto corpus de datos que consta de seis millones de videos de rostros recopilados en 87 países, lo que permite ajustar un motor de IA para expresiones reales de emoción en la naturaleza y para tener en cuenta las diferencias culturales en la expresión emocional.

Mediante el uso de la visión por computadora, el análisis del habla y el aprendizaje profundo, clasificamos las expresiones faciales y vocales de las emociones. Quedan bastantes desafíos abiertos: ¿cómo se entrenan tales sistemas multimodales? ¿Y cómo recopila datos sobre emociones menos frecuentes, como el orgullo o la inspiración?

david obispo

No obstante, el campo está progresando tan rápido que espero que las tecnologías que nos rodean se vuelvan conscientes de las emociones en los próximos cinco años. Ellos leerán y responderán a los estados cognitivos y emocionales humanos, tal como lo hacen los humanos. La IA emocional estará integrada en las tecnologías que usamos todos los días, ejecutándose en segundo plano, haciendo que nuestras interacciones tecnológicas sean más personalizadas, relevantes, auténticas e interactivas. Es difícil recordar ahora cómo era antes de que tuviéramos interfaces táctiles y reconocimiento de voz. Con el tiempo, nos sentiremos de la misma manera con respecto a nuestros dispositivos conscientes de las emociones.

Estas son algunas de las aplicaciones que más me entusiasman.

Automotor : Un vehículo consciente de los ocupantes podría monitorear al conductor en busca de fatiga, distracción y frustración. Más allá de la seguridad, su automóvil puede personalizar la experiencia en la cabina, cambiando la música o la configuración ergonómica según quién esté en el automóvil.

Historia relacionada

Historia relacionada Una tecnología para leer las emociones en los rostros puede ayudar a las empresas a vender dulces. Ahora sus creadores esperan que también pueda hacer frente a problemas mayores.

Educación : En entornos de aprendizaje en línea, a menudo es difícil saber si un estudiante tiene dificultades. Para cuando los puntajes de las pruebas se están retrasando, a menudo es demasiado tarde: el estudiante ya ha renunciado. Pero, ¿y si los sistemas de aprendizaje inteligentes pudieran proporcionar una experiencia de aprendizaje personalizada? Estos sistemas ofrecerían una explicación diferente cuando el estudiante está frustrado, disminuye la velocidad en momentos de confusión o simplemente cuenta una broma cuando es hora de divertirse.

Cuidado de la salud : Así como podemos hacer un seguimiento de nuestro estado físico y salud física, podemos hacer un seguimiento de nuestro estado mental y enviar alertas a un médico si decidimos compartir estos datos. Los investigadores están investigando la IA emocional para el diagnóstico temprano de trastornos como el Parkinson y la enfermedad de las arterias coronarias, así como para la prevención del suicidio y el apoyo al autismo.

Comunicación : Hay mucha evidencia de que ya tratamos a nuestros dispositivos, especialmente a las interfaces conversacionales, de la misma forma en que nos tratamos unos a otros. Las personas nombran a sus robots sociales, le confían a Siri que sufrieron abusos físicos y le piden apoyo moral a un chatbot mientras se dirigen a la quimioterapia. Y eso es incluso antes de que hayamos agregado empatía. Por otro lado, sabemos que las generaciones más jóvenes están perdiendo cierta capacidad de empatía porque crecen con interfaces digitales en las que falta la emoción, la principal dimensión de lo que nos hace humanos. Entonces, la IA emocional podría acercarnos más.

Al igual que con cualquier tecnología novedosa, existe potencial tanto para el bien como para el abuso. Es difícil ser más personal que los datos sobre tus emociones. Las personas deberían tener que optar por cualquier tipo de intercambio de datos, y deberían saber para qué se utilizan los datos. También necesitaremos averiguar si ciertas aplicaciones cruzan las líneas morales. Tendremos que averiguar las reglas sobre privacidad y ética. Tendremos que trabajar para evitar generar sesgos en estas aplicaciones. Pero soy un firme creyente de que el potencial para el bien supera con creces el mal.

Rana el Kaliouby es la directora ejecutiva y cofundadora de Affectiva. En 2012 fue nombrada una de Revisión de tecnología del MIT Los 35 innovadores menores de 35 años de .

esconder