211service.com
Cuando nuestros dispositivos pueden leer nuestras emociones: Gabi Zijderveld de Affectiva
La IA de seguimiento de emociones está comenzando a ayudar a las máquinas a reconocer nuestros estados de ánimo. ¿Estamos listos?
28 de febrero de 2019
Los asistentes personales como Siri, Alexa, Cortana o Google Home pueden analizar nuestras palabras habladas y (a veces) responder adecuadamente, pero no pueden evaluar cómo nos sentimos, en parte porque no pueden vernos la cara. Pero en el campo emergente de la IA de seguimiento de emociones, las empresas están estudiando las expresiones faciales capturadas por las cámaras de nuestros dispositivos para permitir que todo tipo de software responda mejor a nuestros estados de ánimo y cognitivos.
En Affectiva, una startup de Boston fundada por los investigadores del MIT Media Lab Rosalind Picard y Rana El Kaliouby, los programadores han entrenado algoritmos de aprendizaje automático para reconocer nuestras señales faciales y determinar si estamos disfrutando de un video o nos estamos quedando somnolientos al volante. Gabi Zijderveld, director de marketing y jefe de estrategia de productos de Affectiva, le dice a Business Lab que dicho software puede optimizar el marketing, proteger a los conductores y, en última instancia, hacer que todas nuestras interacciones con la tecnología sean más profundas y gratificantes. Pero para protegerse contra la posibilidad de un uso indebido, dice, Affectiva también está presionando para que se establezcan estándares en toda la industria para hacer que los sistemas de seguimiento de emociones sean aceptados y consensuados.
Los oyentes de Business Lab están invitados a postularse para unirse al Panel Global de MIT Technology Review, nuestro foro exclusivo de líderes intelectuales, innovadores y ejecutivos. Como miembro del panel global, puede examinar las tendencias tecnológicas actuales, ver los resultados de encuestas y estudios, expresar su opinión y unirse a sus pares en reuniones de negocios en todo el mundo.
MOSTRAR NOTAS Y ENLACES:
Grupo de computación afectiva del laboratorio de medios del MIT
TRANSCRIPCIÓN COMPLETA:
Elizabeth Bramson-Boudreau: De MIT Technology Review, soy Elizabeth Bramson-Boudreau, y esto es Business Lab, el programa que ayuda a los líderes empresariales a dar sentido a las nuevas tecnologías que salen del laboratorio y llegan al mercado.
Elizabeth: Antes de comenzar, me gustaría invitar a los oyentes a unirse al Panel Global de MIT Technology Review, nuestro foro exclusivo de líderes intelectuales, innovadores y ejecutivos. Y como miembro del panel global, puede examinar las tendencias tecnológicas actuales, ver los resultados de encuestas y estudios, expresar su opinión y unirse a sus pares en reuniones de negocios en todo el mundo. Solicite unirse al panel en TechnologyReview.com/globalpanel. Eso es TechnologyReview.com/globalpanel.
Elizabeth: Ahora, ¿no sería genial si tu teléfono pudiera decir que estás de mal humor por todas las interrupciones del día y retuviera tus llamadas para que puedas hacer algo de trabajo? ¿O no sería genial si la tableta de su hija pudiera saber cuándo está aburrida con su juego educativo y aumentar el nivel de desafío para mantenerla comprometida?
Elizabeth: Bueno, antes de que nuestros dispositivos puedan servirnos mejor de esta manera, necesitarán comprender lo que realmente estamos sintiendo. Y de eso es de lo que estoy hablando hoy con mi invitado Gabi Zijderveld. Es directora de marketing y jefa de estrategia de productos en Affectiva, una startup en Boston que es líder en el nuevo campo de la IA de seguimiento de emociones. Es un spin-off del Affective Computing Group del MIT Media Lab. Eso es afectivo con una A. Affectiva construye algoritmos que leen los rostros de las personas para detectar sus emociones y otros estados cognitivos.
Elizabeth: La tecnología ya está ayudando a las grandes empresas a probar cómo reaccionan emocionalmente las audiencias a sus anuncios. Y ahora Gabi está liderando un proyecto para equipar automóviles con un software que monitoreará los estados emocionales y cognitivos de los conductores y ayudará a mantenerlos seguros y despiertos. Todo podría representar un gran avance en la forma en que interactuamos con los dispositivos informáticos. Pero, por supuesto, también plantea algunas preguntas difíciles sobre cómo evitar que los algoritmos que pueden leer nuestros estados emocionales exploten nuestra atención o invadan nuestra privacidad.
Elizabeth: Gabi, bienvenido y muchas gracias por visitarnos.
Noche: ¡Muchas gracias por invitarme.
Elizabeth: El nombre de su empresa, Affectiva, es un juego de palabras, y es un juego con el término computación afectiva. ¿Puedes definir qué es la computación afectiva, por favor?
Noche: La computación afectiva está diseñada básicamente para cerrar la brecha entre las emociones humanas y la tecnología. Y la computación afectiva permite que la tecnología comprenda las emociones humanas y luego se adapte y responda a estas emociones.
Elizabeth: Así que Affectiva, según tengo entendido, salió del Media Lab en, ¿cuánto, alrededor de 2009?
Noche: Sí correcto. Hace casi 10 años.
Elizabeth: está bien. Y los cofundadores son Rosalind Picard, quien es directora del Grupo de computación afectiva del Media Lab, y Rana El Kaliouby; no estoy seguro si estoy diciendo eso bien.
Noche: Rana El Kaliouby.
Elizabeth: Así que ella era una postdoctoral en ese momento en el grupo, ¿verdad?
Noche: Correcto.
Elizabeth: ¿Cuáles fueron las grandes ideas que los dos pusieron sobre la mesa en 2009 y, en su opinión, qué faltaba en la informática y qué esperaban cambiar?
Noche: La Dra. Rosalind Picard en realidad inició el campo de la computación afectiva. Escribió el libro seminal hace unas dos décadas, llamado Computación afectiva. Así que este campo realmente es su creación. Y hoy todavía dirige el grupo en el MIT Media Lab. Así que Rana, la Dra. Rana El Kaliouby, se unió al grupo de Ros Picard como posdoctorado y juntos desarrollaron la idea de que la tecnología podría tener la capacidad de comprender y responder a las emociones humanas, básicamente para mejorar las interacciones humanas con la tecnología para hacerlas más relevante, más apropiado, pero también tal vez para ayudar a los humanos a comprender mejor o controlar mejor las emociones. En los primeros días, especialmente, hubo mucho enfoque en las aplicaciones de la salud mental, especialmente en ayudar a los niños con el espectro del autismo, usar la tecnología para enseñarles cómo reconocer o comprender las emociones y luego entrenarlos sobre cómo expresar sus propias emociones de manera adecuada. . Entonces ahí donde, realmente, esta idea comenzó en los primeros días.
Noche: Y luego Rana y Ros comenzaron a interesarse mucho por la industria. Entonces, en el MIT, por supuesto, hay muchos eventos y conferencias donde los miembros de la industria vienen a tener una idea de las novedades en tecnología y lo que está evolucionando, y en estos días de demostración comenzaron a tener mucho interés comercial en su tecnología. De una serie de industrias diferentes, en realidad, incluida la automotriz, que curiosamente es donde estamos muy activos hoy. En ese momento, se dirigieron al director del Media Lab y dijeron: Oye, necesitamos más presupuesto para contratar a más investigadores, y él les aconsejó acertadamente: Bueno, es hora de que se separen y comiencen su propia empresa. Y así fue como en 2009 cofundaron Affectiva. Ros Picard ahora dirige el grupo en MIT Media Lab, por lo que a diario ya no está involucrada con la empresa. Pero la Dra. Rana El Kaliouby hoy es nuestra directora ejecutiva.
Elizabeth: Según tengo entendido, tienes dos productos principales. Tiene un producto que se centra en la investigación de mercado y otro, mencionó la industria automotriz, se trata de la seguridad del conductor. ¿Puede decir más sobre esos dos productos? Tal vez comience con el que se centra en la investigación de mercado. ¿Eso se llama Affdex?
Noche: Así que en realidad hay diferentes, más que solo estos dos productos que tenemos. Entonces, hay diferentes formas en que hemos empaquetado nuestra tecnología. Pero esos dos mercados que estabas describiendo son realmente los mercados clave que buscamos hoy. Entonces, el primero, donde tenemos nuestra tecnología, Affdex, para estudios de mercado, es un producto. Es una solución basada en la nube que básicamente permite que los medios y los anunciantes, incluidas las grandes marcas del mundo, prueben su contenido, como anuncios de video y programación de televisión, con audiencias objetivo. Y en ese mercado hemos sido el líder del mercado durante una buena cantidad de años, hemos tenido ese producto comercial durante casi ocho años en este momento. Y hoy, aproximadamente una cuarta parte de Fortune Global 500 utiliza nuestra tecnología para probar todos sus anuncios en todo el mundo. Creo que hasta este mes probablemente hemos probado más de 40 000 anuncios en 87 países y hemos analizado más de siete millones y medio de rostros. Tan grandes cantidades de datos que tenemos. Y eso nos permitió crear un producto que también puede ayudar a estos anunciantes a predecir indicadores clave de rendimiento en la publicidad. Por lo tanto, los datos de emociones, o el análisis de emociones, pueden ayudarlos a predecir la probabilidad de que el contenido se vuelva viral, o la intención de compra o el aumento de ventas.
Elizabeth: Está bien. Ahora ayúdame a entender, ¿cómo funciona esto realmente? Entonces, ¿esto es tomar un video de alguien mientras observa un anuncio, por ejemplo? ¿Y luego analiza las reacciones del rostro a los ojos?
Noche: Sí, esencialmente, así es como se hace. En términos de cómo trabajamos normalmente, trabajamos con grandes empresas de información o empresas de investigación de mercado, empresas como Kantar Millward Brown. Tienen enormes procesos de investigación en los que interactúan con sus clientes de marca para comprender cómo debe llevarse a cabo su publicidad y su comercialización. Ahora somos parte de sus metodologías de investigación, lo que significa que nuestra tecnología está integrada en sus plataformas generales. Y, por lo general, la forma en que funcionaría es que tienen panelistas pagados que son reclutados para participar en estos estudios de información del consumidor. Como parte de estos estudios, puede haber un componente de encuesta, pero también hay un componente que dice, OK, nos gustaría que usted, en línea, vea un contenido, que podría ser un programa de televisión o un anuncio de video, y le preguntamos para optar y dar su consentimiento para que grabemos y analicemos su rostro mientras ve ese contenido. Y ahí es donde entra nuestra tecnología.
Noche: Es una solución basada en la nube. Básicamente, todo lo que necesitamos es tomar, con permiso, el acceso de la cámara de alguien, y mientras ve este contenido, sentado en casa o donde sea que esté, en su dispositivo, grabamos discretamente en segundo plano, su momento a momento. reacciones a ese contenido. Así que cuadro por cuadro analizamos estas respuestas. Y curiosamente, nuestra investigación ha demostrado que las personas olvidan rápidamente que hay una cámara allí. Simplemente reaccionan naturalmente a lo que sea que estén viendo. Y es ese tipo de reacción imparcial y sin filtrar lo que quieres. Porque con esa información, si luego la acumula a escala, puede tomar decisiones realmente importantes sobre su contenido e incluso su ubicación o cómo gasta su dinero en publicidad.
Noche: Básicamente, esos son los primeros mercados donde comenzó Affective. Hoy seguimos muy activos en este mercado. Otro mercado para perseguir realmente con toda su fuerza en este momento es en realidad automotriz. Y el año pasado, hace casi un año, lanzamos una nueva solución para ese mercado llamada AffectivA Automotive AI. Básicamente, esta es nuestra tecnología central empaquetada y adaptada a la industria automotriz, porque los casos de uso allí son muy diferentes. Son dobles. Por un lado en automoción como todos sabemos, la seguridad vial es un tema clave. Hay muchas muertes y accidentes trágicos que ocurren en las carreteras todos los días debido a la conducción distraída y la conducción somnolienta. Ahora bien, ¿y si pudieras detectar que un conductor está distraído o adormilado y hacer que el coche intervenga de forma pertinente y adecuada? Eso es algo que todos estos fabricantes de automóviles persiguen. Y aquí es donde entra en juego nuestra tecnología, porque una vez más, con solo usar las cámaras que ya están en los automóviles hoy en día, podemos comprender de manera bastante simple y discreta los estados emocionales de las personas y los estados cognitivos complejos, como la somnolencia y la distracción, al analizar su rostro. Así que ese es un caso de uso en automoción. Básicamente monitoreo del conductor para ayudar a mejorar la seguridad vial.
Elizabeth: Debe tener una gran cantidad de datos que necesita usar para entrenar sus sistemas para poder leer las caras de una gran cantidad de personas. ¿Puede hablarnos de dónde provienen sus datos de entrenamiento y qué tipo de impulso ha recibido de la revolución en el aprendizaje automático y el aprendizaje profundo en los últimos cinco o diez años? ¿Puede contarnos un poco sobre sus procesos de datos?
Noche: Si absolutamente. Entonces, tal vez debería comenzar con el aprendizaje automático y el aprendizaje profundo y por qué realmente lo usamos. Entonces, cuando piensas en las emociones humanas y cómo evolucionan y se manifiestan, las emociones humanas son en realidad muy complejas, a menudo extremadamente sutiles y matizadas. Y luego, cuando piensas en estados cognitivos complejos, que técnicamente no son emociones, cosas como la somnolencia y la distracción, también son cosas que evolucionan con el tiempo. Y rara vez es prototípico. Rara vez en el mundo real ves esa sonrisa exagerada o alguien que se queda dormido de inmediato. es temporal Y siendo capaz de modelar esas complejidades, no puede hacerlo con un enfoque heurístico basado en reglas. Realmente necesita usar el aprendizaje automático para poder detectar ese tipo de complejidades.
Noche: Es por eso que hace una buena cantidad de años, nuestra I + D realmente cambió para que toda nuestra tecnología se construyera con enfoques de aprendizaje automático. Ahora, las arquitecturas de aprendizaje automático y aprendizaje profundo deben alimentarse con cantidades masivas de datos. Además de eso, para nosotros, nuevamente cuando piensas en modelar estados humanos, obviamente las personas no se ven iguales según la edad, el género y el origen étnico. Y luego también hay influencias culturales y normas culturales que a veces cambian la expresión de las emociones en los estados humanos. Entonces, además de poder impulsar el aprendizaje profundo, también necesitamos grandes cantidades de datos para dar cuenta de la diversidad que existe en la humanidad, diversidades que existen en todo el mundo. Entonces, para Affectiva, los datos son esenciales para todo lo que hacemos. Y hemos analizado cantidades masivas de datos y hemos recopilado cantidades masivas de datos. De hecho, hemos analizado más de 7,6 millones de rostros en 87 países.
Elizabeth: ¿Y de dónde sacas esos datos?
Noche: De varias maneras diferentes. Lo primero y más importante que me gustaría decir, porque esto es muy importante para nosotros, todos estos datos se recopilan con consentimiento y aceptación. Siempre reclutamos personas para que recopilen sus datos, o es a través de mecanismos en línea donde les decimos explícitamente a las personas que estamos recopilando datos y les pedimos permiso para hacerlo. Además, esos datos son en su mayor parte anónimos. Entonces, Elizabeth, si participaste en uno de nuestros estudios, simplemente no hay forma de que pueda encontrar tu rostro. Porque esencialmente eres una cara. No eres una persona nombrada. Así que nos sentimos fuertemente al respecto.
Noche: Recopilamos estos datos de varias maneras diferentes. Como mencioné antes, somos muy activos en los medios y la publicidad y, a través de nuestras asociaciones en esa industria, hemos realizado una gran cantidad de pruebas de medios, y es a través de eso que hemos recopilado cantidades masivas de datos. Hay otras relaciones con clientes en las que tenemos, básicamente, acuerdos de intercambio de datos. No todos nuestros clientes quieren compartir sus datos, pero algunos sí. Así que ese es otro camino a través del cual obtenemos datos. Y luego, cuando piensa, por ejemplo, en la industria automotriz, y usemos el ejemplo de la conducción somnolienta, entonces tenemos este conjunto masivo de datos fundamentales que nos permite construir estos algoritmos. Pero no necesariamente tenemos grandes cantidades de somnolencia. Ahora, para modelar eso y construir algoritmos para eso, no necesita solo datos somnolientos, sino que ciertamente necesita una cierta capa de esos datos además de lo que ya tiene, para que pueda ajustar sus algoritmos para eso.
Elizabeth: Entonces puedes discernir entre una mirada somnolienta y, no sé, una mirada aburrida.
Noche: Exacto, exacto o distraído bien porque esos se manifiestan de otra manera.
Elizabeth: Y tienen distintas consecuencias como conductor.
Noche: oh absolutamente Absolutamente. Y también en términos de cómo recopila esos datos en el vehículo, también hay algún tipo de desafío operativo, según la ubicación de la cámara, los ángulos de la cámara. Y ahora, por supuesto, necesitamos admitir las cámaras de infrarrojo cercano que se están utilizando, porque cuando conduces de noche o en un túnel, las condiciones de iluminación no son tan buenas. Estas son todas las condiciones ambientales para las que habríamos tenido que entrenar nuestros algoritmos. Pero cuando lo piensas, capturar datos de conducción somnolientos, no es tan fácil. Porque no es como si pudiéramos mantener a las personas despiertas durante 48 horas en uno de nuestros fantásticos laboratorios del sueño en Boston y luego enviarlos a Memorial Drive en un automóvil y ver si se duermen. Eso es algo que no necesariamente queremos hacer.
Noche: Por lo tanto, también se trata de recopilar cantidades masivas de datos, extraer nuestros datos de las ocurrencias naturales de esos estados y luego también realizar estudios muy específicos dirigidos a la demografía que tiende a tener sueño cuando conduce. Por ejemplo, hemos realizado una serie de estudios con trabajadores por turnos, personas que podrían trabajar turnos largos, por ejemplo, digamos en una fábrica, y luego tener que conducir a casa en medio de la noche. Tiene más probabilidades de capturar datos somnolientos de esa manera. Entonces, hay una variedad de formas diferentes en las que recopilamos nuestros datos. Eso nos brinda un depósito de datos masivo y luego un subconjunto de esos datos se usa para modelar sus clasificadores de aprendizaje automático. Y luego crea otro subconjunto que usa para entrenamiento y validación. Así que los mantienes separados. Y estamos recopilando datos continuamente, anotando continuamente esos datos. Es solo un aspecto continuo de nuestros esfuerzos de I + D y hacer crecer el repositorio de esa manera.
Noche: Correcto. Entonces, de lo que acabas de hablar es de las formas en que has estado diseñando la lectura de las emociones. Ahora, ¿qué pasa con la necesidad de programar las computadoras para interpretar y usar esa información? ¿No es mucho más difícil de hacer?
Noche: Depende. Si es o no más difícil de hacer depende un poco de cuáles sean las interacciones. Y, por lo general, esa es la decisión final de diseño de nuestro cliente, pero también es un proceso de colaboración. Para que podamos desarrollar estos algoritmos que pueden detectar y analizar las emociones humanas, también es de vital importancia comprender cuáles son los casos de uso. ¿Cómo quieren usar esa tecnología? Porque no puedes simplemente construir estos algoritmos en el vacío. Así que es en gran medida un proceso colaborativo.
Noche: Así que antes decía que estamos bastante activos en la industria automotriz en este momento. Por lo tanto, es un diálogo continuo con los fabricantes de automóviles sobre cómo utilizan nuestros datos para luego diseñar adaptaciones o intervenciones en un vehículo. Y parte de esto es en gran medida un proceso en evolución. Si puede ver que alguien se está distrayendo en un vehículo, no necesariamente quiere que se activen todas estas alertas y alarmas, si es solo una distracción menor, ¿verdad? Podría enfurecer a las personas o irritarlas aún más y causar un comportamiento de conducción aún más peligroso. Desea poder comprender los niveles, las intensidades y la frecuencia de la distracción, y luego diseñar intervenciones muy sutiles, relevantes y apropiadas.
Noche: Y también hay una visión del estado futuro, y ciertamente no estamos allí desde una perspectiva tecnológica, pero creo que nos dirigimos hacia allí en el futuro. ¿Qué pasaría si pudieras personalizar eso para el individuo? Así que tal vez cuando te sientas somnoliento te gustaría escuchar música hard rock. Tal vez incluso estoy somnoliento, solo quiero salir de mi auto, estirar las piernas y caminar. Y la forma en que mi coche o un futuro taxi robot atiende mis necesidades...
Elizabeth: Está adaptado.
Noche: Se adapta a mis necesidades personales en el momento, correcto. Entonces, la promesa de construir esto potencialmente de una manera personalizada, creo que nos dirigimos allí en el futuro, pero todavía no allí hoy, y no creo que lo veamos en autos en la carretera en el corto plazo. .
Elizabeth: Estoy interesado en la medida en que todos ustedes están pensando en el potencial contraproducente de esto. Entonces, en este momento, por supuesto, estamos hablando mucho sobre Facebook. Estamos hablando mucho de las elecciones de 2016. Estamos hablando de la manipulación que estamos bastante seguros de que ha ocurrido a través de plataformas de redes sociales como Facebook. Y me pregunto hasta qué punto te preocupas por lo que se podría hacer con la tecnología de Affectiva y a través de la lectura de la forma en que la gente responde a ciertas cosas y por lo tanto el ajuste de ese mensaje para que sea más impactante. ¿Le preocupa cuál podría ser el tipo de consecuencias imprevistas de esta tecnología, si no se gestiona adecuadamente?
Noche: Por supuesto que nos preocupamos por eso. Pero creo que todas las empresas de tecnología deben preocuparse por las posibles aplicaciones adversas de los productos que diseñan. Porque, francamente, cada parte de la tecnología que usamos a diario puede usarse con malas intenciones o propósitos nefastos. Piensa en el camión. Ese es el modo de transporte elegido por los terroristas. O mapas de Google. Correcto. Entonces, esas tecnologías y esos sistemas no fueron diseñados para esos casos de uso. Por lo tanto, creo que, ante todo, como empresas de tecnología, siempre deben tener eso en cuenta, especialmente ahora que la tecnología se ha vuelto tan accesible y el poder de cómputo es tan fuerte y está al alcance de todos los consumidores. Tienes que ser consciente de eso.
Elizabeth: Pero cuando tiene un conjunto de herramientas, ¿le preocupa lo que sucede si ese conjunto de herramientas se puede usar de maneras contra las que no necesariamente podrían protegerse?
Noche: Si absolutamente. Así que hay cosas que las empresas pueden hacer y cosas que hemos hecho. Así que estaba hablando en términos generales sobre lo que desearía que las empresas de tecnología pensaran continuamente. Pero a su pregunta anterior, volviendo a la pregunta original, ¿nos preocupamos por eso? Absolutamente sí. ¿Y qué estamos haciendo al respecto? Un número de cosas diferentes. Entonces, ante todo, nuestra tecnología, somos muy cuidadosos en cuanto a quién la licenciamos. Y nos estamos volviendo mucho más estrictos en cuanto a dónde estábamos, tal vez incluso hace unos años. Por lo tanto, no es como si alguien pudiera tomar nuestra tecnología y construir algo con ella.
Noche: También existen acuerdos de licencia o documentos legales que tenemos vigentes que protegen contra eso. También hemos declarado como empresa que hay ciertos tipos de casos de uso a los que simplemente no venderemos nuestra tecnología. Creemos en la aceptación y el consentimiento, porque cuando analiza cosas como las emociones humanas, las emociones son extremadamente privadas y no queremos involucrarnos en la seguridad o la vigilancia donde las personas no tienen la opción de aceptar o dar su consentimiento. rostros que se analizan. Y, de hecho, hemos rechazado negocios que nos habrían llevado por ese camino.
Elizabeth: Ni siquiera estaríamos donde estamos ahora si no lo estuviéramos, todos sintiéramos una gran cantidad de cinismo o escepticismo en torno a la capacidad de la tecnología para aprovecharse o evitar consecuencias negativas imprevistas. ¿Correcto? Entonces, en cierto sentido, les está dando a todos, todos ustedes están bajo un escrutinio más cercano, porque nos sentimos tímidos con la tecnología. Y sabemos que las autoridades reguladoras de Washington son ineficaces a este respecto.
Noche: Lo son porque no lo entienden bien. Si tienes senadores preguntando a los líderes de Facebook cómo están ganando dinero, porque no entienden los conceptos básicos de la orientación personalizada de anuncios, entonces tenemos un problema. Es un tema de educación también. Pero encima, un roce interesante, ¿no? Porque también creo que aparte de las enormes responsabilidades que tienen las empresas de tecnología, y donde tal vez algunas se han quedado rezagadas o han sido negligentes, ¿qué pasa con el consumidor, verdad? Porque existe este valor percibido. Nos gusta usar plataformas de redes sociales y estamos bien compartiendo nuestras vidas allí, porque percibimos que obtenemos valor de eso. Y nosotros, como consumidores, no hacemos muchas preguntas, y eso también me preocupa. Especialmente cuando sabes que tengo una hija que está a punto de cumplir 13 años y sospecho que pasará mucho más tiempo en los dispositivos y las redes sociales. ¿Cómo se educa para eso? Incluso como consumidor, estos sistemas también se han vuelto enormemente complejos. Simplemente ingrese a la configuración de su iPhone e intente averiguar a dónde van los datos, cómo fluyen, y qué quiere apagar, cuándo, y cómo y cómo lo hace.
Elizabeth: Es muy difícil de descifrar.
Noche: No es muy intuitivo, ¿verdad? Deliberadamente así. Y tiene que hacer hincapié en salir y encontrar información, hacerlo y revertirla, en lugar de al revés, donde tal vez los datos se mantienen privados todo el tiempo y usted ingresa y permite el acceso. Entonces, creo que hay una gran fricción entre el valor que los consumidores perciben y el valor que las empresas de tecnología realmente obtienen con los datos. Transparencia en eso. Así que para nosotros, como empresa, ciertamente nos preocupamos por eso.
Elizabeth: Tienes estas conversaciones.
Noche: Oh sí. Continuamente. Y también en foros públicos. Nos unimos a Partnership on AI, que es un consorcio de la industria diseñado básicamente para lograr una IA justa, responsable, transparente y ética. Y fuimos una de las pocas empresas emergentes invitadas a ser parte de eso. Pero esa es una forma en la que esperamos impulsar el cambio. Y también tenemos la suerte de que Rana, nuestro CEO, es en gran medida un líder de pensamiento en IA, en gran medida una persona pública. Tiene la oportunidad de salir y hablar en lugares públicos. Y ella quiere hablar mucho sobre estos temas porque tenemos una opinión fuerte al respecto. Y también sentimos que tenemos la responsabilidad social de ser transparentes al respecto y abogar por el cambio. En la medida en que una startup de 50 personas puede hacer eso. Pero todos tenemos que contribuir con nuestra parte.
Elizabeth: Entonces, cuando pienso en cuál podría ser el impacto de la IA emocional o la IA emocional en el camino, ¿significa que Siri obtendrá, Alexa mejorará en la comprensión de mis emociones y me responderá de acuerdo con mis emociones? Y si es así, ¿qué significa eso para el futuro? ¿Qué significa que nuestros dispositivos sean inteligentes de esta manera sobre nosotros como seres emocionales?
Noche: Así que hoy, por supuesto, estamos conectados por sistemas y tecnologías hiperavanzados. IA avanzada. Muchas capacidades cognitivas. Pero realmente lo que falta es esta conciencia de la emoción. Estos sistemas en su mayor parte no entienden nuestros estados, nuestras reacciones, nuestro bienestar. Y nosotros en Affectiva ciertamente creemos que eso genera interacciones muy ineficaces y superficiales con la tecnología. Entonces, ¿qué pasaría si estos sistemas pudieran entender nuestras emociones y nuestros estados cognitivos y nuestras reacciones y nuestros comportamientos? ¿Cuánto más efectivas serían nuestras interacciones con esas tecnologías?
Noche: Así que, en el futuro, sin duda visualizo un mundo en el que nuestro tipo de tecnología, inteligencia artificial emocional, esté arraigada en el tejido de tecnologías que están a nuestro alcance todos los días. Está discretamente en segundo plano, entendiendo y respondiendo a nuestro bienestar emocional. Siempre he tenido esta visión de que nosotros, como humanos, tal vez llevaríamos con nosotros, llamémoslo nuestro pasaporte emocional. Es nuestra huella digital emocional la que controlamos. Somos dueños de esos datos. Nosotros manejamos eso. Y permitimos, con nuestros permisos y deseos, llevar eso con nosotros del dispositivo a la experiencia digital a donde sea que estemos usando la tecnología. Ya sea que estemos sentados en nuestra oficina trabajando en nuestra computadora portátil para subir a nuestro automóvil o usar un viaje compartido o en nuestros sistemas domésticos, como una casa de Google o en Alexa, lo que sea. Cualquier tipo de tecnología con la que interactuamos. Existiría esta comprensión constante de nuestro bienestar y nos guiaría, aconsejaría y ayudaría. Y creo que esa es la parte crítica. Y es por eso que creo que también es tan importante que todo esto se haga con nuestra propia aceptación, consentimiento y control.
Elizabeth: Es tan fascinante, porque puedes pensar en esta tecnología que se usa para crear empatía en los dispositivos que usamos y las experiencias que tenemos, ¿verdad? Y responder a la forma en que leemos o reaccionamos a un anuncio, por ejemplo, y ajustamos eso. Y también puedes pensar que esta tecnología se utiliza como una forma de gestionar las emociones que estamos sintiendo. Entonces, cuando estabas hablando de un pasaporte emocional, podrías decir, me siento malhumorado, me siento mal y quiero que mis dispositivos y mi tecnología respondan a eso. O podrías ver eso como que uno de esos dispositivos de alguna manera necesita sacarme de esa emoción. Y es muy interesante pensar en ello. Podría ir de cualquier manera. Y sabes, supongo que tengo mi propio voto sobre de qué manera me sentiría más cómodo.
Noche: E idealmente, los sistemas lo entenderían lo suficientemente bien, lo que sería apropiado en el momento. Porque aquí permitimos que estos datos se rastreen longitudinalmente y tal vez en la mañana algún dispositivo doméstico que esté usando podría decir, Oye, Gabi, parece que no estás tan feliz como ayer por la mañana. También puedo decir que realmente no dormiste las 7 horas que son óptimas para ti. ¿Te gustaría que alguna vez encienda esta lista de reproducción de música? Y tal vez no quiera que la unidad funcione hoy. ¿Por qué no te pido un viaje compartido para ti? O la máquina de café acaba de encenderse en la cocina. O viceversa. Así que llegas a casa del trabajo y es como, Oye, tuviste un día muy difícil en el trabajo. Hice una reserva en un restaurante para ti y la niñera vendrá por tu hijo. Sí. Y la idea es que estos que con, llamémoslo un pasaporte emocional, que les da a nuestros sistemas y las tecnologías que usamos, les da una idea de nuestro estado personal y bienestar, la idea es que puede ayudarnos a guiarnos y aconsejarnos. y esencialmente tratar de hacer que nuestras vidas sean mejores o más efectivas. Por supuesto, personalmente me gustaría que eso siempre estuviera bajo mi control y mi consentimiento y aceptación. Tal vez no quiero que mis datos de bienestar se envíen a mi médico o, Dios no lo quiera, a mi compañía de seguros. Pero tal vez en algunas situaciones eso sea útil. Y poder permitir que nuestras tecnologías obtengan una comprensión más profunda de nuestro bienestar y nuestro estado puede ser muy valioso.
Elizabeth: Maravilloso. Pues gracias Gabi, esto ha sido muy interesante. Esta es un área emocionante de desarrollo, y le deseamos el mayor de los éxitos.
Noche: Muchas gracias y gracias por hablar conmigo. Eran preguntas geniales. Realmente disfruté hablar contigo. Gracias.
Elizabeth: Eso es todo por este episodio de Business Lab. Soy su anfitriona Elizabeth Bramson-Boudreau. Soy CEO y editor de MIT Technology Review. Fuimos fundados en 1899 en el Instituto Tecnológico de Massachusetts. Puede encontrarnos impresos, en la web, en docenas de eventos en vivo cada año y ahora en forma de audio. En nuestro sitio web, TechnologyReview.com, puede obtener más información sobre nosotros. Y no olvide postularse para unirse al Panel Global de MIT Technology Review, un grupo de líderes intelectuales, innovadores y ejecutivos, donde puede aprender de sus pares y compartir su experiencia sobre la tecnología actual y las tendencias comerciales. Solicite en TechnologyReview.com/globalpanel. Este programa está disponible dondequiera que obtenga sus podcasts. Si disfrutó de este episodio, esperamos que se tome un momento para calificarnos y comentarnos en Apple Podcasts. Business Lab es una producción de MIT Technology Review. El productor es Wade Roush con la ayuda editorial de Mindy Blodgett. Un agradecimiento especial a nuestro invitado Gabi Zijderveld. Gracias por escuchar. Volveremos pronto con un nuevo episodio.