Los investigadores de Emotion AI dicen que las afirmaciones exageradas dan mala fama a su trabajo

Una ilustración. A la izquierda, recortes dispersos de partes de la cara como ojos y bocas contenidos en una caja. Medio: una cara completa, ojos cerrados. A la derecha: una red en forma de cabeza. Franziska Barczyk

Quizás haya oído hablar de la IA realizando entrevistas. O tal vez usted mismo ha sido entrevistado por uno. Compañías como HireVue afirman que su software puede analizar entrevistas en video para averiguar la posición de un candidato. puntaje de empleabilidad . Los algoritmos no solo evalúan la apariencia de la cara y la postura del cuerpo; también les dicen a los empleadores si el entrevistado es tenaz, o bueno para trabajar en equipo . Estas evaluaciones podrían tener un gran efecto en el futuro de un candidato. En el nosotros y Corea del Sur , donde la contratación asistida por IA se ha vuelto cada vez más popular, los consultores profesionales ahora capacitan a los recién graduados y a los solicitantes de empleo sobre cómo entrevistarse con un algoritmo. Esta tecnología también se está implementando en los niños en las aulas y se ha utilizado en estudios para detectar engaños en videos de tribunales .

Pero muchas de estas promesas no están respaldadas por un consenso científico. No existen estudios sólidos revisados ​​por pares que demuestren que analizar la postura corporal o las expresiones faciales pueda ayudar a elegir a los mejores trabajadores o estudiantes (en parte porque las empresas guardan en secreto sus métodos). Como resultado, la exageración en torno al reconocimiento de emociones, que es pags se proyecta que sea un mercado de $ 25 mil millones para 2023 , ha creado una reacción violenta de los éticos tecnológicos y activistas que temen que la tecnología pueda generar los mismos tipos de problemas de discriminación que sentencia predictiva o algoritmos de vivienda para los propietarios que deciden a quién alquilar.

El bombo también preocupa a los investigadores. Muchos están de acuerdo en que su trabajo, que utiliza varios métodos (como el análisis de microexpresiones o la voz) para discernir e interpretar las expresiones humanas, está siendo cooptado y utilizado en aplicaciones comerciales que tienen una base inestable en la ciencia. Dicen que la falta de regulación gubernamental no solo es mala para los consumidores. También es malo para ellos.

El bueno y el malo

El reconocimiento de emociones, un subconjunto de la computación afectiva, es todavía una tecnología incipiente. A medida que los investigadores de IA han probado los límites de lo que podemos y no podemos cuantificar sobre el comportamiento humano, la ciencia subyacente de las emociones ha seguido desarrollándose. Todavía hay múltiples teorías, por ejemplo, sobre si las emociones se pueden distinguir discretamente o caer en un continuo. Mientras tanto, las mismas expresiones pueden significar cosas diferentes en diferentes culturas. En julio, un meta-estudio concluyó que no es posible juzgar la emoción con solo mirar la cara de una persona. El estudio fue ampliamente cubierto (incluso en esta publicación), a menudo con titulares que sugerían que no se puede confiar en el reconocimiento de emociones .

Los investigadores de reconocimiento de emociones ya son conscientes de esta limitación. Las personas con las que hablamos tuvieron cuidado al hacer afirmaciones sobre lo que su trabajo puede y no puede hacer. Muchos enfatizaron que el reconocimiento de emociones en realidad no puede evaluar las emociones y experiencias internas de un individuo. Solo puede estimar cómo los demás pueden percibir las emociones de ese individuo, o sugerir tendencias generales basadas en la población (como una película que provoca, en promedio, una reacción más positiva que otra). Ningún investigador serio afirmaría que puedes analizar unidades de acción en la cara y luego saber realmente lo que la gente está pensando, dice Elisabeth André, experta en computación afectiva de la Universidad de Augsburgo.

Los investigadores también señalan que el reconocimiento de emociones implica mucho más que simplemente mirar la cara de alguien. También puede implicar la observación de la postura corporal, la marcha y otras características, así como el uso de sensores biométricos y audio para recopilar datos más holísticos.

Tales distinciones están bien, pero son importantes: descalifican aplicaciones como HireVue, que pretenden evaluar la competencia inherente de un individuo, pero respaldan otras, como las tecnologías que apuntan a convertir a las máquinas en colaboradores y compañeros más inteligentes para los humanos. (HireVue no respondió a una solicitud de comentarios). Un robot humanoide podría sonreír cuando sonreía, una acción de espejo que los humanos suelen usar para que las interacciones se sientan más naturales. Un dispositivo portátil podría recordarle que descanse si detecta niveles de cortisol más altos que los básicos, la hormona del estrés del cuerpo. Ninguna de estas aplicaciones requiere un algoritmo para evaluar sus pensamientos y sentimientos privados; solo requieren una estimación de una respuesta adecuada a los niveles de cortisol o al lenguaje corporal. Tampoco toman decisiones de alto riesgo sobre la vida de un individuo, a diferencia de los algoritmos de contratación no probados. Si queremos que las computadoras y los sistemas informáticos nos ayuden, sería positivo que tuvieran una idea de cómo nos sentimos, dice Nuria Oliver, científica de datos en jefe de la organización sin fines de lucro DataPop Alliance.

Pero gran parte de este matiz se pierde cuando la investigación de reconocimiento de emociones se utiliza para hacer aplicaciones comerciales lucrativas. Los mismos algoritmos de monitoreo de estrés en un dispositivo portátil podrían ser utilizados por una empresa que intente asegurarse de que está trabajando lo suficientemente duro. Incluso para empresas como Affectiva, fundada por investigadores que hablan de la importancia de la privacidad y la ética, los límites son difíciles de definir. Tiene vendió su tecnología a HireVue . (Affectiva se negó a comentar sobre empresas específicas).

Un llamado a la regulación

En diciembre, el instituto de investigación AI Now pidió la prohibición de las tecnologías de reconocimiento de emociones. en decisiones importantes que impactan en la vida de las personas . Es una de las primeras llamadas para prohibir una tecnología que ha recibido menos atención regulatoria que otras formas de inteligencia artificial, a pesar de que su uso en la evaluación laboral y en las aulas podría tener efectos graves.

Por el contrario, el Congreso acaba de celebrar su tercera audiencia sobre reconocimiento facial en menos de un año , y tiene convertirse en un tema en las elecciones de 2020 . Los activistas están trabajando para boicotear las tecnologías de reconocimiento facial y varios representantes están reconociendo la necesidad de una regulación tanto en el sector público como en el privado. Para la computación afectiva, no ha habido tantas campañas y grupos de trabajo dedicados, y los intentos de regulación han sido limitados. Una ley de Illinois regular el análisis de IA de videos de entrevistas de trabajo entró en vigor en enero, y se le ha pedido a la Comisión Federal de Comercio que investigue H ireVue (aunque no se sabe si tiene la intención de hacerlo).

Aunque muchos investigadores creen que una prohibición es demasiado amplia, están de acuerdo en que un vacío regulatorio también es perjudicial. Tenemos procesos claramente definidos para certificar que ciertos productos que consumimos, ya sean alimentos que comemos, ya sean medicamentos que tomamos, son seguros para que los tomemos, y realmente hacen lo que dicen que hacen, dice Oliver. . No tenemos los mismos procesos para la tecnología. Ella piensa que las empresas cuyas tecnologías pueden afectar significativamente la vida de las personas deberían demostrar que cumplen con un cierto estándar de seguridad.

Rosalind Picard, profesora del MIT Media Lab que cofundó Affectiva y otra startup de computación afectiva, Empatica, se hace eco de este sentimiento. Para un modelo existente de regulación, señala el Ley de protección del polígrafo para empleados limitando el uso de detectores de mentiras, que según ella son esencialmente una tecnología informática afectiva. Por ejemplo, la ley prohíbe que la mayoría de los empleadores privados usen polígrafos y no les permite preguntar sobre los resultados de las pruebas del detector de mentiras.

Ella sugiere que todo uso de tales tecnologías debe ser optativo y que las empresas deben estar obligadas a revelar cómo se probaron sus tecnologías y cuáles son sus limitaciones. Lo que tenemos hoy es que [las empresas] pueden hacer estas afirmaciones escandalosas que son simplemente falsas, porque en este momento el comprador no está tan bien educado, dice ella. Y no deberíamos exigir que los compradores estén bien educados. (Picard, quien dice que dejó Affectiva en 2013, no respalda las afirmaciones de HireVue).

Por su parte, Meredith Whittaker, científica investigadora de la NYU y codirectora de AI Now, enfatiza la diferencia entre investigación y comercialización. No estamos impugnando todo el campo de la computación afectiva, dice. En particular, denunciamos el despliegue no regulado, no validado y científicamente infundado de tecnologías comerciales de reconocimiento de afecto. La comercialización está perjudicando a las personas en este momento, potencialmente, porque está haciendo afirmaciones que determinan el acceso de las personas a los recursos.

La prohibición del uso del reconocimiento de emociones en aplicaciones como la selección de trabajos ayudaría a evitar que la comercialización supere a la ciencia. Detener primero el despliegue de las tecnologías, dice, y luego invertir en investigación. Si la investigación confirma que las tecnologías funcionan como afirman las empresas, considere aflojar la prohibición.

Sin embargo, aún se necesitarían otras regulaciones para mantener a las personas seguras: en última instancia, hay más que considerar, argumenta Whittaker, que solo la credibilidad científica. Necesitamos asegurarnos, cuando estos sistemas se usan en contextos sensibles, que sean discutibles, que se usen de manera justa, dice, y que no conduzcan a un aumento de las asimetrías de poder entre las personas que los usan y las personas a las que afectan. están usados.

esconder