211service.com
Los detectores de mentiras siempre han sido sospechosos. La IA ha empeorado el problema.
Nicolás Ortega
Antes de que el polígrafo lo declarara culpable, Emmanuel Mervilus trabajaba para una empresa de aceite de cocina en el puerto de Newark, Nueva Jersey. Ganaba $12 la hora moviendo cajas, pero no era suficiente. Su hermano y su hermana eran demasiado jóvenes para trabajar y su madre estaba librando una costosa batalla contra el cáncer. Sin embargo, su jefe en el puerto le había dicho que él era el próximo en la línea de ascenso a un puesto de técnico, que vendría con un aumento de $25 por hora.
Mervilus todavía estaba esperando este ascenso el 19 de octubre de 2006, cuando él y un amigo se detuvieron en un Dunkin' Donuts en las cercanías de Elizabeth, Nueva Jersey. Minutos después, mientras caminaban por la calle, dos policías se les acercaron y los acusaron de haber robado a un hombre a punta de cuchillo minutos antes, frente a una estación de tren cercana.
La víctima había identificado a Mervilus ya su amigo a distancia. Desesperado por demostrar su inocencia, Mervilus se ofreció a someterse a una prueba de polígrafo. La policía estuvo de acuerdo, pero en los días previos a la prueba, la madre de Mervilus murió. Estaba angustiado y ansioso cuando la policía lo ató al dispositivo. No pasó la prueba, pidió volver a tomarla y se la negaron.
Después de que Mervilus mantuviera su declaración de inocencia, su caso fue a juicio. El teniente que administró el polígrafo testificó ante el tribunal que el dispositivo era un indicador confiable de la verdad. Dijo que nunca en su carrera había visto un caso en el que alguien mostrara signos de engaño, y [más tarde] se supo que eran veraces. Un jurado condenó a Mervilus, influenciado, según descubrió más tarde un tribunal de apelaciones, por una fe inapropiada en el polígrafo. El juez lo condenó a 11 años de prisión.
La creencia de que el engaño puede detectarse analizando el cuerpo humano se ha arraigado en la vida moderna. A pesar de numerosos estudios que cuestionan la validez del polígrafo, cada año se realizan más de 2,5 millones de exámenes con el dispositivo, y las pruebas de polígrafo son una industria de $2 mil millones. Las agencias del gobierno federal de los EE. UU., incluidos el Departamento de Justicia, el Departamento de Defensa y la CIA, utilizan el dispositivo cuando examinan a empleados potenciales. Según cifras de 2007 del Departamento de Justicia, más de las tres cuartas partes de todos los departamentos de policía y alguaciles urbanos también utilizaron detectores de mentiras para evaluar las contrataciones.
Pero las máquinas de polígrafo todavía son demasiado lentas y engorrosas para usar en los cruces fronterizos, en los aeropuertos o en grandes grupos de personas. Como resultado, en la última década ha surgido una nueva generación de detectores de mentiras basados en inteligencia artificial. Sus defensores afirman que son más rápidos y precisos que los polígrafos.
En realidad, el trabajo psicológico que sustenta estos nuevos sistemas de IA es aún más endeble que la investigación que subyace al polígrafo. Hay poca evidencia de que se pueda confiar en los resultados que producen. No obstante, la apariencia de modernidad que les da la IA está llevando estos sistemas a entornos en los que el polígrafo no ha podido penetrar: cruces fronterizos, entrevistas de trabajo privadas, evaluaciones de préstamos y reclamos de fraude de seguros. Las corporaciones y los gobiernos están comenzando a confiar en ellos para tomar decisiones sobre la confiabilidad de los clientes, empleados, ciudadanos, inmigrantes y visitantes internacionales. Pero, ¿qué pasa si mentir es demasiado complejo para que cualquier máquina lo identifique de manera confiable, sin importar cuán avanzado sea su algoritmo?
Los inquisidores de la antigua China pedían a los presuntos mentirosos que se pusieran arroz en la boca para ver si salivaban. El Las hazañas de los romanos , una antología medieval de fábulas morales, cuenta la historia de un soldado que hizo que su empleado le tomara el pulso a su esposa para saber si le estaba siendo infiel.
Una traducción al inglés de la Las hazañas de los romanos , o Hechos de los romanos, una colección de historias publicadas originalmente en latín a finales del siglo XIII o principios del XIV. comunes de wikimedia
Cuando Estados Unidos entró en la Primera Guerra Mundial, William Marston, investigador de Harvard, fue pionero en el uso de máquinas que midieron la presión arterial para intentar determinar el engaño. Unos años más tarde, inspirado por el trabajo de Marston, John Augustus Larson, un oficial de policía que acababa de completar su doctorado en fisiología en la Universidad de California, Berkeley, desarrolló una máquina que llamó psicograma cardio-pneumo, que proporcionaba lecturas continuas de un la presión arterial, el pulso y la frecuencia respiratoria del sujeto. Estas lecturas, afirmó Larson, eran un indicador aún mejor del engaño que la presión arterial sola.
Larson usó la máquina por primera vez para investigar un robo en un dormitorio de mujeres en Berkeley y, en un año, se usó para condenar a un hombre en San Francisco acusado de asesinar a un sacerdote. En la década de 1930, uno de los protegidos de Larson vendía una versión portátil a los departamentos de policía de todo el país, agregando un sensor que medía los cambios en la respuesta galvánica de la piel: cuanto más sudaba un sujeto, más conductora sería la piel. En la década de 1970, millones de trabajadores del sector privado se sometían periódicamente a pruebas de polígrafo a instancias de sus empleadores.
La mayoría de las pruebas de polígrafo actuales tienen la misma estructura básica que la de Larson: el examinador hace una serie de preguntas para medir el estado fisiológico normal de un sujeto, observando mientras la máquina transcribe estas mediciones como líneas de forma de onda en una página o una pantalla. Luego, el examinador busca picos o caídas repentinos en estos niveles a medida que el sujeto responde preguntas sobre sospechas de delitos o sentimientos.
Pero los psicólogos y neurocientíficos han criticado el polígrafo casi desde el momento en que Larson dio a conocer su invento al público. Si bien algunos mentirosos pueden experimentar cambios en la frecuencia cardíaca o la presión arterial, hay pocas pruebas de que tales cambios se correlacionen consistentemente con el engaño. Muchas personas inocentes se ponen nerviosas al ser interrogadas, y los mentirosos experimentados pueden suprimir o inducir cambios en su cuerpo para burlar la prueba. Los polígrafos también pueden ser golpeado por mordiéndose la lengua , pisar una tachuela, o pensando en el peor miedo de uno . Los dispositivos siempre corren el riesgo de detectar variables confusas, incluso en experimentos de laboratorio controlados, y en la vida real son aún menos confiables: dado que los delincuentes que superan la prueba casi nunca le dicen a la policía que son culpables, y dado que los sospechosos inocentes a menudo dan confesiones falsas después de fallar la prueba. pruebas, no hay forma de saber qué tan bien funcionaron realmente.
Leonarde Keeler, protegida del inventor del polígrafo John Larson, administró la prueba a Bruno Hauptmann, quien fue arrestado, condenado y ejecutado por el secuestro de Charles Augustus Lindbergh Jr. Hauptmann mantuvo su inocencia hasta su muerte. Dominio publico
Debido a estas limitaciones, las pruebas de polígrafo han sido inadmisibles durante mucho tiempo en la mayoría de los tribunales estadounidenses, a menos que ambas partes den su consentimiento para su inclusión. La ley federal ha prohibido a los empleadores privados aplicar el polígrafo a sus empleados desde 1988 (con excepciones para aquellos en trabajos delicados, como guardias armados o distribuidores de productos farmacéuticos, y para algunos empleados sospechosos de robo o fraude). La Asociación Estadounidense de Psicología advierte: La mayoría de los psicólogos están de acuerdo en que hay poca evidencia de que las pruebas de polígrafo puedan detectar mentiras con precisión, y un informe de 2003 de la Academia Nacional de Ciencias, haciéndose eco de investigaciones gubernamentales anteriores, encontró que el dispositivo detecta mentirosos a tasas muy por encima de la probabilidad. , aunque muy por debajo de la perfección; El autor principal del informe dijo en ese momento que la seguridad nacional es demasiado importante para dejarla en manos de un instrumento tan contundente.
Pero tal vez el instrumento no necesite ser tan contundente. Esa es la promesa que hace un número creciente de empresas ansiosas por vender tecnología de detección de mentiras tanto a los gobiernos como a las industrias comerciales. Tal vez, dicen, ciertos patrones complejos de tics conductuales podrían indicar una mentira de manera más confiable que solo un pulso elevado o la presión arterial. Y tal vez un algoritmo sofisticado podría detectar esos patrones.
Desde 1969 hasta 1981, un asesino en serie apodado Yorkshire Ripper se aprovechó de mujeres jóvenes en el norte de Inglaterra, mató al menos a 13 e intentó matar al menos a otras siete. La policía lo entrevistó y lo liberó nueve veces diferentes mientras continuaba su ola de asesinatos. Su última víctima fue Jacqueline Hill, una estudiante de 20 años de la Universidad de Leeds, que fue asesinada en noviembre de 1980. Unos meses después, la policía finalmente lo atrapó cuando se disponía a matar a una prostituta en la cercana Sheffield.
Cuando Janet Rothwell llegó a la Universidad de Leeds en el otoño de 1980, vivía en el dormitorio contiguo al de Hill. Se encontró atormentada por el asesinato de Hill.
Cogió el autobús de la biblioteca de la universidad casi al mismo tiempo que yo, dijo Rothwell, y la asesinaron después de bajarse del autobús. Rothwell supo más tarde cuánto tiempo llevó atrapar al asesino. Me preguntaba, recordó, ¿podría una computadora señalar algún tipo de incongruencia en el comportamiento para alertar a la policía?
Rothwell finalmente se graduó en la Universidad Metropolitana de Manchester (MMU) a fines de la década de 1990. Conoció a Zuhair Bandar, un profesor iraquí-británico que trabajaba en el departamento de informática. Recientemente, Bandar había tenido un momento eureka cuando una empresa de marketing le pidió que creara un dispositivo rudimentario para medir el interés de los consumidores en los productos que veían en una pantalla.
Una foto del FBI de una mujer haciéndose un polígrafo. Oficina Federal de Investigaciones
Le darían al cliente un dispositivo portátil, dijo Bandar, y si lo aprueban, presionan 1; si no les gusta, presionan 2. Pensé, ¿por qué necesitamos dispositivos portátiles si ya hay expresiones en sus rostros? Bandar le pidió a Rothwell que se quedara en MMU después de su maestría para obtener un doctorado y ayudarlo a diseñar un software que pudiera analizar rostros para extraer información. El engaño, pensaron, no era menos detectable que la alegría o la ira. Todos crearían algún tipo de incongruencia: patrones de comportamiento, ya sean verbales o no verbales, que una computadora podría discernir.
Rothwell entrenó una red neuronal a principios de la década de 2000 para rastrear movimientos faciales como parpadear y sonrojarse, y luego le dio a la computadora unas pocas docenas de clips de personas que respondían el mismo conjunto de preguntas con honestidad y deshonestidad. Para determinar qué tenían en común los mentirosos, la computadora examinó los movimientos faciales de un individuo, las relaciones entre esos movimientos y las relaciones entre esas relaciones, y llegó a una teoría demasiado compleja para articularla en un lenguaje normal. Una vez entrenado de esta manera, el sistema podría usar su conocimiento para clasificar nuevos sujetos como engañosos o veraces mediante el análisis de los cambios cuadro por cuadro en sus expresiones.
En un estudio de 2006, se hizo que el sistema, llamado Silent Talker, adivinara si un sujeto estaba mintiendo o diciendo la verdad. Nunca logró más del 80% de precisión mientras Rothwell estaba trabajando en él, ni lo ha hecho sustancialmente mejor en nada que el grupo de investigación haya publicado desde entonces. Rothwell también me dijo que se descomponía por completo si un participante usaba anteojos, y señaló: Debe recordar que las condiciones de iluminación eran las mismas y que las entrevistas se basaron en el robo escenificado. Pero incluso en las primeras etapas, recuerda Rothwell, Bandar estaba ansioso por tener un producto comercial; él y un colega una vez le presentaron un video de una mujer sospechosa de engañar a su esposo y le pidieron que hiciera que Silent Talker lo analizara, al igual que en el Las hazañas de los romanos .
Rothwell tenía sus reservas. Pude ver que el software, si funcionaba, podría ser potencialmente intrusivo, dijo. No creo que ningún sistema pueda estar al 100%, y si [el sistema] se equivoca, el riesgo para las relaciones y la vida podría ser catastrófico. Dejó la universidad en 2006; después de formarse como audióloga, encontró trabajo en un hospital de la Isla de Jersey, donde aún vive.
MMU emitió un comunicado de prensa en 2003 promocionando la tecnología como un nuevo invento que dejaría obsoleto al polígrafo. Me sorprendió un poco, dijo Rothwell, porque sentí que era demasiado pronto.
El gobierno de EE. UU. realizó numerosas incursiones en la tecnología de detección de engaños en los primeros años posteriores al 11 de septiembre, y el Departamento de Seguridad Nacional (DHS), el Departamento de Defensa (DoD) y la Fundación Nacional de Ciencias gastaron millones de dólares en dicha investigación. . Estas agencias financiaron la creación de un quiosco llamado AVATAR en la Universidad de Arizona. AVATAR, que analizó las expresiones faciales, el lenguaje corporal y las voces de las personas para asignarles a los sujetos un 'puntaje de credibilidad', se probó en aeropuertos de EE. UU. Mientras tanto, en Israel, el DHS ayudó a financiar una empresa emergente llamada WeCU ('we see you), que vendió un quiosco de detección que desencadenaría respuestas fisiológicas entre quienes ocultan algo, según un Artículo de 2010 en Fast Company . (La compañía ha cerrado desde entonces).
Bandar comenzó a intentar comercializar la tecnología. Junto con dos de sus alumnos, Jim O'Shea y Keeley Crockett, incorporó Silent Talker como empresa y comenzó a buscar clientes, incluidos departamentos de policía y corporaciones privadas, para su tecnología de perfiles psicológicos. Silent Talker fue uno de los primeros detectores de mentiras de IA en llegar al mercado. Según la empresa, el año pasado la tecnología derivada de Silent Talker se utilizó como parte de iBorderCtrl, una iniciativa de investigación financiada por la Unión Europea que probó el sistema en voluntarios en las fronteras de Grecia, Hungría y Letonia. Bandar dice que la compañía ahora está en conversaciones para vender la tecnología a bufetes de abogados, bancos y compañías de seguros, incorporando las pruebas a las entrevistas en el lugar de trabajo y a las evaluaciones de fraude.
Bandar y O'Shea pasaron años adaptando el algoritmo central para su uso en varios entornos. Intentaron comercializarlo en los departamentos de policía de las áreas metropolitanas de Manchester y Liverpool. Estamos hablando con personas muy importantes de manera informal, dijo la compañía a una publicación del Reino Unido. El ingeniero en 2003, señalando que su objetivo era probar esto en entrevistas reales. Un libro blanco de 2013 O'Shea publicado en su sitio web sugirió que Silent Talker podría usarse para proteger nuestras fuerzas en el despliegue en el extranjero de los ataques Green-on-Blue ('Insider'). (El término verde sobre azul se usa comúnmente para referirse a los ataques que los soldados afganos en uniforme hacen contra sus antiguos aliados).
El equipo también publicó resultados experimentales que muestran cómo Silent Talker podría usarse para detectar tanto la comprensión como la detección. En un estudio de 2012, el primero en mostrar el sistema Silent Talker utilizado en el campo, el equipo trabajó con una ONG de atención médica en Tanzania para registrar las expresiones faciales de 80 mujeres mientras tomaban cursos en línea sobre el tratamiento del VIH y el uso de condones. La idea era determinar si los pacientes entendían el tratamiento que recibirían; como señala la introducción del estudio, la evaluación de la comprensión de los participantes durante el proceso de consentimiento informado sigue siendo un área crítica de preocupación. Cuando el equipo comparó las conjeturas de la IA sobre si las mujeres entendieron las conferencias con sus puntajes en los breves exámenes posteriores a la clase, descubrieron que tenía un 80 % de precisión para predecir quién aprobaría y quién reprobaría.
El algoritmo entrenado en Manchester, según el comunicado de prensa, brindaría cruces fronterizos terrestres más eficientes y seguros y contribuiría a la prevención del crimen y el terrorismo.
El experimento de Tanzania fue lo que llevó a la inclusión de Silent Talker en iBorderCtrl. En 2015, Athos Antoniades, uno de los organizadores del naciente consorcio, le envió un correo electrónico a O'Shea para preguntarle si el equipo de Silent Talker quería unirse a un grupo de empresas y fuerzas policiales que competían por una subvención de la UE. En años anteriores, el creciente tráfico de vehículos hacia la UE había abrumado a los agentes en los países fronterizos de la unión y, como resultado, la UE estaba ofreciendo 4,5 millones de euros (5 millones de dólares) a cualquier institución que pudiera ofrecer cruces fronterizos terrestres más eficientes y seguros... y así contribuir a la prevención del crimen y el terrorismo. Antoniades pensó que Silent Talker podría jugar un papel crucial.
Cuando el proyecto finalmente anunció un piloto público en octubre de 2018, la Comisión Europea se apresuró a promocionar la historia de éxito del enfoque único del sistema para la detección de engaños. en un comunicado de prensa , explicando que la tecnología analiza los microgestos de los viajeros para averiguar si el entrevistado miente. El algoritmo entrenado en Manchester, continuó el comunicado de prensa, brindaría cruces fronterizos terrestres más eficientes y seguros y contribuiría a la prevención del crimen y el terrorismo.
El algoritmo subyacente del programa, me dijo O'Shea, podría usarse en una variedad de otros entornos: publicidad, análisis de reclamos de seguros, selección de solicitantes de empleo y evaluación de empleados. Me resultó difícil compartir su abrumadora creencia en su sabiduría, pero incluso mientras él y yo hablábamos por teléfono, Silent Talker ya estaba evaluando voluntarios en los cruces fronterizos de la UE; la compañía se había lanzado recientemente como negocio en enero de 2019. Así que decidí ir a Manchester para verlo por mí mismo.
Las oficinas de Silent Talker se encuentran a una milla de distancia de la Universidad Metropolitana de Manchester, donde O'Shea es ahora profesor titular. Se ha hecho cargo del desarrollo diario de la tecnología de Bandar. La empresa tiene su sede en un parque de oficinas de ladrillos que parpadea y te lo perderás en un vecindario residencial, al final de la calle de un restaurante de kebab y frente a un campo de fútbol. En el interior, la oficina de Silent Talker es una habitación individual con algunas computadoras, escritorios con maletines y carteles explicativos sobre la tecnología de principios de la década de 2000.
Cuando visité la oficina de la empresa en septiembre, me senté con O'Shea y Bandar en una sala de conferencias al final del pasillo. O'Shea era severo pero un poco arrugado, calvo excepto por unos pocos mechones de cabello y una barba Van Dyke. Comenzó la conversación insistiendo en que no hablemos sobre el proyecto iBorderCtrl, y luego llamó a sus críticos mal informados. Habló sobre el poder del marco de IA del sistema en tangentes largas y digresivas, citando ocasionalmente al pionero de la informática Alan Turing o al filósofo del lenguaje John Searle.
Tanto las máquinas como los humanos tienen intencionalidad: creencias, deseos e intenciones sobre objetos y estados de cosas en el mundo, dijo, defendiendo la dependencia del sistema en un algoritmo. Por lo tanto, las aplicaciones complicadas requieren que le des un peso mutuo a las ideas e intenciones de ambos.
O'Shea demostró el sistema al hacer que analizara un video de un hombre que responde preguntas sobre si robó $ 50 de una caja. El programa superpuso un cuadrado amarillo alrededor de la cara del hombre y dos cuadrados más pequeños alrededor de sus ojos. Mientras hablaba, una aguja en la esquina de la pantalla se movió de verde a rojo cuando dio respuestas falsas y volvió a un naranja moderado cuando no estaba hablando. Cuando terminó la entrevista, el software generó un gráfico que trazaba la probabilidad de engaño contra el tiempo. En teoría, esto se mostró cuando comenzó y dejó de mentir.
Mientras hablaba, una aguja en la esquina de la pantalla se movió de verde a rojo cuando dio respuestas falsas y volvió a un naranja moderado cuando no estaba hablando.
El sistema puede ejecutarse en una computadora portátil tradicional, dice O'Shea, y los usuarios pagan alrededor de $10 por minuto de video analizado. O'Shea me dijo que el software realiza un procesamiento local preliminar del video, envía datos encriptados a un servidor donde se analizan más a fondo y luego devuelve los resultados: el usuario ve un gráfico de la probabilidad de engaño superpuesto en la parte inferior del vídeo
Según O'Shea, el sistema monitorea alrededor de 40 canales físicos en el cuerpo de un participante, desde la velocidad a la que parpadea hasta el ángulo de la cabeza. Trae a cada cara nueva una teoría sobre el engaño que ha desarrollado al ver un conjunto de datos de entrenamiento de mentirosos y sinceros. Al medir los movimientos faciales y los cambios de postura de un sujeto muchas veces por segundo, el sistema busca patrones de movimiento que coincidan con los compartidos por los mentirosos en los datos de entrenamiento. Estos patrones no son tan simples como mirar hacia el techo o inclinar la cabeza hacia la izquierda. Son más como patrones de patrones, relaciones multifacéticas entre diferentes movimientos, demasiado complejos para que los humanos los rastreen, un rasgo típico de los sistemas de aprendizaje automático.
El trabajo de la IA es determinar qué tipos de patrones de movimientos pueden asociarse con el engaño. Los psicólogos a menudo dicen que deberías tener algún tipo de modelo de cómo funciona un sistema, me dijo O'Shea, pero no tenemos un modelo funcional y no lo necesitamos. Dejamos que la IA lo resuelva. Sin embargo, también dice que la justificación de los canales en la cara proviene de la literatura académica sobre la psicología del engaño. en un Documento de 2018 sobre Silent Talker , sus creadores dicen que su software asume que ciertos estados mentales asociados con el comportamiento engañoso impulsarán el [comportamiento no verbal] de un entrevistado al engañar. Entre estos comportamientos se encuentran la carga cognitiva, o la energía mental adicional que supuestamente se necesita para mentir, y el placer de engañar, o el placer que supuestamente obtiene un individuo al decir una mentira exitosa.
Paul Ekman, un psicólogo cuya teoría de las 'microexpresiones' es muy discutida, ha sido consultor de innumerables agencias gubernamentales de EE. UU. Wikimedia / Momopuppycat
Pero Ewout Meijer, profesor de psicología en la Universidad de Maastricht en los Países Bajos, dice que los motivos para creer que tales comportamientos son universales son, en el mejor de los casos, inestables. La idea de que uno puede encontrar fugas conductuales reveladoras en la cara tiene sus raíces en el trabajo de Paul Ekman, un psicólogo estadounidense que en la década de 1980 defendió una teoría ahora famosa de microexpresiones, o movimientos faciales involuntarios demasiado pequeños para controlar. La investigación de Ekman lo convirtió en un autor de gran éxito de ventas e inspiró el drama policial televisivo. Mienteme . Fue consultor de innumerables agencias gubernamentales de los EE. UU., incluidas DHS y DARPA. Citando la seguridad nacional, ha mantenido en secreto los datos de la investigación. Esto ha llevado a un debate polémico sobre si las microexpresiones tienen algún significado.
La IA de Silent Talker rastrea todo tipo de movimiento facial, no las microexpresiones específicas de Ekman. Descomponemos estas señales de alto nivel en nuestro propio conjunto de microgestos y entrenamos componentes de IA para recombinarlos en patrones indicativos significativos, escribió un portavoz de la compañía en un correo electrónico. O'Shea dice que esto permite que el sistema detecte comportamientos engañosos incluso cuando un sujeto solo está mirando a su alrededor o moviéndose en una silla.
Mucho depende de si tiene una pregunta tecnológica o psicológica, dice Meijer, y advierte que O'Shea y su equipo pueden estar buscando en la tecnología respuestas a preguntas psicológicas sobre la naturaleza del engaño. Un sistema de IA puede superar a las personas en la detección de [expresiones faciales], pero incluso si ese fuera el caso, eso no le dice si puede inferir de ellos si alguien está engañando... el engaño es una construcción psicológica. No sólo no hay consenso sobre cual las expresiones se correlacionan con el engaño, agrega Meijer; ni siquiera hay un consenso sobre ya sea ellas hacen. En un correo electrónico, la empresa dijo que tales críticas no son relevantes para Silent Talker y que las estadísticas utilizadas no son apropiadas.
el drama televisivo Mienteme se basó en parte en la teoría de la microexpresión de Ekman. estudios de zorro
Además, Meijer señala que el algoritmo seguirá siendo inútil en los cruces fronterizos o en las entrevistas de trabajo a menos que haya sido entrenado en un conjunto de datos tan diverso como el que evaluará en la vida real. La investigación muestra que los algoritmos de reconocimiento facial son peores para reconocer a las minorías cuando han sido entrenados en conjuntos de rostros predominantemente blancos, algo que el propio O'Shea admite. Un portavoz de Silent Talker escribió en un correo electrónico: Realizamos varios experimentos con tamaños de muestra variables más pequeños. Estos suman cientos. Algunos de estos son académicos y han sido publicados [sic], algunos son comerciales y son confidenciales.
Sin embargo, toda la investigación publicada que corrobora la precisión de Silent Talker proviene de conjuntos de datos pequeños y parciales: en el documento de 2018, por ejemplo, una población de entrenamiento de 32 personas contenía el doble de hombres que de mujeres y solo 10 participantes de ascendencia asiática/árabe, con sin sujetos negros o hispanos. Si bien el software actualmente tiene diferentes configuraciones para analizar a hombres y mujeres, O'Shea dijo que no estaba seguro de si necesitaba configuraciones para el origen étnico o la edad.
Después de que se anunciara el piloto de iBorderCtrl en 2018, activistas y políticos denunciaron el programa como una expansión orwelliana sin precedentes del estado de vigilancia. Sophie in 't Veld, miembro holandesa del Parlamento Europeo y líder del partido de centroizquierda Demócratas 66, dijo en una carta a la Comisión Europea que el sistema Silent Talker podría violar los derechos fundamentales de muchos viajeros que cruzan la frontera y que Organizaciones como Privacy International lo condenaron como parte de una tendencia más amplia hacia el uso de sistemas automatizados opacos y, a menudo, deficientes para juzgar, evaluar y clasificar a las personas. La oposición pareció tomar por sorpresa al consorcio iBorderCtrl: aunque inicialmente la Comisión Europea afirmó que iBorderCtrl desarrollaría un sistema para acelerar los cruces fronterizos, un portavoz ahora dice que el programa era un proyecto de investigación puramente teórico. Antoniades le dijo a un periódico holandés a fines de 2018 que es posible que el sistema de detección de engaños finalmente no se incluya en el diseño, pero, al momento de escribir este artículo, Silent Talker todavía promocionaba su participación en iBorderCtrl. en su sitio web .
Sin embargo, a menudo críticos como Wilde lo desacreditan, el sueño de un detector de mentiras perfecto simplemente no morirá, especialmente cuando se pasa por alto con el brillo de la IA.
Silent Talker es una nueva versión del antiguo fraude, opina Vera Wilde, académica estadounidense y activista de la privacidad que vive en Berlín y que ayudó a iniciar una campaña contra iBorderCtrl. De alguna manera, es el mismo fraude, pero con peor ciencia. En una prueba de polígrafo, un examinador busca eventos fisiológicos que se cree que están relacionados con el engaño; en un sistema de inteligencia artificial, los examinadores dejan que la computadora descubra las correlaciones por sí misma. Cuando O'Shea dice que no tiene una teoría, se equivoca, continúa. Él tiene una teoría. Es solo una mala teoría.
Sin embargo, a menudo críticos como Wilde lo desacreditan, el sueño de un detector de mentiras perfecto simplemente no morirá, especialmente cuando se pasa por alto con el brillo de la IA. Después de que el DHS gastó millones de dólares financiando investigaciones sobre el engaño en universidades en la década de 2000, intentó crear su propia versión de una tecnología de análisis de comportamiento. Este sistema, llamado Tecnología de detección de atributos futuros (FAST), tenía como objetivo utilizar la IA para buscar tendencias delictivas en los movimientos oculares y corporales de un sujeto. (Una versión anterior requería que los entrevistados se pararan en una tabla de equilibrio de Wii Fit para medir los cambios en la postura). Tres investigadores que hablaron extraoficialmente para discutir proyectos clasificados dijeron que el programa nunca despegó: había demasiado desacuerdo dentro del departamento. sobre si utilizar las microexpresiones de Ekman como guía para el análisis del comportamiento. El departamento cerró el programa en 2011.
A pesar del fracaso de FAST, el DHS aún muestra interés en las técnicas de detección de mentiras. El año pasado, por ejemplo, otorgó un contrato de $110,000 a una empresa de recursos humanos para capacitar a sus funcionarios en la detección de engaños y la obtención de respuestas a través del análisis de comportamiento. Mientras tanto, otras partes del gobierno siguen apoyando las soluciones de inteligencia artificial. El Laboratorio de Investigación del Ejército (ARL) actualmente tiene un contrato con la Universidad de Rutgers para crear un programa de inteligencia artificial para detectar mentiras en el juego de salón Mafia, como parte de un intento mayor de crear algo como un Google Glass que nos advierta de un par de carteristas en el bazar abarrotado, según Purush Iyer, jefe de división de ARL a cargo del proyecto. Nemesysco, una empresa israelí que vende software de análisis de voz de IA, me dijo que los departamentos de policía de Nueva York y los alguaciles del Medio Oeste utilizan su tecnología para entrevistar a los sospechosos, así como los centros de llamadas de cobro de deudas para medir las emociones de los deudores en llamadas telefónicas.
El futuro inmediato y potencialmente peligroso de la detección de mentiras por IA no está en los gobiernos sino en el mercado privado. Los políticos que apoyan iniciativas como iBorderCtrl en última instancia tienen que responder ante los votantes, y la mayoría de los detectores de mentiras de IA podrían ser excluidos de los tribunales bajo el mismo precedente legal que rige el polígrafo. Las corporaciones privadas, sin embargo, enfrentan menos restricciones en el uso de dicha tecnología para evaluar a los solicitantes de empleo y clientes potenciales. Silent Talker es una de varias empresas que afirman ofrecer una forma más objetiva de detectar comportamientos anómalos o engañosos, brindando a los clientes un método de análisis de riesgos que va más allá de los puntajes crediticios y los perfiles de las redes sociales.
El software genera un elevado número de falsos positivos.
Una empresa con sede en Montana llamada Neuro-ID realiza un análisis de inteligencia artificial de los movimientos del mouse y las pulsaciones de teclas para ayudar a los bancos y las compañías de seguros a evaluar el riesgo de fraude, asignando a los solicitantes de préstamos una puntuación de confianza de 1 a 100. En un video que me mostró la empresa, cuando un cliente estaba haciendo una solicitud de préstamo en línea toma más tiempo para completar el campo de ingresos familiares, moviendo el mouse mientras lo hace, el sistema lo tiene en cuenta en su puntaje de credibilidad. Se basa en una investigación realizada por los científicos fundadores de la empresa que afirma mostrar una correlación entre los movimientos del ratón y la excitación emocional: un artículo que afirma que ser engañoso puede aumentar la distancia normalizada de movimiento, disminuir la velocidad del movimiento, aumentar el tiempo de respuesta y dar como resultado en más clics izquierdos. Sin embargo, las propias pruebas de la empresa revelan que el software genera una gran cantidad de falsos positivos: en un estudio de caso en el que Neuro-ID procesó 20 000 solicitudes para un sitio web de comercio electrónico, menos de la mitad de los solicitantes que obtuvieron las puntuaciones más bajas (de 5 a 10) resultó ser fraudulento, y solo el 10% de los que recibieron puntajes de 20 a 30 representaron un riesgo de fraude. Según la propia admisión de la empresa, el software señala a los solicitantes que pueden resultar inocentes y permite que la empresa use esa información para hacer un seguimiento como le plazca. No existe un análisis basado en el comportamiento que sea 100% preciso, me dijo un portavoz. Lo que recomendamos es que use esto en combinación con otra información sobre los solicitantes para tomar mejores decisiones y atrapar [clientes fraudulentos] de manera más eficiente.
Converus, una startup con sede en Utah, vende un software llamado EyeDetect que mide la dilatación de las pupilas de un sujeto durante una entrevista para detectar la carga cognitiva. Al igual que Silent Talker, la herramienta parte de la premisa de que mentir es más exigente cognitivamente que decir la verdad. De acuerdo a un artículo de 2018 en Wired, los departamentos de policía de Salt Lake City y Columbus, Georgia, han utilizado EyeDetect para evaluar a los solicitantes de empleo. Converus también le dijo a Wired que McDonald's, Best Western, Sheraton, IHOP y FedEx usaron su software en Panamá y Guatemala de formas que habrían sido ilegales en los EE. UU.
En una declaración que me dio, la compañía citó a pocos estudios que muestran que EyeDetect logra alrededor del 85 % de precisión en la identificación de mentirosos y sinceros, con muestras de hasta 150 personas. El presidente de la compañía, Todd Mickelsen, dice que el algoritmo de su firma ha sido entrenado en cientos de miles de entrevistas. Pero Charles Honts, profesor de psicología en la Universidad Estatal de Boise que también forma parte del consejo asesor de Converus, dijo que estos resultados no prueban que se pueda confiar en EyeDetect en las entrevistas de campo. El sistema EyeDetect me parece muy interesante, pero por otro lado, no lo uso, me dijo. Creo que la base de datos aún es relativamente pequeña y proviene principalmente de un laboratorio. Hasta que se expanda y otras personas lo repliquen, sería reacio a usarlo en el campo.
Los investigadores de la Universidad de Arizona que desarrollaron el sistema AVATAR también crearon una empresa privada, Discern Science, para comercializar su propia tecnología de detección de engaños. Lanzado el año pasado, Discern vende un quiosco de seis pies de altura similar al AVATAR original; según un artículo en el Financial Times, la compañía ha firmado un acuerdo de empresa conjunta con un socio en la industria de la aviación para vender la herramienta a los aeropuertos. El sistema medidas el movimiento facial y el énfasis de la voz para recopilar información del sujeto de manera invisible a una distancia conversacional, según los materiales promocionales. Al igual que Silent Talker y Converus, Discern afirma que la tecnología puede detectar de forma fiable alrededor del 85 % de los mentirosos y los que dicen la verdad, pero, una vez más, sus resultados nunca se han replicado de forma independiente. Al menos una de las entradas que utiliza el quiosco ha sido repetidamente mostrado ser - estar indigno de confianza . (Honts señaló además que casi no hay soporte para el análisis de movimientos faciales como AVATAR y Silent Talker; ha habido tantos errores para replicar allí, dijo).
Cualquiera que le diga que tiene un dispositivo que es un verdadero detector de mentiras es un charlatán.
Cuando se le preguntó sobre el respaldo científico del quiosco de la compañía, la investigadora de Discern, Judee Burgoon, enfatizó que simplemente hacen evaluaciones, no juicios vinculantes sobre la verdad y la falsedad. Sistemas como AVATAR y Silent Talker, dijo, no pueden medir directamente el engaño, y agregó que cualquiera que le diga que tiene un dispositivo que es un verdadero detector de mentiras es un charlatán. Sin embargo, en los materiales de marketing, Discern presenta la herramienta como un detector de mentiras confiable: el sitio web de la compañía reclamación (es que puede ayudar a descubrir planes ocultos y que se ha demostrado científicamente que sus algoritmos detectan el engaño de forma más rápida y fiable que cualquier otra alternativa.
La corte de apelaciones anuló la condena de Emmanuel Mervilus en 2011, lo liberó de prisión y ordenó un nuevo juicio; había cumplido más de tres años de su condena. En el segundo juicio, en 2013, el jurado deliberó durante solo 40 minutos antes de absolverlo. Si no fuera por el polígrafo y la creencia persistente en su precisión, es posible que nunca hubiera puesto un pie en una sala de audiencias por primera vez. Mervilus ha demandado a los agentes de policía que lo arrestaron e interrogaron originalmente, alegando que violaron su derecho al debido proceso al usar pruebas de polígrafo que sabían que eran defectuosas para asegurar una condena. El caso procederá a una conferencia de conciliación el 13 de marzo.
Incluso si el uso generalizado de Silent Talker y sistemas similares no conduce a más condenas de personas inocentes como Mervilus, aún podría ayudar a crear un nuevo tipo de shibboleth social, obligando a las personas a someterse a evaluaciones de credibilidad antes de alquilar un automóvil o salir. un préstamo.
En un tribunal, tienes que entregar pruebas materiales, como tu cabello y tu sangre, dice Wilde. Pero también tienes derecho a permanecer en silencio, derecho a no hablar en contra de ti mismo. Mervilus optó por someterse a la prueba del polígrafo asumiendo que, al igual que una prueba de ADN, demostraría que era inocente. Y aunque el dispositivo se equivocó, no fue la máquina en sí la que lo envió a prisión. El jurado creía que los resultados de las pruebas eran más creíbles que los hechos del caso.
La premisa fundamental de la detección de mentiras con IA es que las mentiras están ahí para ser detectadas con las herramientas adecuadas. Los psicólogos aún no saben qué tan válida es esa afirmación, pero mientras tanto, la creencia en su validez puede ser suficiente para descalificar a los solicitantes de empleo y préstamos que lo merecen, y para evitar que personas inocentes crucen las fronteras nacionales. La promesa de una ventana a la vida interior de los demás es demasiado tentadora para dejarla pasar, incluso si nadie puede estar seguro de cuán clara es esa ventana.
Es la promesa de leer la mente, dice Wilde. Puedes ver que es falso, pero eso es lo que están vendiendo.