Cómo nos sentimos acerca de los robots que se sienten

A medida que los robots se vuelvan lo suficientemente inteligentes como para detectar nuestros sentimientos y responder apropiadamente, podrían tener emociones propias. Pero eso no necesariamente los hará más como humanos. Por

• Salón Luisa página de archivo

24 de octubre de 2017

Delcan & Company + Jenue

Octavia, un robot humanoide diseñado para combatir incendios en barcos de la Armada, ha dominado una impresionante variedad de expresiones faciales.

Cuando está apagada, parece una muñeca de tamaño humano. Ella tiene una cara blanca y suave con una nariz chata. Sus cejas de plástico se asientan uniformemente sobre su frente como dos pequeñas canoas volcadas.

Esta historia fue parte de nuestra edición de noviembre de 2017

• Ver el resto del número
• Suscribir

Sin embargo, cuando está encendida, sus párpados se abren y comienza a mostrar emociones. Puede asentir con la cabeza en un gesto de comprensión; puede abrir mucho los ojos y levantar ambas cejas en una apariencia convincente de alarma; o puede inclinar la cabeza hacia un lado y torcer la boca, replicando la confusión humana. Con un efecto cómico, incluso puede arquear una ceja y entrecerrar el ojo opuesto mientras junta sus dedos de metal, como si planeara actos de venganza robótica.

Pero la gama de expresiones faciales de Octavia no es su rasgo más impresionante. Lo sorprendente es que su afecto emocional es una respuesta precisa a sus interacciones con los humanos. Se ve complacida, por ejemplo, cuando reconoce a uno de sus compañeros de equipo. Se sorprende cuando un compañero de equipo le da una orden que no esperaba. Se ve confundida si alguien dice algo que no entiende.

Puede mostrar un afecto emocional apropiado porque procesa grandes cantidades de información sobre su entorno. Puede ver, oír y tocar. Hace un balance visual de su entorno usando las dos cámaras integradas en sus ojos y analiza características como rasgos faciales, complexión y ropa. Puede detectar las voces de las personas usando cuatro micrófonos y un programa de reconocimiento de voz llamado Sphinx. Puede identificar 25 objetos diferentes al tacto, habiéndolos aprendido usando sus dedos para manipularlos físicamente en varias posiciones y formas posibles. En conjunto, estas habilidades perceptivas forman parte de su arquitectura cognitiva incorporada, que le permite, según sus creadores en el Centro de Investigación Aplicada en Inteligencia Artificial de la Marina, pensar y actuar de manera similar a las personas.

Esa es una afirmación emocionante, pero no necesariamente impactante. Estamos acostumbrados a la idea de que las máquinas actúan como personas. Los autómatas creados en la Francia del siglo XVIII podían bailar, mantener el compás y tocar la batería, el dulcémele o el piano. Cuando era un niño que crecía en la década de 1980, por alguna razón codiciaba una muñeca anunciada por la capacidad de orinar en sus pantalones.

El Octavia es capaz de transmitir expresiones, pero resulta que las expresiones faciales no son necesarias para que las personas se sientan apegadas emocionalmente a sus robots. Laboratorio de Investigación Naval de EE. UU.

Incluso estamos acostumbrados a la idea de que las máquinas piensen de manera que nos recuerden a los humanos. Muchas de nuestras marcas más apreciadas por mucho tiempo para la cognición humana (la capacidad de vencer a un gran maestro en el ajedrez, por ejemplo, o de componer un soneto métricamente preciso) han sido alcanzadas y superadas por las computadoras.

Las acciones de Octavia, sin embargo, la temerosa apertura de sus ojos, el confuso surco de sus cejas plásticas, parecen ir un paso más allá. Implican que además de pensar como nosotros pensamos, ella también siente emociones humanas.

Ese no es realmente el caso: el efecto emocional de Octavia, según Gregory Trafton, quien dirige la Sección de Sistemas Inteligentes en el centro de IA de la Armada, simplemente tiene la intención de demostrar el tipo de pensamiento que está haciendo y facilitar que las personas interactúen con ella. Pero no siempre es posible trazar una línea entre pensar y sentir. Como reconoce Trafton, está claro que los pensamientos y las emociones de las personas son diferentes pero se impactan entre sí. Y si, como él dice, las emociones influyen en la cognición y la cognición influye en la emoción, la capacidad de Octavia para pensar, razonar y percibir apunta a algunas de las preguntas más importantes que acompañarán el surgimiento de las máquinas inteligentes. ¿En qué momento las máquinas serán lo suficientemente inteligentes como para sentir algo? ¿Y cómo lo sabríamos realmente?

sentimientos personalizados

Octavia está programada con la teoría de la mente, lo que significa que puede anticipar los estados mentales de sus compañeros de equipo humanos. Ella entiende que las personas tienen creencias o intenciones potencialmente conflictivas. Cuando a Octavia se le da una orden que difiere de sus expectativas, realiza simulaciones para determinar qué podría estar pensando el compañero de equipo que dio la orden y por qué esa persona piensa que este objetivo inesperado es válido. Ella hace esto revisando sus propios modelos del mundo, pero alterándolos ligeramente, con la esperanza de encontrar uno que conduzca a la meta establecida. Cuando inclina la cabeza hacia un lado y frunce el ceño, es para indicar que está ejecutando estas simulaciones, tratando de comprender mejor las creencias de su compañero de equipo.

Todavía no sabemos todo lo que implica sentir emociones.

Octavia no está programada con modelos emocionales. Su teoría de la mente es un patrón cognitivo. Pero funciona muy parecido a la empatía, la más apreciada de todas las emociones humanas.

Otros fabricantes de robots eluden el tema de la inteligencia emocional de sus máquinas. SoftBank Robotics, por ejemplo, que vende Pepper, un robot humanoide agradable y simpático creado para servir como un compañero humano, afirma que Pepper puede percibir las emociones humanas y agrega que a Pepper le encanta interactuar contigo, Pepper quiere aprender más sobre tus gustos. tus hábitos, y simplemente quién eres. Pero aunque Pepper podría tener la capacidad de reconocer las emociones humanas, y aunque Pepper podría ser capaz de responder con sonrisas felices o expresiones de tristeza, nadie afirma que Pepper realmente se siente tales emociones.

¿Qué se necesitaría para que un creador de robots afirmara eso? Por un lado, todavía no sabemos todo lo que implica sentir emociones.

Cosas revisadas

• Cultura e interacción humano-robot en espacios militarizados: una historia de guerra

  Por Julie Carpintero
  Routledge, 2016

• Cómo se crean las emociones: la vida secreta del cerebro

  Por Lisa Feldman Barret
  Houghton Mifflin Harcourt, 2017

• La estrategia de sistemas autónomos y robóticos del ejército de EE. UU.

  marzo 2017

En los últimos años, las revoluciones en psicología y neurociencia han redefinido radicalmente el concepto mismo de emoción, haciéndolo aún más difícil de precisar y describir. Según científicos como la psicóloga Lisa Feldman Barrett, profesora de la Universidad Northeastern, cada vez es más claro que nuestras emociones varían mucho según la cultura en la que nos criamos. Incluso varían mucho dentro de un individuo en diferentes situaciones. De hecho, aunque compartimos los sentimientos generales que conforman lo que se conoce como afecto (placer, desagrado, excitación y calma) con la mayoría de los demás humanos y muchos otros animales, nuestras emociones más agudas y específicas varían más de lo que siguen normas particulares. El miedo, por ejemplo, es un concepto culturalmente aceptado, pero se manifiesta en nuestros cuerpos de innumerables formas. Se inspira en diferentes estímulos, se manifiesta de manera diferente en nuestro cerebro y se expresa de diferentes maneras en nuestros rostros. No existe un único centro o circuito del miedo en el cerebro, al igual que no existe una expresión facial de miedo fiable: todos procesamos y mostramos nuestro miedo de formas radicalmente diferentes, dependiendo de la situación, formas en las que, a través de las interacciones con otras personas, aprendemos a identificar o etiquetar como miedo.

Cuando hablamos de miedo, entonces, estamos hablando de un concepto general generalizado en lugar de algo que surge de una parte específica del cerebro. Como dice Barrett, construimos emociones en el acto a través de una interacción de sistemas corporales. Entonces, ¿cómo podemos esperar que los programadores modelen con precisión la emoción humana en los robots?

buenos soldados

También existen dilemas morales en torno a la programación de robots para que tengan emociones. Estos problemas están especialmente bien demostrados por los robots militares que, como Octavia, están diseñados para ser enviados a situaciones aterradoras, dolorosas o potencialmente letales en lugar de compañeros de equipo humanos menos prescindibles.

En una conferencia de 2017 patrocinada por la Iniciativa del Científico Loco del Ejército, algo alarmantemente titulada, el teniente general Kevin Mangum, subcomandante del Comando de Entrenamiento y Doctrina del Ejército, especificó que tales robots deberían ser y serán autónomos. A medida que observamos nuestro mundo cada vez más complejo, no hay duda de que la robótica, los sistemas autónomos y la inteligencia artificial desempeñarán un papel, dijo Mangum. La Estrategia de Sistemas Autónomos y Robóticos del Ejército de 2017 predice la integración total de los sistemas autónomos para 2040, reemplazando los robots de desactivación de bombas actuales y otras máquinas que son operadas remotamente por humanos.

Un entrenador civil muestra a los paracaidistas cómo configurar la pantalla para un robot de campo de batalla PackBot. Por inexpresivos que parezcan estos robots, los soldados en el campo desarrollan lazos con ellos, viéndolos como parte del equipo. Michael J. McLeod

Cuando estos robots pueden actuar y pensar por sí mismos, ¿deberían, como Octavia, ser programados con la apariencia de una emoción humana? ¿Deberían ser programados para realmente tener emoción humana? Si los enviamos a la batalla, ¿deberían no solo pensar sino sentir junto a sus compañeros humanos?

Por un lado, por supuesto que no: si estamos diseñando robots con el objetivo expreso de exponerlos al peligro, sería sádico darles la capacidad de sufrir terror, trauma o dolor.

Sin embargo, por otro lado, si la emoción afecta a la inteligencia y viceversa, ¿podríamos estar seguros de que un robot sin emociones sería un buen soldado? ¿Qué pasa si la falta de emoción conduce a decisiones estúpidas, riesgos innecesarios o retribución excesivamente cruel? ¿Podría un robot sin emociones decidir que la decisión inteligente sería cometer lo que un soldado humano sentiría como un crimen de guerra? ¿O un robot sin acceso al miedo o la ira tomaría mejores decisiones que un ser humano en la misma situación aterradora y enloquecedora?

Y luego está la posibilidad de que si la emoción y la inteligencia están indisolublemente unidas, no existe tal cosa como un robot inteligente sin emoción, en cuyo caso la cuestión de cuánta emoción debería tener un robot autónomo está, de alguna manera, fuera de control. del programador que se ocupa de la inteligencia.

Apegos emocionales

También está la cuestión de cómo estos robots podrían afectar a sus compañeros de equipo humanos.

Para 2010, el Ejército de los EE. UU. había comenzado a desplegar una flota de unos 3000 pequeños robots tácticos, en gran parte como respuesta al uso cada vez mayor de artefactos explosivos improvisados ​​en la guerra. En lugar de soldados humanos, estos robots recorren caminos expuestos, cuevas oscuras y entradas estrechas para detectar y desactivar IED impredecibles.

Los soldados informaron sentirse angustiados cuando compañeros de campo de batalla como el Talon, que se muestra aquí, son destruidos en el cumplimiento del deber. qinetiq

Esta flota está compuesta principalmente por PackBot de iRobot y Talon de QinetiQ North America, robots que no son particularmente avanzados. Se parecen un poco a WALL-E, sus cuerpos cuadrados de metal se balancean sobre bandas de rodadura de goma que les permiten hacer un buen trabajo al cruzar terreno rocoso, subir escaleras y avanzar por pasillos oscuros. Tienen brazos articulados equipados con cámaras de video para inspeccionar su entorno y garras para jugar con artefactos explosivos.

Son herramientas útiles, pero no son exactamente autónomas. Son operados de forma remota, como autos de juguete, por soldados que sostienen dispositivos que a veces están equipados con joysticks. Como ejemplo de IA, el PackBot no es mucho más avanzado que el producto más conocido de iRobot, el Roomba que aspira debajo de tu sillón.

Y, sin embargo, incluso ahora, a pesar de la naturaleza inexpresiva de estos robots, los soldados humanos desarrollan vínculos con ellos. Julie Carpenter demuestra en Cultura e Interacción Humano-Robot en Espacios Militarizados que estas relaciones son complicadas, tanto gratificantes como dolorosas.

Cuando Carpenter le pidió a un militar que describiera sus sentimientos acerca de un robot que había sido destruido, respondió:

Quiero decir, obviamente no fue... ni cerca de estar al mismo nivel que, como, ya sabes, un amigo tuyo herido o ver a un miembro eliminado o algo así. Pero todavía había una cierta pérdida, una sensación de pérdida por algo que le sucedió a uno de sus robots.

Otro militar comparó su robot con un perro mascota:

Quiero decir, te ocupaste de eso tan bien como lo hiciste con los miembros de tu equipo. Y se aseguró de que estuviera limpio y de que las baterías estuvieran siempre cargadas. Y si no lo estabas usando, estaba escondido de la mejor manera posible porque sabías que si algo le pasaba al robot, entonces era tu turno, y a nadie le gusta pensar eso.

Otro hombre explicó por qué su compañero de equipo le dio a su robot un nombre humano:

Hacia el final de nuestro recorrido, pasábamos más tiempo fuera del cable durmiendo en nuestros camiones que dentro. Dormíamos dentro de nuestras camionetas fuera del cable durante cinco o seis días a la semana, y había tres hombres en la camioneta, ya sabes, uno recostado en los asientos delanteros; el otro yace a través de la torreta. Y no podemos descargar elementos sensibles y dejarlos fuera del camión. Todo tiene que estar bajo llave, por lo que nuestro TALON estaba en el pasillo central de nuestra camioneta y nuestro joven lo llamó Danielle para tener una mujer con quien acurrucarse en la noche.

'Mi hermoso robot fue asesinado...' fue en realidad la declaración que le hice al líder de mi equipo.

Todos estos hombres enfatizan que los robots son herramientas, no criaturas vivientes con sentimientos. Aun así, dan a sus robots nombres humanos y los arropan de forma segura por la noche. Bromean sobre ese impulso, pero hay una disonancia ligeramente inquietante en los chistes. Los militares que entrevistó Carpenter parecen sentirse algo atrapados entre dos sentimientos: entienden lo absurdo de cuidar a un robot sin emociones que está diseñado para ser prescindible, pero sin embargo experimentan la tentación de preocuparse, al menos un poco.

Una vez que Carpenter publicó sus entrevistas iniciales, recibió más comunicación de hombres y mujeres en el ejército que habían desarrollado vínculos reales con sus robots. Un ex técnico en eliminación de artefactos explosivos escribió:

Como soy un técnico de EOD de ocho años y tres despliegues, puedo decirle que encontré su investigación extremadamente interesante. Puedo estar completamente de acuerdo con los otros técnicos que entrevistó al decir que los robots son herramientas y, como tales, los enviaré a cualquier situación, independientemente del posible peligro.

Sin embargo, durante una misión en Irak en 2006, perdí un robot al que había llamado Stacy 4 (en honor a mi esposa, que también es técnica de EOD). Era un robot excelente que nunca me dio ningún problema, siempre funcionando a la perfección. Stacy 4 estaba completamente destruido y solo pude recuperar piezas muy pequeñas del chasis. Inmediatamente después de la explosión que destruyó Stacy 4, todavía puedo recordar la sensación de ira, y mucha. Mi hermoso robot fue asesinado... fue en realidad la declaración que le hice al líder de mi equipo. Después de que se completó la misión y recuperé la mayor parte del robot que pude, lloré por su pérdida. Sentí como si hubiera perdido a un querido miembro de la familia. Llamé a mi esposa esa noche y también se lo conté. Sé que suena tonto, pero todavía odio pensar en ello. Sé que los robots que usamos son solo máquinas y volvería a tomar las mismas decisiones, incluso sabiendo el resultado.

Valoro la vida humana. Valoro las relaciones que tengo con personas reales. Pero puedo decirles que sí extraño a Stacy 4, era un buen robot.

Si estos son los tipos de testimonios que se pueden recopilar de los soldados que interactúan con máquinas sin rostro como PackBots y Talons, ¿qué escucharía de los soldados desplegados con robots como Octavia, que ven, oyen y tocan y pueden anticipar los estados de ánimo de sus compañeros humanos? ?

En conversaciones populares sobre la ética de dar sentimientos a los robots, tendemos a centrarnos en los efectos de dicha innovación tecnológica en los propios robots. Películas y programas de televisión de Cazarecompensas a mundo occidental atender el trauma que los humanos infligirían a los robots sintientes al usarlos para su entretenimiento. Pero también hay que considerar lo contrario: el trauma infligido a los humanos que se vinculan con los robots y luego los envían a ciertas muertes.

Historia relacionada

Historia relacionada Una tendencia emergente en inteligencia artificial es hacer que las computadoras detecten cómo nos sentimos y respondan en consecuencia. Incluso podrían ayudarnos a desarrollar más compasión unos por otros.

Lo que complica todo esto aún más es que si un robot como Octavia termina sintiendo emociones humanas, esos sentimientos no serán solo el resultado de la arquitectura cognitiva que se le ha dado para empezar. Si se parecen en algo a nuestras emociones, evolucionarán en el contexto de sus relaciones con sus compañeros de equipo, su lugar en el mundo que habita.

Si su vida robótica única, por ejemplo, se dedica a que sus compañeros humanos la envíen a los incendios, o si va sola por caminos desérticos llenos de artefactos explosivos, sus emociones serán diferentes de las experimentadas por un robot más protegido, o un robot más protegido. humano. Independientemente de las expresiones emocionales reconocibles que haga, si pasa su vida en situaciones inhumanas, es posible que sus emociones no sean reconociblemente humanas.

Louisa Hall, escritora de Nueva York, es autora de Hablar , una novela de 2015 sobre inteligencia artificial.

esconder