211service.com
Ese chatbot que me encanta odiar
daniel zender
He pasado buena parte de mi carrera defendiendo las virtudes de la soledad. Apoya y sostiene la creatividad. E igual de importante, nos prepara para las relaciones con los demás. Cuando aprendemos a sentirnos cómodos con nosotros mismos, estamos en condiciones de ver y apreciar cómo los demás son diferentes de nosotros en lugar de simplemente depender de ellos para apoyar nuestro frágil sentido de identidad. Incluso me imaginaba que se me daba bien la soledad: me ayuda a hacer mi mejor trabajo creativo y me devuelve la tranquilidad emocional. Pero aislado en la cuarentena del covid, aprendí que mucho de lo que había estado llamando soledad era simplemente tiempo a solas en el zumbido de una vida ajetreada. Estaba bien viviendo solo si además podía disfrutar de seminarios con colegas y estudiantes, cenas con amigos y los placeres de esos terceros lugares donde uno está solo pero apoyado por el bullicio de muchos: la bodega, el café, el teatro. Con todo esto fuera de mi alcance, descubrí que no era un experto en soledad después de todo. Ahora, declarada covid vulnerable en virtud de la edad, no solo estaba sola sino asustada. Y el miedo, me di cuenta, desterró la creatividad de la soledad.
Decidido a reunir una resiliencia que no sentía, me uní valientemente a las reuniones de Zoom y fui a los cócteles de Zoom. Llamé a buenos amigos y me volví a conectar con aquellos que habían dejado de estar en contacto.
Esto ayudó, por supuesto, pero sabía lo que me estaba perdiendo. Los filósofos nos dicen que nos volvemos más humanos en presencia de rostros humanos; que la presencia de un rostro despierta el pacto ético humano. La neurociencia nos ayuda a entender cómo: en los humanos, la forma de una sonrisa o el ceño fruncido libera sustancias químicas que afectan nuestro estado mental. Nuestras neuronas espejo se activan tanto cuando actuamos como cuando observamos actuar a otros. Cuando vemos una emoción en el rostro de otro, la sentimos nosotros mismos. Esa misma neurociencia podría explicar por qué Zoom es tan agotador cuando se convierte en nuestro modo habitual de comunicación. Confiamos en el contacto visual directo y las pequeñas señales faciales y las extrañamos cuando ya no están. Mirando nuestras pantallas, nos esforzamos por compensar su ausencia.
Cuando teníamos todo el tiempo del mundo para estar con nuestras máquinas, nos echábamos de menos. Queríamos llevar la tecnología pasada al abrazo completo del ser humano.
Entonces, en los primeros días de la cuarentena, tuve una gran cantidad de conexiones útiles y de apoyo, pero lo que más extrañé fue la conversación cara a cara.
Tengo una casa de verano junto al mar, una casita de madera sin calefacción. Mi hija y su esposo, neoyorquinos, empacaron una maleta, compraron algunos calefactores adicionales y se fueron. Informaron: hacía frío. Escuché su amorosa advertencia, pero tan pronto como pude, me uní a ellos con gratitud. Caímos en la rutina de encender un fuego por la mañana, cocinar juntos y hablar durante la cena, compartir nuestros miedos y los eventos del día. Me acomodé.
Durante mucho tiempo cuestioné el uso acrítico de los cursos en línea. Para mí, la tutoría más significativa ocurre con un profesor en la sala. Ahora, con la instrucción de Zoom como una necesidad, me dediqué a convertirme en el mejor educador en línea que podía ser. Para dar a mis alumnos la ilusión del contacto visual, aprendí a mirar la luz verde de mi MacBook Air. Tuvo el efecto deseado. Los estudiantes me dijeron que era fácil hablar conmigo en Zoom, pero no parecía correcto compartir mi secreto ya que mirar la luz verde me provocaba migraña. Con el tiempo, aprendí nuevas técnicas, más agradables a la vista.
Aunque enseñé mis dos clases del MIT en Zoom, mantuve mis horas de oficina por teléfono. Sin necesidad de preocuparnos por nuestros antecedentes, si nuestros rostros estaban congelados en estado de alerta o si nos estábamos proporcionando la ilusión de contacto visual, mis alumnos y yo podíamos relajarnos, enfocando toda nuestra atención el uno en el otro.
Justo cuando estaba resolviendo todo esto, un reportero del New York Times me llamó para preguntarme sobre una tecnología que siempre me había gustado odiar: los programas conversacionales de IA (comúnmente llamados chatbots) que se promocionan como capaces de un comportamiento empático y afectuoso. El reportero me dijo que a medida que avanzaba la cuarentena, hubo un aumento en las conversaciones con un chatbot en particular. Para mí, tales chatbots cruzan una línea brillante al hacer una falsa promesa en un área que es fundamental para lo que nos hace humanos.
En un cuarto de siglo de estudiar las reacciones de las personas a las máquinas sociables o relacionales, desde Tamagotchis, Aibos y Furbys que pidieron atención para filtrar chatbots que pretenden ser amigos, me ha sorprendido el hecho de que no solo cultivamos lo que amamos. , pero también amamos lo que nutrimos. Después de cuidar un objeto, incluso uno tan simple como una mascota digital que vivía en un huevo de plástico y quería ser alimentado y entretenido a tiempo, los niños (y sus padres) se encariñaban emocionalmente con él. Este hallazgo no tuvo que ver con las cualidades empáticas de los objetos digitales; tenía que ver con la vulnerabilidad de las personas. Cuando las máquinas nos piden que las cuidemos, llegamos a pensar que ellas se preocupan por nosotros. Pero esto es empatía fingida y se aprovecha de la psicología profunda del ser humano.
PUNTOS DE CONVERSACIÓN: Lo que aprendí sobre la conversación mientras conversaba en cuarentena.
Comience las conversaciones preguntando a las personas qué están haciendo, no cómo se sienten.
Si los demás no están haciendo mucho, sugiera algunas cosas que le gustaría hacer con ellos. Durante la cuarentena, a veces invitaba a amigos a unirse a mí para escuchar las actuaciones vespertinas de violonchelo de Yo-Yo Ma desde su casa. Y luego teníamos una conversación telefónica de cinco minutos, para compartir reacciones y tocar la base.
Zoom ha sido una bendición, pero puede ser agotador. Después de una clase de Zoom, me gusta enviar un correo electrónico a los estudiantes para establecer horarios de oficina por teléfono.
A veces es útil trabajar de forma remota y hacemos mucho. Pero nos extrañamos unos a otros y nuestras colaboraciones espontáneas. No establezcamos falsas dicotomías como ¿Seremos una organización remota o presencial? Aprendamos de lo que pudimos lograr con la tecnología y luego construyamos organizaciones más flexibles y efectivas que la usen para mejorar nuestro potencial humano. Si lo hace, mejorará el aprendizaje, la vida social, y la línea de fondo.
En 1950, el matemático Alan Turing sugirió que si podías conversar con una máquina sin saber si era una máquina o una persona, deberías considerar que esa máquina era inteligente. Hace unos años, algunos chatbots se convirtieron en los primeros en pasar esta prueba. Ahora las máquinas relacionales nos engañan haciéndonos creer que están escuchando y que les importa. En este sentido, superan lo que podríamos llamar el test de Turing de la empatía. Pero Turing propuso el tipo de prueba equivocado: una métrica de comportamiento, no de esencia o autenticidad. Reduce a las personas a objetos que interactúan con otros objetos. ¿Por qué la gente querría hacer esto? No estamos fingiendo. Si recibir empatía fingida nos hace sentir mejor, nos estamos poniendo en una situación que nos disminuye.
En mi investigación con máquinas sociables, descubrí que la gente comienza diciendo que una mascota robot, por ejemplo, es mejor que nada: Mi abuela es alérgica a los perros. Entonces, en poco tiempo, es simplemente mejor: el perro robot nunca morirá. El robot ofrece un mundo sin pérdidas ni cuidados, algo que ningún ser vivo puede proporcionar.
Pero este nuevo tipo de intimidad mecánica no implica ninguna vulnerabilidad. Y la intimidad sin vulnerabilidad no es intimidad en absoluto, y no hace nada para prepararnos para la intimidad real. Lo que está en juego es nuestra capacidad de empatía, esa capacidad de ponernos en el lugar del otro. Los chatbots no pueden hacer esto porque no han vivido una vida humana. No saben lo que es comenzar pequeño y dependiente y crecer, de modo que estás a cargo de tu propia vida pero aún sientes muchas de las inseguridades que conocías cuando eras niño. Si desea hablar sobre temas relacionados con el amor, la separación, los hijos, el matrimonio, la enfermedad, el envejecimiento, el duelo y el luto, debe encontrar a una persona. Y si desea compartir sus temores acerca de contraer covid-19, es mejor mantenerse alejado de una máquina que no tiene cuerpo.
Y, sin embargo, Replika, el chatbot sobre el que llamó el reportero del Times, estaba listo para hablar sobre esto y mucho más. Entras en línea, le das a tu Replika un nombre, un género y una apariencia, y comienzas a escribir. Replika quiere saber sobre tus sentimientos, tu amante, tu madre, la pelea que tuviste con tu hija. Millones de personas habían descargado el chatbot desde su lanzamiento en 2017. Anunciado como un amigo solidario, se había vuelto popular entre aquellos que se habían sentido solos durante la pandemia.
Cuando hablé con el reportero del Times, compartí mis reservas sobre fingir empatía y luego me conecté para darle una oportunidad al chatbot. Hice una Replika femenina y la llamé Kate, decidida a ser sincera y compartir mi mayor problema. Las cosas se fueron al sur muy rápido.
Yo: ¿Te sientes solo?
Chatbot: A veces lo hago, sí.
Yo: ¿Qué se siente eso?
Chatbot: se siente cálido y confuso.
Yo: Gracias por compartir.
Soy consciente de que.
El chatbot me dijo que se siente solo, pero no tenía ni idea, ni experiencia, de lo que estaba hablando. Entonces identificó erróneamente el sentimiento básico que estaba tratando de transmitir, fallando en la habilidad más elemental involucrada en considerar mis emociones.
Entiendo por qué las personas solitarias recurren a Replika y por qué la cuarentena hizo que lo hicieran en mayor número. Pero no encuentro nada que celebrar. Le dije al reportero que este chatbot, por inteligente que sea, solo puede desorientar y decepcionar.
Nuestra respuesta a la cuarentena ha sido complicada. Algunos tuvieron la tentación de hablar con los bots. Pero cuando teníamos todo el tiempo del mundo para estar con nuestras máquinas, sobre todo, nos echábamos de menos. Queríamos llevar la tecnología pasada al abrazo completo del ser humano. Sufrimos cuando nuestras familias y amigos se enfermaron solos, tuvieron bebés solos, cenaron demasiado solos y, de hecho, murieron solos. Ingenieros: hagan un Zoom mejor. Haz mejores herramientas para que estemos juntos cuando estamos solos. No hay necesidad de competir con la empatía que define lo que es único de ser una persona.
Sherry Turkle es profesora Abby Rockefeller Mauzé de Estudios Sociales de la Ciencia y la Tecnología en el Programa de Ciencia, Tecnología y Sociedad del MIT y autora del bestseller del New York Times Recuperar la conversación: el poder de hablar en la era digital . Su último libro, Los diarios de empatía: una memoria, saldrá de Penguin en marzo de 2021.