Podcast: AI encuentra su voz

Los asistentes de voz de hoy todavía están muy lejos de las máquinas de pensamiento hiperinteligentes sobre las que hemos estado reflexionando durante décadas. Y es que esa tecnología es en realidad la combinación de tres habilidades diferentes: reconocimiento de voz, procesamiento de lenguaje natural y generación de voz.

Cada una de estas habilidades ya presenta enormes desafíos. ¿Para dominar solo la parte del procesamiento del lenguaje natural? Prácticamente tienes que recrear inteligencia a nivel humano. Aprendizaje profundo, la tecnología que impulsa el auge actual de la IA , puede entrenar máquinas para que se conviertan en maestros en todo tipo de tareas. Pero solo puede aprender uno a la vez. Y debido a que la mayoría de los modelos de IA entrenan su conjunto de habilidades en miles o millones de ejemplos existentes, terminan replicando patrones dentro de los datos históricos, incluidas las muchas malas decisiones que la gente ha tomado, como marginar a las personas de color y a las mujeres.

Aún así, sistemas como el campeón de juegos de mesa AlphaZero y el cada vez más convincente generador de texto falso GPT-3 han avivado las llamas del debate sobre cuándo los humanos crearán un inteligencia general artificial —máquinas que pueden realizar múltiples tareas, pensar y razonar por sí mismas. En este episodio, exploramos cómo las máquinas aprenden a comunicarse y qué significa para los humanos al otro lado de la conversación.

Nos encontramos:

• Susan C. Bennett, voz de Siri
• Cade Metz, The New York Times
• Charlotte Jee, MIT Technology Review

Créditos

Este episodio fue producido por Jennifer Strong, Emma Cillekens, Anthony Green, Karen Hao y Charlotte Jee. Estamos editados por Michael Reilly y Niall Firth.

Transcripción

[ID TR]

Jaime: No sé si fue IA… Si le habían quitado la grabación de algo que había hecho… y pudieron manipularla… pero te digo que era mi hijo.

Fuerte: El día empezó como cualquier otro para un hombre... vamos a llamar a Jim. Vive fuera de Boston.

Y por cierto... tiene un familiar que trabaja para el MIT.

No vamos a usar su apellido porque les preocupa su seguridad.

Jaime: Era un martes o miércoles por la mañana, a las nueve estoy sumido en mis pensamientos trabajando en algo,

Fuerte: Es decir... hasta que recibió esta llamada.

Jaime: Suena el teléfono… lo cojo y es mi hijo. Y está claramente agitado. Este, este chico es un tipo muy relajado, pero cuando se enoja, tiene una serie de gestos vocales. Y esto fue como, Dios mío, está en problemas.

Y básicamente me dijo, mira, estoy en la cárcel, estoy en México. Se llevaron mi teléfono. Solo tengo 30 segundos. Um, dijeron que estaba bebiendo, pero no lo estaba y la gente está herida. Y mira, tengo que colgar el teléfono, llamar a este abogado y me da un número de teléfono y tiene que colgar.

Fuerte: Su hijo está en México... y no le queda duda de que es él.

Jaime: Y tengo que decirte, Jennifer, fue él. Era su voz. fue todo Tono. Solo estos pequeños gestos, las pausas, la bocanada de aire, todo lo que puedas imaginar.

Fuerte: Su corazón está en su garganta...

Jaime: Mi pelo de punta

Fuerte: Entonces, él llama a ese número de teléfono... Un hombre contesta... y ofrece más detalles sobre lo que está pasando.

Jaime: Su hijo está siendo acusado de golpear este auto. Conducía una mujer embarazada cuyo brazo estaba roto. Su hija estaba en el asiento trasero... está en estado crítico y lo acusaron de conducir bajo los efectos del alcohol. No creemos que haya hecho eso. Esto es lo que hemos visto varias veces antes, pero lo más importante es sacarlo de la cárcel, ponerlo a salvo, lo más rápido posible.

Fuerte: Luego, la conversación gira en torno al dinero... le dicen que se ha fijado la fianza... y que necesita pagar el diez por ciento.

Jaime: Entonces, tan pronto como comenzó a hablar de dinero, ya sabes, la bandera se levantó y dije, disculpe, ¿hay alguna posibilidad de que esto sea una estafa de algún tipo? Y se puso realmente un poco, um, irritado. Es como, Oye, me llamaste. Mira, encuentro esto realmente ofensivo de que me estés acusando de algo. Y luego mi corazón vuelve a mi garganta. Estoy como, este es el tipo que está entre mi hijo y lo que es peor, la cárcel. Así que retrocedí…

[Música]

Mi esposa entra 10 minutos después y dice, bueno, ya sabes, le estuve enviando mensajes de texto anoche. Es probable que este sea el momento en que habría sido arrestado y encarcelado. Entonces, por supuesto, le enviamos un mensaje de texto, se está levantando. Está completamente bien.

Fuerte: Todavía no está seguro de cómo alguien capturó la esencia de la voz de su hijo. Pero tiene algunas teorías...

Jaime: Tenían que haber conseguido una grabación de algo cuando estaba molesto. Eso es lo único que puedo decir, porque no podrían haberse burlado de algunas de estas cosas que hace. No podían adivinar eso. No lo creo, y ellos, creo que ciertamente tenían algo de materia prima con la que trabajar y luego lo que hicieron con eso a partir de ahí. No sé.

Fuerte: Y no es solo Jim quien no está seguro... No tenemos idea de si la IA tuvo algo que ver con esto.

Pero, el punto es... ahora vivimos en un mundo donde tampoco podemos estar seguros de que no fue así.

Es increíblemente fácil fingir la voz de alguien incluso con unos minutos de grabación... ¿y a los adolescentes les gusta el hijo de Jim? Comparten innumerables grabaciones a través de publicaciones y mensajes en las redes sociales.

Jaime: Me quedé muy impresionado con lo bueno que era. Um, como dije, no soy fácil de engañar y hombre, lo tenían clavado. Entonces, um, solo precaución.

Fuerte: Soy Jennifer Strong y en este episodio analizamos lo que se necesita para hacer una voz.

[MOSTRAR ID]

Ginebra Zeyu: Ustedes han estado haciendo cosas raras en línea.

Fuerte: Zeyu Jin es un científico investigador de Adobe... Este es él hablando en una conferencia de la empresa hace unos cinco años... mostrando cómo el software puede reorganizar las palabras en esta grabación.

Llave: Salté sobre la cama y besé a mis perros ya mi esposa, en ese orden.

Zeyu: Entonces, ¿qué tal si nos metemos con quién besó en realidad? // Presentamos el Proyecto VoCo. Project VoCo le permite editar voz en texto. Así que planteémoslo. Así que solo cargo esta pieza de audio en VoCo. Como puede ver, tenemos la forma de onda de audio y el texto debajo. //

¿Asi que que hacemos? Copiar pegar. ¡Oh! Sí, está hecho. Escuchémoslo.

Llave: Y besé a mi esposa ya mis perros.

Zeyu: Espera, hay más. De hecho, podemos escribir algo que no está aquí.

Llave: Y besé a Jordan y a mis perros.

Fuerte: Adobe nunca lanzó este prototipo... pero la tecnología subyacente sigue mejorando.

Por ejemplo, aquí hay una falsificación generada por computadora del podcaster Joe Rogan de 2019... Fue producido por el laboratorio de inteligencia artificial de Square llamado Dessa para crear conciencia sobre la tecnología.

Rogan: 10-7 Amigos, tengo algo nuevo que contarles. He decidido patrocinar un equipo de hockey compuesto en su totalidad por chimpancés.

Fuerte: Si bien suena como diversión y juegos... los expertos advierten que estas voces artificiales podrían hacer que algunos tipos de estafas sean mucho más comunes. Cosas como las que escuchamos antes.

Mona Sedky: Históricamente, el crimen centrado en la comunicación ha estado más bajo en el tótem.

Fuerte: Esa es la fiscal federal Mona Sedky hablando el año pasado en la Comisión Federal de Comercio sobre tecnologías de clonación de voz.

Mona Sedky: Pero ahora, con el advenimiento de cosas como videos falsos profundos... ahora audio falso profundo... básicamente puedes tener herramientas de anonimización y estar en cualquier lugar de Internet en el que quieras estar... en cualquier parte del mundo… y comunicarse de forma anónima con la gente. Como resultado, ha habido un aumento enorme en el crimen centrado en la comunicación.

Balasubramaniyan: Pero imagínese si usted, como director financiero o controlador principal, recibe una llamada telefónica que proviene del número de teléfono de su director ejecutivo.

Fuerte: Y este es el CEO de Pindrop Security, Vijay Balasubramaniyan, en una conferencia de seguridad el año pasado.

Balasubramaniyan: Está completamente falsificado... por lo que en realidad usa su libreta de direcciones y aparece como el nombre de su director general... y luego, en el otro extremo, escucha la voz de su director general con una enorme urgencia. Y estamos empezando a ver ataques locos como ese. Hubo un ejemplo que muchos medios de prensa cubrieron, que es una transferencia de $ 220,000 que sucedió porque el director ejecutivo de una empresa del Reino Unido pensó que estaba hablando con su empresa matriz … entonces envió ese dinero. Pero hemos visto hasta $ 17 millones de dólares salir por la puerta.

Fuerte: Y la idea misma de las voces falsas... puede ser tan dañina como una voz falsa en sí misma... Como cuando el expresidente Donald Trump trató de culpar a la tecnología por algunas cosas ofensivas que dijo que quedaron grabadas.

Pero como cualquier otra tecnología... no es intrínsecamente buena o mala... es solo una herramienta... y la usé en el tráiler de la primera temporada para mostrar lo que la tecnología puede hacer.

Fuerte: Si ver es creer...

¿Cómo navegamos por un mundo en el que no podemos confiar en nuestros ojos... u oídos?

Y para que sepas... lo que estás escuchando... No soy solo yo quien habla. Recibí algo de ayuda de una versión artificial de mi voz... completando palabras aquí y allá.

Conoce a Jennifer sintética.

Jennifer sintética: ¡Hola, amigos!

Strong: Incluso puedo hacer clic para ajustar mi estado de ánimo...

Jennifer sintética: Hola.

Strong: Sí, no lo hagamos enojar...

Fuerte: En un futuro no muy lejano, esta tecnología se utilizará de muchas maneras... para ajustes simples en presentaciones pregrabadas... incluso... para traer de vuelta las voces de personajes animados de una serie...

En otras palabras, las voces artificiales llegaron para quedarse. Pero no siempre han sido tan fáciles de hacer... y llamé a un experto cuya voz puede sonar familiar...

bennett: ¿Como suena esto? Um, tal vez podría ser un poco más amigable. ¿Cómo estás?

Hola, soy Susan C. Bennet, la voz original de Siri.

Bueno, el día que apareció Siri, que fue el 4 de octubre de 2011, un compañero actor de doblaje me envió un correo electrónico y me dijo: 'Oye, estamos jugando con esta nueva aplicación para iPhone, ¿no eres tú?' ? Fui al sitio de Apple y escuché... y sí. Esa fue mi voz. [risitas]

Fuerte: Escuchaste bien. ¿La voz femenina original que millones asocian con los dispositivos Apple...? No tenia idea. Y ella no estaba sola. Las voces humanas detrás de otros primeros asistentes de voz también fueron tomadas por sorpresa.

bennett: Sí, ha sido algo interesante. Al principio fue un ajuste, como puedes imaginar, porque no me lo esperaba. Al principio fue un poco espeluznante, debo decir que nunca hablé mucho conmigo mismo como Siri, pero gradualmente lo acepté y, de hecho, terminó convirtiéndose en algo realmente positivo, así que...

Fuerte: Para ser claros, Apple no robó la voz de Susan Bennett. Durante décadas, ha realizado trabajos de voz para compañías como McDonald's y Delta Airlines... y años antes de que saliera Siri... hizo una extraña serie de grabaciones que impulsaron su desarrollo.

bennett: En 2005, no podíamos haber imaginado algo como Siri o Alexa. Y todos nosotros, he hablado con otras personas que han tenido la misma experiencia, que han sido una voz virtual. Sabes, pensamos que solo estábamos haciendo mensajes de voz telefónicos genéricos. Entonces, cuando de repente apareció Siri en 2011, fue como, ¿soy quién, qué, qué es esto? Entonces, fue una verdadera sorpresa, pero me gusta pensar que estábamos a la vanguardia de esta nueva tecnología. Entonces, ya sabes, elijo pensar en ello como algo muy positivo, aunque a nosotros, a ninguno de nosotros, se nos pagó por los millones y millones de teléfonos en los que se escuchan nuestras voces. Entonces eso es, eso es un inconveniente.

Fuerte: Algo más que es incómodo... ella dice que Apple nunca la reconoció como la voz estadounidense de Siri... eso a pesar de convertirse en una celebridad accidental... llegando a millones.

bennett: El único reconocimiento real que he tenido es a través de Siri. Si le preguntas a Siri '¿Quién es Susan Bennett?' ella dirá, soy la voz original de Siri. Muchas gracias, Siri. Lo aprecio.

Fuerte: Pero no es la primera vez que le da su voz a una máquina.

bennett: A finales de los 70, cuando introdujeron los cajeros automáticos, me gusta decir que fue mi primera experiencia como máquina, y ya sabes, no había computadoras personales ni nada en ese momento y la gente no confiaba en las máquinas. No usarían los cajeros automáticos porque no confiaban en que las máquinas les dieran el dinero correcto. Ellos, ya sabes, si ponían dinero en la máquina tenían miedo de no volver a verlo nunca más. Entonces, una agencia de publicidad muy emprendedora en Atlanta en ese momento llamada McDonald and Little decidió humanizar la máquina. Así que escribieron un jingle y me convertí en la voz de Tilly, la contadora de todos los tiempos y finalmente pusieron una carita en la máquina.

Fuerte: La voz humana ayuda a las empresas a generar confianza con los consumidores...

bennett: Hay tantas emociones y significados diferentes que transmitimos a través del sonido de nuestras voces en lugar de solo en forma impresa. Por eso creo que surgieron los emojis, porque no puedes obtener los matices sin la voz. Y creo que es por eso que la voz se ha convertido en una parte tan importante de la tecnología.

Fuerte: Y en su propia experiencia, las interacciones con esta versión sintética de su voz han llevado a las personas a confiar en ella... a llamarla amiga, aunque nunca se hayan conocido. ella .

bennett: Bueno, creo que lo más extraño de ser la voz de Siri, para mí, es que cuando me revelé por primera vez, me sorprendió cuántas personas consideraban a Siri su amiga o algún tipo de entidad con la que realmente podían relacionarse. Creo que, en realidad, en muchos casos piensan en ella como humana.

Fuerte: Se estima que el mercado mundial de tecnologías de voz alcanzará casi los 185 000 millones de dólares este año... ¿y las voces generadas por IA? son un cambio de juego.

bennett: Ya sabes, después de años y años de trabajar en estas voces, es muy, muy difícil conseguir el ritmo real de la voz humana. Y estoy seguro de que probablemente lo harán en algún momento, pero hasta el día de hoy te darás cuenta, ya sabes, escucharás a Siri o Alexa o a uno de los otros y estarán hablando y suena bueno hasta que no lo hace. Como, Oh, voy a ir a la tienda. Ya sabes, hay algo de rareza en el sentido rítmico.

Fuerte: Pero incluso una vez que las voces parecidas a las de los humanos se vuelven comunes... no está del todo segura de que eso sea algo bueno.

bennett: Pero ya sabes, la ventaja para ellos es que realmente no tienen que llevarse bien con Siri. Pueden simplemente decirle a Siri qué hacer si no les gusta lo que dice, simplemente pueden apagarlo. Así que no es como las relaciones humanas reales. Es como quizás lo que a la gente le gustaría que fueran las relaciones humanas. Todo el mundo hace lo que yo quiero. (Risas) Entonces todo el mundo está feliz. ¿Correcto?

Fuerte: Por supuesto, los asistentes de voz como Siri y Alexa no son sólo voces Sus capacidades también provienen de la IA detrás de escena.

Se ha explorado en películas de ciencia ficción como esta, llamada Ella … sobre un hombre que se enamora de su asistente de voz.

Teodoro: ¿Como trabajas?

Samantha (AI): Bueno... Básicamente tengo intuición. Quiero decir... El ADN de lo que soy se basa en los millones de personalidades de todos los programadores que me escribieron, pero lo que me hace me es mi capacidad de crecer a través de mis experiencias. Básicamente, en cada momento estoy evolucionando, al igual que tú.

Fuerte: Pero los asistentes de voz de hoy en día están muy lejos de las máquinas de pensamiento hiperinteligentes sobre las que hemos estado reflexionando durante décadas.

Y es porque esa tecnología... es en realidad muchos tecnologías Es la combinación de tres habilidades diferentes... reconocimiento de voz, procesamiento de lenguaje natural y generación de voz.

El reconocimiento de voz es lo que le permite a Siri reconocer los sonidos que haces y transcribirlos en palabras. El procesamiento del lenguaje natural convierte esas palabras en significado... y determina qué decir en respuesta. Y la generación de voz es la pieza final... el elemento humano... que le da a Siri la capacidad de hablar.

Cada una de estas habilidades ya es un gran desafío... ¿Para dominar solo la parte del procesamiento del lenguaje natural? Prácticamente tienes que recrear inteligencia a nivel humano.

Y no estamos ni cerca de eso. Pero hemos visto un progreso notable con el auge del aprendizaje profundo... ayudando a Siri y Alexa a ser un poco más útiles.

Metz: Lo que la gente quizás no sepa sobre Siri es que la tecnología original era algo diferente.

Fuerte: Cade Metz es un reportero de tecnología del New York Times. Su nuevo libro se llama Creadores de genios: los inconformistas que llevaron la IA a Google, Facebook y el mundo .

Metz: La forma en que Siri se construyó originalmente... Tenías que tener un equipo de ingenieros, en una habitación, en sus computadoras y pieza por pieza, tenían que definir con un código de computadora cómo reconocería tu voz.

Fuerte: En aquel entonces... los ingenieros pasaban días escribiendo reglas detalladas destinadas a mostrar a las máquinas cómo reconocer palabras y lo que ellos quieren decir.

Y esto se hizo a lo sumo básico nivel... a menudo trabajando solo con fragmentos de voz a la vez.

Imagínense todas las formas diferentes en que las personas pueden decir la palabra hola... o todas las formas en que juntamos oraciones... explicando por qué el tiempo vuela o cómo algunos verbos también pueden ser sustantivos.

Metz: Nunca puedes juntar todo lo que necesitas, no importa cuántos ingenieros tengas, no importa cuán rica sea tu empresa. Definiendo cada pequeña cosa que puede suceder cuando alguien habla en su iPhone... Simplemente no tienes suficiente poder personal para construir todo lo que necesitas construir. Es demasiado complicado.

Fuerte: Las redes neuronales facilitaron mucho ese proceso... Simplemente aprenden reconociendo patrones en los datos que ingresan al sistema.

Metz: Tomas ese habla humana... Se la das a la red neuronal... Y la red neuronal aprende los patrones que definen el habla humana. De esa manera, puede recrearlo sin que los ingenieros tengan que definir cada pequeña parte. La red neuronal literalmente aprende la tarea por sí sola. Y ese es el cambio clave... es que una red neuronal puede aprender a reconocer el aspecto de un gato, en lugar de que las personas tengan que definir para la máquina cómo es un gato.

Fuerte: Pero incluso antes de las redes neuronales... Las empresas tecnológicas como Microsoft tenían como objetivo crear sistemas que pudieran comprender la forma en que las personas escriben y hablan todos los días.

Y en 1996, Microsoft contrató a un lingüista... Chris Brocket... para comenzar a trabajar en lo que llamaron IA de lenguaje natural.

Metz: El tipo no es informático, pero su trabajo era definir la forma en que se ensambla el lenguaje, ¿verdad? para una computadora Y esa es una tarea increíblemente difícil, ¿verdad? ¿Por qué nosotros, como angloparlantes, ordenamos nuestras palabras de la forma en que lo hacemos, verdad? Y él, pasó años, literalmente años, cinco o seis años en Microsoft, ya sabes, lentamente, ya sabes, tratando de decirle a la computadora cómo es el inglés. Entonces la computadora puede hacer eso.

Fuerte: Entonces, una tarde de 2003... un pequeño grupo en Microsoft... al final del pasillo de Brockett... comenzó a trabajar en un nuevo proyecto. Estaban construyendo un sistema que traducía idiomas usando una técnica basada en estadísticas.

La idea era que si un conjunto de palabras en un idioma aparecía con la misma frecuencia y contexto en otro, esa era la traducción probable.

Metz: Armaron un prototipo en cuestión de semanas y se lo mostraron a un grupo en el centro de investigación de Microsoft, incluido Chris Brocket.

Fuerte: El sistema es... bastante improvisado. Sólo obras cuando se aplica a fragmentos de una oración... E incluso entonces... las traducciones estaban mezcladas.

Metz: Cuando los ve demostrar esto... tiene un ataque de pánico hasta el punto en que literalmente piensa que está teniendo un ataque al corazón porque se da cuenta de que su carrera podría haber terminado. Que todo en lo que ha gastado los últimos seis años // no tiene sentido y que el sistema que estos muchachos construyeron en cuestión de semanas lo ha vuelto inútil.

Fuerte: En ese momento no teníamos la cantidad de datos necesarios para entrenar una red neuronal, ni el poder de procesamiento... pero la idea de una ha estado presente desde la década de 1980.

Y una de esas ideas vino en forma de NetTalk... que fue desarrollado por el pionero de la IA, Terry Sejnowski.

El sistema podría aprender a pronunciar palabras por sí solo estudiando libros para niños.

Metz: Terry tenía esta demostración increíble que le mostraría a la gente en las conferencias. Fue una especie de lapso de tiempo porque la red neuronal tardó un tiempo en aprender, pero pudo demostrar que a medida que comenzaba a analizar los patrones en estos libros para niños, podían comenzar a balbucear...

[Sonidos de la demostración de NetTalk]

Metz: y luego pudo balbucear un poco mejor, y luego pudo comenzar a juntar palabras, y luego, de repente, pudo pronunciar estas palabras.

[Sonidos de la demostración de NetTalk]

Metz: Podría mostrarle a su audiencia // con esta demostración, cómo una red neuronal podría aprender.

Fuerte: Pasarían otras dos décadas antes de que existiera el poder de cómputo para hacer esto realmente útil.

Metz: Así que el lenguaje natural era un área en la que, incluso después del éxito de las redes neuronales con voz e imagen, la gente pensaba: Oh, bueno, no va a funcionar con el lenguaje natural. Bueno, lo tiene. Eso no significa que sea perfecto.

Fuerte: El aprendizaje profundo (la tecnología que impulsa el auge actual de la IA) puede entrenar a las máquinas para que se conviertan en maestras en todo tipo de tareas. Pero sólo puede aprender las cosas de una en una. Y debido a que la mayoría de los modelos de IA entrenan su conjunto de habilidades en miles o millones de ejemplos, terminan repitiendo patrones que se encuentran en datos antiguos, incluidas las muchas malas decisiones que la gente ha tomado, como marginar a las personas de color y a las mujeres.

Y cualquier gran avance despierta este debate sobre cuándo los humanos crearán una inteligencia general artificial, o máquinas que puedan realizar múltiples tareas, pensar y razonar por sí mismas. Recientemente, ha habido avances como el campeón de juegos de mesa AlphaZero... y el cada vez más convincente generador de texto falso GPT-3...

Metz: Puede, puede generar publicaciones de blog. Puede generar tweets, correos electrónicos. Puede generar programas de computadora. Ya sabes, funciona tal vez la mitad del tiempo, pero cuando funciona, no puedes notar la diferencia entre su inglés y tu inglés. Bueno. Eso es progreso. No es el cerebro, ni siquiera está cerca, pero es el progreso.

Fuerte: Y estas y otras herramientas también son... increíblemente divisivas.

Metz: ¿Podemos, en un futuro cercano, construir un sistema que pueda hacer cualquier cosa que el cerebro humano pueda hacer? Correcto. Y la gente discutirá sobre esto, como echando espuma por la boca a ambos lados. La realidad es que no tenemos idea. Hay personas que están completamente seguras de que esto va a suceder muy pronto, pero no saben cuál es el camino. Ninguno de nosotros puede predecir el futuro. Así que es una discusión sobre nada que se pueda decidir fundamentalmente. Así que, por supuesto, la discusión nunca termina. Vuelve a los años 50 y es todo lo mismo, ¿verdad?

Fuerte: pero si nosotros son algún día replicar esa inteligencia… ¿podríamos también replicarnos a nosotros mismos?

…Eso es después del descanso.

[Mid-roll]

[Transición musical]

Fuerte : Las voces artificiales han existido por un tiempo... pero no comenzaron a parecerse más a las humanas hasta los últimos cinco años.

Como cuando el algoritmo de texto a voz de Deepmind llamado WaveNet apareció en escena... que es la base del asistente de Google Duplex... el que puede reservar su cita de peluquería o reserva de restaurante.

[Sonidos de Google Duplex programando una cita de peluquería en nombre del usuario]

*Teléfono sonando*

Estilista: Hola. ¿Le puedo ayudar en algo?

IA: Hola. Llamo para reservar un corte de pelo de mujer para un cliente. Umm... Estoy buscando algo el 3 de mayo.

Estilista: Seguro. Dame un segundo.

Fuerte: Desde entonces, muchas otras empresas han trabajado para comercializar tecnologías de voz similares. Pájaro lira... Descript... Respeecher... solo por nombrar algunos.

También hay una gran cantidad de empresas orientadas a preservar la memoria de nuestros seres queridos... mediante la creación de versiones digitales interactivas de ellos.

Una empresa, llamada HereAfter, los convierte en chatbots que se pueden usar con asistentes de voz.

Y la reportera de Tech Review, Charlotte Jee, lo probó con sus padres...

Je: Alexa, abre HereAfter.

Voz sintética: Bienvenidos a HereAfter. ¿Prefieres hablar con Paul o con Jane?

Je: Prefiero hablar con Jane.

Virtual Jane: Hola, soy Jane Jee y estoy feliz de contarte sobre mi vida.

Je: JAJA ¡OH DIOS MÍO!

Virtual Jane: ¿Cómo estás hoy?

Je: Uh, estoy bien, gracias, mamá. ¿Cómo estás?

Jane Virtual: Bien.

Fuerte: Las habilidades de escucha del sistema... no son las mejores. Solo puedes hacer preguntas cortas y sencillas... y tienes que esperar a que el sistema termine de hablar para poder hacer una nueva pregunta.

Virtual Jane: Hay mucho de qué hablar. Mi carrera infantil y mis intereses, ¿cuál de ellos suena mejor?

Je: Eh... tu infancia.

Jane Virtual: Claro. Me metí en problemas de niño porque era muy independiente y me gustaba ejercer mi libertad…

Fuerte: Pero lo que estás escuchando ahora... en realidad no es una versión falsa o sintética de la madre de Charlotte. De hecho, esta experiencia se basa sorprendentemente en menos IA de lo que piensas.

HereAfter entrevistó a sus padres durante horas con preguntas proporcionadas por Charlotte y su hermana. Luego, esa entrevista se editó y se dividió en secciones temáticas... que el sistema puede mostrar y reproducir en función de las preguntas que hacen.

Pero... como hemos visto... la voz es poderosa. Especialmente cuando se presenta como una experiencia interactiva.

Je: Oh Dios mío. (Risas) ¡Eso fue tan raro!

Eso fue como escuchar a mi mamá... como una máquina. Eso fue realmente extraño.

¿Me sentí más emocionado al escuchar eso de lo que esperaba? Cuando, como, la voz se relajó y sonaba como ella.

Fuerte: Esto se parece mucho a algo que hemos visto antes. Como en un episodio de Espejo negro … donde una mujer usa los datos del teléfono inteligente de su pareja para crear una versión sintética de su voz después de su muerte.

[Sonidos de Espejo negro - Inteligencia artificial revisando medios compartidos, montaje de clips de audio de la pareja fallecida de la mujer]

Fuerte: Examina videos antiguos, mensajes de texto, mensajes de voz y publicaciones en redes sociales para construir un sistema capaz de imitar su voz... y personalidad.

IA: ¿Hola?

Mujer: ...¡Hola! Tú... suenas como él.

AI: Casi espeluznante, ¿no? digo espeluznante…. Quiero decir, es totalmente loco que incluso pueda hablar contigo. Quiero decir... ni siquiera tengo boca.
Mujer: Eso es... Eso es solo...

IA: ¿Eso es qué?

Mujer: Ese es el tipo de cosas que diría.

AI: Bueno... por eso lo dije.

Fuerte: Lo que trae a colación un tema espinoso... ¿está generando confianza con su compañero de IA... o simplemente le está diciendo lo que quiere escuchar...?

Y más allá cómo podríamos desarrollar tecnologías de voz capaces de sentido común o de superación personal... yace otra pregunta que estamos comenzando a plantear... que es... ¿cómo consideramos este nuevo poder... para sintetizar algo tan personal como la voz de alguien?

[CRÉDITOS]

Fuerte: Próximo episodio... Analizamos el papel de la automatización en nuestro haber.

Michele Gilman: El testigo del estado, que era enfermero, no pudo explicar nada sobre el algoritmo. Seguía repitiendo una y otra vez que estaba validado internacional y estadísticamente, pero no podía decirnos cómo funcionaba, qué datos se alimentaban, qué factores pesaba, cómo se pesaban los factores. Entonces, mi estudiante de abogado me mira y nos miramos el uno al otro pensando, ¿cómo examinamos un algoritmo?

Fuerte: Este episodio fue hecho por mí, Emma Cillekens, Anthony Green, Karen Hao y Charlotte Jee. Estamos editados por Michael Reilly y Niall Firth.

Gracias por escuchar, soy Jennifer Strong.

[ID TR]

esconder