Esta IA te permite falsificar tu voz para hablar como Barack Obama

Sra. Tecnología | Imágenes falsas

Conoce a mi alter ego, Katie:

El acento, la emoción y la entonación son todos míos. Pero de alguna manera ahora sueno como una mujer joven con una voz aguda.

Mi piel de voz femenina fue creada por Modulate.ai , una empresa con sede en Cambridge, Massachusetts. La empresa utiliza el aprendizaje automático para copiar, modelar y manipular las propiedades de la voz de una manera nueva y poderosa.

La tecnología va mucho más allá de los simples filtros de voz que te permiten sonar como Kylo Ren. Con este enfoque, es posible asumir cualquier edad, género o tono que desee, todo en tiempo real. O tomar la voz de una celebridad. Puedo mantener una larga conversación telefónica bajo la apariencia de Katie si lo deseo.

Visité la sede de Modulate para conocer la tecnología y las ambiciones de la empresa, y para analizar las implicaciones éticas de usar IA para copiar la voz de otra persona. En una cabina insonorizada, probé algunas de las máscaras de voz de la empresa.

Aquí está mi voz real:

Y aquí está siendo alimentado a través de otra persona:

Y siendo cambiado entre las dos personas en tiempo real.

La tecnología de modelado de voz no es perfecta; cada nueva voz es un poco warbly. Pero es notablemente bueno y mejora al alimentarse con más datos de voz. Y muestra cómo los avances en el aprendizaje automático están comenzando a alterar rápidamente la realidad digital. Modulate utiliza redes antagónicas generativas (GAN) para capturar y modelar las propiedades de audio de una señal de voz. Las GAN enfrentan a dos redes neuronales en una batalla para capturar y reproducir las propiedades de un conjunto de datos de manera convincente (consulte The GANfather).

El aprendizaje automático ha hecho posible intercambiar las caras de dos personas en un video, utilizando un software que se puede descargar gratis de Internet (ver Fake America great otra vez). Los investigadores de IA están utilizando GAN y otras técnicas para manipular escenas visuales e incluso evocar completamente caras falsas .

Modulate tiene una máscara de voz de demostración de Barack Obama en su sitio, y el cofundador y director ejecutivo Mike Pappas dijo que sería posible generar uno para cualquier persona, con suficientes datos de capacitación. Pero agrega que la compañía no pondrá a disposición una máscara de voz de celebridad sin el permiso del propietario. También insiste en que el engaño no es el punto principal.

Esta no es una tecnología creada para imitar a las personas, dice Pappas. Está diseñado para brindarle nuevas oportunidades.

Modulate apunta a juegos en línea como Fornite o Call of Duty, en los que los jugadores pueden chatear con extraños a través de un micrófono. Esto puede mejorar el juego, pero también puede abrir la puerta al abuso y al acoso.

Cuando queremos interactuar en línea y tener experiencias realmente profundas, las voces son cruciales, dice Pappas. Pero algunas personas no están dispuestas a expresar su voz. En algunos casos, tal vez solo quiero permanecer en el anonimato. En otros casos, me preocupa revelar mi edad o género y ser acosado.

jabon de carlos , profesor de la Universidad de Nueva York que estudia la difusión de información errónea, dice que la tecnología parece significativamente más avanzada que otras tecnologías de modificación de voz. Y dice que la forma en que AI ahora puede manipular video y audio tiene el potencial de alterar fundamentalmente los medios. Tenemos que empezar a pensar en lo que constituye la realidad, dice.

'Hasta ahora, la calidad de la tecnología de conversión de voz ha sido baja, por lo que uno puede distinguir fácilmente una voz convertida', agrega. Tuomas Virtanen , experto en síntesis y manipulación de voz de la Universidad de Tampere en Finlandia. 'Pero me imagino que en un futuro cercano la calidad será lo suficientemente buena como para que la conversión no se pueda detectar fácilmente'.

Modulate es consciente de que su tecnología tiene el potencial de ser mal utilizada. La compañía dice que buscará garantías de que cualquier cliente que copie la voz de alguien tenga el permiso de esa persona. También ha desarrollado una tecnología de marca de agua de audio que podría usarse para detectar una voz copiada. Esto podría emitir una advertencia si alguien está usando una voz falsa en una llamada, por ejemplo.

'Hemos construido salvaguardas éticas en nuestra empresa desde cero', dice el cofundador y CTO, Carter Huffman, 'desde cómo distribuimos nuestra tecnología, hasta cómo seleccionamos las máscaras de voz para ofrecer, hasta la marca de agua de nuestro audio para detección en sensibles sistemas

Modulate podría ser capaz de limitar el uso indebido de su propia tecnología, pero es posible que otros desarrollen una tecnología similar de forma independiente y la pongan a disposición de las personas para su uso indebido. La pregunta es, ¿cuán ampliamente se puede hacer mal uso de esto y qué tan inteligente se volverá el público?

Pappas es optimista de que el potencial de la falsificación de la IA a menudo se exagera. Definitivamente es algo de lo que quieres ser consciente, pero no es algo donde las facetas mismas de la sociedad se están desmoronando, dice. Tenemos herramientas para manejar esto.

esconder