211service.com
Limpiar la 'huella digital' de Siri
Incluso en una era en la que la privacidad se desvanece, las personas que utilizan el asistente digital Siri de Apple comparten una preocupación distinta. Las grabaciones de sus voces reales, haciendo preguntas que pueden ser personales, viajan a través de Internet a un servidor remoto de Apple para su procesamiento. Entonces permanecen almacenados allí; Apple no dirá por cuánto tiempo.
Esa grabación de voz, a diferencia de la mayoría de los datos producidos por teléfonos inteligentes y otras computadoras, es un identificador biométrico real. Una huella de voz, si se divulga por accidente, piratería o citación, se puede vincular a una persona específica. Y con el auge actual de las aplicaciones de reconocimiento de voz, Apple no es el único que acumula esos datos.
Puede haber una forma de mantener este identificador más privado. Los investigadores dicen que Apple y otros que desarrollan aplicaciones de reconocimiento de voz como Siri podrían hacer parte del procesamiento de datos directamente en el teléfono. Luego, en lugar de enviar la grabación completa, podrían transmitir información específica que es más difícil de vincular definitivamente a un individuo.
Tal vez cualquier cosa que identifique debe permanecer en el teléfono, dice Prem Natarajan, vicepresidente ejecutivo de Raytheon BBN Technologies en Cambridge, Massachusetts, un importante centro de investigación de reconocimiento de voz. Él dice que podría ser más prudente que Apple transmita características del habla, y no del habla en sí.
Si bien este enfoque supondría una mayor carga para el procesador y la batería del teléfono, no perjudicaría la calidad del reconocimiento de voz. Creo que es seguro decir que no tener acceso a la señal [de voz completa] no impone ninguna sanción significativa, dice Natarajan. Limitar la cantidad de datos biométricos que se comparten seguiría el ejemplo de dispositivos como Kinect de Microsoft, que por razones de privacidad han sido diseñados para mantener dichos datos a bordo.
Trudy Muller, portavoz de Apple, confirmó que las grabaciones de voz se almacenan cuando los usuarios hacen una pregunta hablada como ¿Qué tiempo hace ahora? Estos datos solo se utilizan para el funcionamiento de Siri y para ayudar a Siri a mejorar su comprensión y reconocimiento, dijo. Muller agregó que la compañía se toma muy en serio la privacidad, y señaló que las preguntas y respuestas que Siri envía a través de Internet están encriptadas y que las grabaciones de su voz no están vinculadas a otra información que Apple haya generado sobre usted. (Sin embargo, Siri carga su lista de contactos, ubicación y lista de canciones almacenadas para ayudarlo a responder a sus solicitudes).
Si bien las huellas de voz no son tan únicas como las huellas dactilares, pueden identificar positivamente al hablante en muchas circunstancias. El Departamento de Seguridad Nacional de EE. UU. Utiliza huellas de voz para identificar a los viajeros frecuentes que se han inscrito en un sistema para permitir cruces fronterizos rápidos.
Para ver por qué las huellas de la voz pueden ser importantes, considere el juicio por asesinato de Casey Anthony, la madre de Florida absuelta el año pasado por la muerte de su hija de dos años, Caylee. En un momento, los fiscales señalaron búsquedas en Internet (de cloroformo y otros términos incriminatorios) realizadas desde la computadora del acusado. La madre de Anthony testificó que ella misma había escrito el término de búsqueda, como un error ortográfico de clorofila. Si las búsquedas se hubieran realizado por voz en Siri, los fiscales y los miembros del jurado podrían haber podido determinar quién dijo realmente cloroformo. (Apple se negó a decir si alguna vez recibió una citación para la huella de voz de alguien).
Mientras tanto, si dictaste un texto inapropiado o le preguntaste a Siri sobre un asunto médico sensible y Apple fue pirateado (o un empleado malintencionado divulgó datos), no solo se liberaría la comunicación vergonzosa, sino que estaría en tu propia voz. Natarajan dice que la biometría podría plantear cuestiones de privacidad completamente nuevas. Por ejemplo, alguien que busque la ubicación de una protesta contra un régimen represivo podría tener problemas si los datos estuvieran disponibles para ese gobierno. Si tiene un grupo de personas que preguntan sobre las protestas, ahora, lamentablemente, tiene datos biométricos de voz para esas personas, dice.
Algunos observadores, incluidas las grandes empresas de tecnología, están planteando preguntas más amplias sobre Siri. El mes pasado Revisión de tecnología informó que IBM había pedido a sus empleados que no usaran la función, una decisión que IBM dijo que estaba motivada por la necesidad de proteger las listas de contactos y otra información confidencial de la empresa. Es una preocupación que otras organizaciones deberían compartir, creen algunos expertos. Si tuviera que dirigir una agencia de inteligencia o una gran corporación, no permitiría un servicio de este tipo internamente, dice Radu Sion, científico informático de la Universidad de Stony Brook e investigador líder en seguridad informática en la nube.
El reconocimiento de voz de Siri funciona así: dices una pregunta o solicitud y la grabación de voz se envía a un servidor de Apple. Allí, la grabación se divide en un proceso llamado extracción de características, que transforma numéricamente la onda de sonido y extrae características relevantes. Estos se ejecutan a través de un motor de reconocimiento de voz para interpretar lo que está diciendo y convertirlo en texto. Luego, Siri utiliza recursos que pueden incluir Internet, su lista de contactos (Llamar a papá) o su ubicación (¿Dónde está la comida tailandesa más cercana?) Para responder a sus necesidades.
No hay ninguna razón por la que el trabajo inicial de extracción de funciones no pueda realizarse directamente en el teléfono para que algunos elementos puedan permanecer allí. El patrón de tono, por ejemplo, es importante para identificar al hablante pero no para reconocer lo que se dijo. Desde una perspectiva tecnológica, podría enviar las cosas en las que trabajará el reconocedor, pero no la forma de onda completa, dice Natarajan. Si bien esta podría no ser una solución perfecta, dice, mejoraría significativamente la privacidad y, quizás lo más importante, la percepción de privacidad, porque no se puede reconstruir la señal de voz a partir de las funciones.
James Glass, científico investigador senior del MIT y director de su Grupo de sistemas de lenguaje hablado , dice que el procesamiento a bordo, también conocido como reconocimiento de voz distribuido, se ha estudiado ampliamente. No ofrece una protección completa, advierte: los métodos biométricos que identifican al hablante ... generalmente usan representaciones de señales similares a las que solo reconocen el habla. Por lo tanto, hacer [procesamiento] local no anonimizaría completamente los datos, si ese fuera su objetivo.
Agrega que la forma más fácil de anonimizar una huella de voz es disociar las grabaciones de otros datos, como el número de teléfono celular. Significaría que sería más difícil para los sistemas personalizar su voz y consultas, pero algunas personas podrían preferir esa opción si les brinda más privacidad, dice. Esta es la posición por la que abogaría, ya que es similar a cómo algunas aplicaciones piden permiso para usar su ubicación en este momento.
A medida que surjan más aplicaciones de voz en más entornos, la protección de los identificadores biométricos será más importante, dice Andrew Sudbury, cofundador de Abine, una compañía de software de privacidad en línea en Boston que ayuda a los consumidores a bloquear el seguimiento de sus actividades en línea. En realidad, es casi un momento decisivo, ya que presagiará un aumento muy rápido del reconocimiento de voz que se utiliza en muchos lugares, dice. Y será más fácil identificar a las personas a través de su voz.
De hecho, una de las razones por las que Apple podría querer almacenar impresiones de voz completas es para conservar la opción de proporcionar tales servicios. En teoría, un reconocedor de voz podría saber que eres tú quien habla, no tu cónyuge o hijo, y darte respuestas personalizadas. Sería genial si llamaras desde un teléfono diferente y pudieran identificarte, dice Natarajan.
Una amplia base de datos de las voces reales de las personas es lo que haría esto posible. Tales características aún son especulativas, advierte. Pero toda innovación se trata de hacer cosas que nadie está planeando en este momento, dice. Yo también querría tener acceso a todos esos datos.