Cómo Apple personaliza Siri sin aspirar tus datos

Una mujer usa su asistente de voz en su teléfono. kyonntra/imágenes falsas

Si tienes un iPhone, es posible que hayas notado un cambio en el comportamiento de Siri en el último año. El asistente de voz del teléfono se activará cuando digas Oye, Siri, pero no cuando la misma frase provenga de tus amigos o familiares.

La razón por la que Apple hizo esto fue sensata: quería una forma de evitar que todos los iPhones en una habitación respondieran cuando una persona pronuncia la frase de activación. Puede pensar que Apple necesitaría recopilar una gran cantidad de sus datos de audio para hacer esto. Sorprendentemente, no lo hace.

En cambio, se basa principalmente en una técnica llamada aprendizaje federado, dijo el jefe de privacidad de Apple, Julien Freudiger, a una audiencia en la conferencia Neural Processing Information Systems el 8 de diciembre. El aprendizaje federado es un método de aprendizaje automático que preserva la privacidad que fue introducido por primera vez por Google en 2017 . Le permite a Apple entrenar diferentes copias de un modelo de reconocimiento de altavoz en todos los dispositivos de sus usuarios, utilizando solo los datos de audio disponibles localmente. Luego envía solo los modelos actualizados a un servidor central para combinarlos en un modelo maestro. De esta manera, el audio sin procesar de las solicitudes de Siri de los usuarios nunca sale de sus iPhones y iPads, pero el asistente mejora continuamente en la identificación del orador correcto.

Además del aprendizaje federado, Apple también usa algo llamado privacidad diferencial para agregar una capa adicional de protección. La técnica inyecta una pequeña cantidad de ruido en los datos sin procesar antes de que se introduzcan en un modelo local de aprendizaje automático. El paso adicional hace que sea extremadamente difícil para los actores maliciosos aplicar ingeniería inversa a los archivos de audio originales del modelo entrenado.

Aunque Apple ha sido usando la privacidad diferencial desde 2017, se ha combinado con el aprendizaje federado solo a partir de iOS 13, que se lanzó al público en septiembre de este año. Además de personalizar Siri, ambas técnicas ahora también se utilizan para algunas otras aplicaciones, incluido QuickType (el teclado personalizado de Apple) y la función Found In Apps, que escanea su calendario y aplicaciones de correo en busca de los nombres de los que envían mensajes de texto y de las personas que llaman cuyos números no están en su teléfono. Freudiger dijo que la compañía planea implementar pronto los métodos de privacidad en más aplicaciones y funciones.

En el último año, el aprendizaje federado se ha vuelto cada vez más popular dentro de la comunidad de investigación de IA a medida que aumenta la preocupación por la privacidad de los datos. En marzo, Google publicado un nuevo conjunto de herramientas para facilitar a los desarrolladores la implementación de sus propios modelos de aprendizaje federados. Entre muchos otros usos, los investigadores esperan que ayude a superar los desafíos de privacidad en la aplicación de la IA al cuidado de la salud. Empresas como Owkin, Doc.ai y Nvidia están interesadas en usarlo de esta manera.

Si bien la técnica aún es relativamente nueva y necesita un mayor refinamiento, la última adopción de Apple ofrece otro caso de estudio sobre cómo se puede aplicar a escala. También marca un cambio fundamental en la compensación que la industria tecnológica ha asumido tradicionalmente entre privacidad y utilidad: de hecho, ahora es posible lograr ambas. Esperemos que otras empresas se den cuenta rápidamente.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.

esconder