211service.com
Microsoft y Google quieren dar rienda suelta a la inteligencia artificial en nuestros datos más privados
La reciente aparición de una poderosa técnica de aprendizaje automático conocida como aprendizaje profundo ha hecho que los gigantes informáticos como Google, Facebook y Microsoft estén aún más hambrientos de datos. Es lo que permite que el software aprenda a hacer cosas como reconocer imágenes o comprender el lenguaje.
Sin embargo, muchos problemas en los que el aprendizaje profundo podría ser más valioso involucran datos que son difíciles de obtener o que están en manos de organizaciones que no están dispuestas a compartirlos. Y como dice el CEO de Apple, Tim Cook, a algunos consumidores ya les preocupa que las empresas se traguen su información personal.
Muchas personas que tienen conjuntos de datos confidenciales, como imágenes médicas, simplemente no los compartirán por cuestiones legales y reglamentarias, dice Vitaly Shmatikov , profesor de Cornell Tech que estudia la privacidad. En cierto sentido, estamos privando a estas personas de los beneficios del aprendizaje profundo.
Shmatikov y los investigadores de Microsoft y Google están trabajando en formas de sortear ese problema de privacidad. Al proporcionar formas de usar y entrenar las redes neuronales artificiales utilizadas en el aprendizaje profundo sin necesidad de engullir todo, esperan poder entrenar software más inteligente y convencer a los guardianes de datos confidenciales para que utilicen dichos sistemas.
Shmatikov y su colega Reza Shokri están probando lo que llaman aprendizaje profundo que preserva la privacidad . Proporciona una manera de obtener el beneficio de múltiples organizaciones, digamos, diferentes hospitales, que combinan sus datos para entrenar software de aprendizaje profundo sin tener que correr el riesgo de compartirlo.
Cada organización entrena algoritmos de aprendizaje profundo en sus propios datos y luego comparte solo parámetros clave del software entrenado. Esos pueden combinarse en un sistema que funciona casi tan bien como si estuviera entrenado en todos los datos a la vez.
La investigación de Cornell fue parcialmente financiada por Google, que ha publicó un artículo en experimentos similares y está hablando con Shmatikov sobre sus ideas. Los investigadores de la empresa inventaron una forma de entrenar los algoritmos de aprendizaje profundo de la empresa utilizando datos como imágenes de teléfonos inteligentes sin transferir esos datos a la nube de Google.
Eso podría facilitar que la empresa aproveche la información muy personal que se encuentra en nuestros dispositivos móviles, escribieron. Google se negó a poner a alguien disponible para discutir esa investigación, pero Shmatikov cree que la compañía todavía está trabajando en ello.
El grupo de investigación de criptografía de Microsoft ha desarrollado su propia solución al problema de privacidad del aprendizaje automático. Inventó una forma de usar software de aprendizaje profundo entrenado en datos encriptados y arrojar respuestas encriptadas. La idea es que un hospital, por ejemplo, pueda pedirle a Microsoft que use uno de estos Criptoredes para marcar exploraciones médicas que contengan posibles problemas, evitando la necesidad habitual de exponer las imágenes a la empresa.
Los investigadores de Microsoft lograron ese truco usando una técnica llamada encriptación homomórfica, que hace posible realizar operaciones matemáticas en datos encriptados y producir un resultado encriptado (ver 10 Tecnologías innovadoras 2011: Encriptación homomórfica). Han probado la idea utilizando un software de aprendizaje profundo que reconoce la escritura a mano y un sistema que estima el riesgo de neumonía de un paciente a partir de sus signos vitales.
Una CryptoNet requiere más poder de cómputo que el software convencional de aprendizaje profundo para hacer el mismo trabajo. Pero kristin lauter , que lidera la investigación de criptografía de Microsoft, dice que la brecha es lo suficientemente pequeña como para que CryptoNets se vuelva práctica para el uso en el mundo real. Las industrias de salud, financiera y farmacéutica son donde creo que es más probable que se use primero, dice ella.