Esta startup afirma que sus deepfakes protegerán tu privacidad

HIZO HIZO

Como dice el refrán: si parece un pato, nada como un pato y grazna como un pato, probablemente sea un pato. Ahora bien, si alguien en un videoclip es de la misma raza, sexo y edad que usted, tiene los mismos gestos y expresiones emocionales que usted y, de hecho, está basado en usted, pero no se parece exactamente a usted... es sigues siendo tu?

No, según Gil Perry, cofundador de la empresa de privacidad israelí. HIZO . Y por eso, afirma, es por lo que su startup funciona. D-ID toma secuencias de video, capturadas por una cámara dentro de una tienda, por ejemplo, y utiliza la visión artificial y el aprendizaje profundo para crear una alternativa que proteja la identidad del sujeto. El proceso convierte al usuario del video en un avatar que tiene los mismos atributos pero se ve un poco diferente.

La ventaja para las empresas es que este nuevo video anónimo ya no revela la identidad exacta de un cliente, lo que, dice Perry, significa que las empresas que usan D-ID pueden eliminar la necesidad de consentimiento y analizar las imágenes con fines comerciales y de marketing. Una tienda podría, por ejemplo, transmitir un video de una mujer blanca de aspecto feliz a un algoritmo que puede mostrar el anuncio más efectivo para ella en tiempo real. (Vale la pena señalar que la legitimidad del reconocimiento de emociones ha sido cuestionada, y un destacado grupo de investigación de IA recientemente pidió que se prohibiera por completo su uso).

Los ejemplos del servicio de anonimización inteligente de D-ID muestran diferentes niveles de éxito para ocultar la identidad en el video. En una demostración , el ex primer ministro británico David Cameron se parece un poco a David Cameron con bigote. En otra imagen fija , una mujer se ve algo diferente, pero las dos imágenes aún parecen desconcertantemente similares. En un tercero, Brad Pitt se vuelve irreconocible.

D-ID no nombró a los clientes particulares que usan su tecnología, pero Perry dijo que la compañía trabaja principalmente con minoristas, compañías automotrices y grandes conglomerados que implementan CCTV en Europa. Ann Cavoukian, miembro de la junta asesora de D-ID y ex comisionada de privacidad de la provincia canadiense de Ontario, dice que la solución es totalmente beneficiosa para todos.

Sin embargo, otros expertos dicen que la empresa malinterpreta la Norma General de Protección de Datos de Europa, no hace lo que se supone que debe hacer y, aunque lo haga, probablemente no debería hacerlo de todos modos.

¿Violación del RGPD?

Tres destacados expertos europeos en privacidad que hablaron con MIT Technology Review expresaron sus preocupaciones sobre la tecnología de D-ID y sus intenciones. Todos dicen que, en su opinión, D-ID en realidad viola el RGPD. (Sin embargo, podría ser legal en áreas fuera de la UE).

La raza es una categoría especial en el RGPD, lo que significa que el procesamiento de datos que infiere que la raza es ilegal sin un consentimiento explícito, explica Gaëtan Goldberg, un abogado de privacidad de datos del organismo de control del RGPD, NOYB. Las infracciones de las normas del RGPD pueden dar lugar a multas de 20 millones de euros o el 4 % de los ingresos anuales de una empresa, lo que sea mayor.

Cuando se le presentaron estas preocupaciones, David Mirchin, un abogado de privacidad que asesora a D-ID, no estuvo de acuerdo con los expertos. Afirma que nunca hay un punto en el que la solución de anonimización inteligente de D-ID analice, revele o almacene este tipo de datos confidenciales. Perry agrega que D-ID también está feliz de anonimizar los datos de etnicidad. Los abogados externos, sin embargo, sostienen que simplemente detectar los rostros, ya sea para anonimizarlos o no, es una violación.

Perry y Mirchin también argumentan que está bien alimentar algoritmos con datos biométricos anónimos. Pero si bien el RGPD no se aplica a los datos anónimos, la startup en realidad no anonimiza el video en ningún caso, dice Michael Veale, experto en privacidad del University College London. El video codificado no se consideraría anónimo según el RGPD. Con datos verdaderamente anónimos, una parte de la información no se puede vincular a un individuo en particular, incluso cuando se combina con otros datos. Esa es una barra alta.

Pero incluso si las imágenes alteradas no se parecen exactamente a usted, pueden combinarse con otra información (datos de ubicación tomados de las redes sociales, por ejemplo, o registros de tarjetas de crédito) y rastrearse. Además, dice Veale, la tecnología todavía no daría automáticamente a las empresas carta blanca para reutilizar CCTV para fines comerciales bastante frívolos que no son algo con un interés público serio, como la lucha contra el crimen.

Espíritu de la ley

El hecho de que D-ID se posicione como una solución de privacidad es revelador. Con elementos de las nuevas leyes de protección de datos como GDPR y la Ley de Privacidad del Consumidor de California que siguen abiertos a la interpretación, algunas empresas están demostrando ser ingeniosas para promocionarse a sí mismas. Estas tecnologías cumplen con las regulaciones de una manera que beneficia a las empresas que quieren ganar dinero con los datos, en lugar de a las personas cuyos datos se capturan. Esto es una violación del espíritu de la ley, dicen los críticos. Britt Paris, un erudito en ciencias de la información de la Universidad de Rutgers, llama a D-ID explotador y un ejemplo de una mayor invasión de la datificación de la vida cotidiana.

Pero Cavoukian, miembro de la junta de D-ID, dice que no es una fundamentalista de la privacidad y cree que no hay nada de malo en recopilar datos siempre que se oculten las identidades exactas de las personas.

Si no desea que se recopile ningún dato sobre usted, en esta época, aunque no haya problemas de privacidad porque sus identificadores han sido eliminados, no podrá salir de su casa muy lejos, ella dice. Esas son las realidades del día.

La vigilancia se está generalizando cada vez más. Un estudio reciente de Pew encontró que la mayoría de los estadounidenses piensan que están siendo rastreados constantemente, pero no pueden hacer mucho al respecto, y se espera que el mercado de reconocimiento facial crezca de alrededor de $ 4.5 mil millones en 2018 a $ 9 mil millones para 2024 . Aun así, la realidad de la vigilancia no impide que los activistas contraataquen. D-ID puede verse a sí mismo como un término medio entre el purismo de la privacidad y la recolección de datos sin procesar, pero sin la tecnología, quizás las empresas cubiertas por GDPR no usarían estos datos de video en absoluto.

Estas reglas están ahí para un propósito, ¿verdad? dice Lilian Edwards, experta en RGPD de la Facultad de Derecho de Newcastle. [D-ID] dice 'Recopila datos visuales mientras cumples con las normas de privacidad' y lo que realmente significa es 'Recopila datos visuales mientras evitas las normas de privacidad'. Ya sabes, la ley en realidad no es completamente estúpida.

esconder