Es hora de una Declaración de derechos de datos

Sra. tecnología

Es el verano de 2023 y Rachel está arruinada. Sentada en un bar una noche, mirando anuncios de trabajo en su teléfono, recibe un mensaje de texto. Los investigadores que realizan un estudio sobre la función hepática obtuvieron su nombre del programa de fidelización del bar: se inscribió para obtener un descuento en la hora feliz en nachos. Están ofreciendo $ 50 por semana para acceder al flujo de datos de salud de su teléfono y a la pestaña de su barra durante los próximos tres meses.

Al principio, Rachel está molesta por la intrusión. Pero ella necesita el dinero. Así que asiente con la cabeza hacia su teléfono, un gesto de asentimiento sutil pero distintivo que es tan legalmente vinculante como una firma, y ​​vuelve a sus nachos y su búsqueda de trabajo.

Pero a medida que avanza el verano, Rachel no puede evitar notar que recibe rechazo tras rechazo de los empleadores, mientras que sus amigos, uno por uno, buscan trabajo. Sin que ella lo supiera, porque no leyó la letra pequeña, algunos datos del estudio de investigación, junto con su historial de compra de licores, llegaron a una de las dos agencias de empleo que han llegado a dominar el mercado. Todos los empleadores que revisan su solicitud con la agencia ahora ven que ha sido perfilada como una persona deprimida y poco confiable. No es de extrañar que no pueda conseguir trabajo. Pero incluso si pudiera descubrir que ha sido perfilada de esta manera, ¿qué recurso tiene?

Un día en la vida

Si está leyendo esto, es probable que, como Rachel, haya creado una enorme cantidad de datos hoy, leyendo o comprando en línea, haciendo un seguimiento de su entrenamiento o simplemente yendo a algún lugar con su teléfono en el bolsillo. Algunos de estos datos los creaste a propósito, pero una gran parte de ellos fueron creados por tus acciones sin tu conocimiento, y mucho menos consentimiento.

La proliferación de datos en las últimas décadas ha llevado a algunos reformadores a lanzar un grito de guerra: ¡usted es dueño de sus datos! Eric Posner de la Universidad de Chicago, Eric Weyl de Microsoft Research y el gurú de la realidad virtual Jaron Lanier, entre otros, argumentan que los datos deben tratarse como una posesión. Mark Zuckerberg, el fundador y director de Facebook, también lo dice. Facebook ahora dice que eres el propietario de todos los contactos y la información que publicas en Facebook y puedes controlar cómo se comparte. el tiempo financiero argumenta que una parte clave de la respuesta radica en dar a los consumidores la propiedad de sus propios datos personales. en un discurso reciente , Tim Cook, CEO de Apple, estuvo de acuerdo y dijo: Las empresas deben reconocer que los datos pertenecen a los usuarios.

La propiedad de los datos no solo no soluciona los problemas existentes; crea otros nuevos.

Este ensayo argumenta que la propiedad de los datos es una forma errónea y contraproducente de pensar en los datos. No solo no soluciona los problemas existentes; crea otros nuevos. En su lugar, necesitamos un marco que le dé a la gente derechos a estipular cómo se utilizan sus datos sin exigirles que se apropien de ellos. La Ley de Cuidado de Datos, una factura presentado el 12 de diciembre por el senador estadounidense Brian Schatz, un demócrata de Hawái, es un buen paso inicial en esta dirección (dependiendo de cómo evolucione la letra pequeña). Como dijo Doug Jones, un senador demócrata de Alabama que es uno de los copatrocinadores de los proyectos de ley, el derecho a la privacidad y la seguridad en línea debe ser fundamental.

La noción de propiedad es atractiva porque sugiere darle poder y control sobre sus datos. Pero poseer y alquilar datos es una mala analogía. El control sobre cómo se utilizan determinados bits de datos es solo un problema entre muchos. Las verdaderas preguntas son preguntas sobre cómo los datos dan forma a la sociedad y a las personas. La historia de Rachel nos mostrará por qué los derechos de datos son importantes y cómo podrían funcionar para proteger no solo a Rachel como individuo, sino a la sociedad en su conjunto.

Mañana nunca se sabe

Para ver por qué la propiedad de los datos es un concepto erróneo, primero piense en este artículo que está leyendo. El mismo acto de abrirlo en un dispositivo electrónico creó datos: una entrada en el historial de su navegador, cookies que el sitio web envió a su navegador, una entrada en el registro del servidor del sitio web para registrar una visita desde su dirección IP. Es virtualmente imposible hacer cualquier cosa en línea (leer, comprar o simplemente ir a algún lugar con un teléfono conectado a Internet en el bolsillo) sin dejar atrás una sombra digital. No se puede poseer estas sombras, como se posee, por ejemplo, una bicicleta, como tampoco se pueden poseer las efímeras manchas de sombra que te siguen en los días soleados.

Sus datos por sí solos no son muy útiles para un comercializador o una aseguradora. Sin embargo, analizado junto con datos similares de miles de otras personas, alimenta algoritmos y lo cataloga (por ejemplo, fumador empedernido con hábito de beber o corredor saludable, siempre a tiempo). Si un algoritmo es injusto, si, por ejemplo, lo clasifica erróneamente como un riesgo para la salud porque se entrenó en un conjunto de datos sesgados o simplemente porque es un caso atípico, entonces permitirle poseer sus datos no lo hará justo. La única forma de evitar verse afectado por el algoritmo sería nunca, nunca, dar acceso a nadie a sus datos. Pero incluso si intenta acumular datos que le conciernen, las corporaciones y los gobiernos con acceso a grandes cantidades de datos sobre otras personas podrían usar esos datos para hacer inferencias sobre usted. Los datos no son una impresión neutra de la realidad. La creación y el consumo de datos refleja cómo se distribuye el poder en la sociedad.

Por supuesto, puede optar por mantener todos sus datos privados para evitar que se utilicen en su contra. Pero si sigue esa estrategia, puede terminar perdiendo los beneficios de hacer que sus datos estén disponibles en ocasiones. Por ejemplo, cuando está conduciendo, navegando por la aplicación de su teléfono inteligente, comparte información anónima en tiempo real que luego se traduce en condiciones de tráfico precisas (por ejemplo, le tomará 26 minutos conducir al trabajo esta mañana si sale a las 8: 16 horas). Esos datos son privados individualmente (los extraños no pueden ver dónde estás), pero acumulativamente, es un bien colectivo.

La creación y el consumo de datos refleja cómo se distribuye el poder en la sociedad.

Este ejemplo muestra cómo los datos en conjunto pueden tener un carácter fundamentalmente diferente de los bits y bytes individuales que los componen. Incluso los argumentos bien intencionados sobre la propiedad de los datos asumen que si regula bien los datos personales, obtendrá buenos resultados sociales. Y eso no es cierto.

Es por eso que muchos de los problemas sobre el uso desleal de los datos no se pueden resolver controlando quién tiene acceso a ellos. Por ejemplo, en ciertas jurisdicciones de EE. UU., los jueces utilizan una puntuación de riesgo generada algorítmicamente para tomar decisiones sobre fianzas y sentencias. Estos Programas de software predecir la probabilidad de que una persona cometa futuros delitos. Imagine que un algoritmo de este tipo dice que tiene un 99 % de posibilidades de cometer otro delito o perder una futura cita para la libertad bajo fianza porque las personas demográficamente similares a usted a menudo son delincuentes o saltadores de fianza. Eso puede ser injusto en su caso, pero no puede ser dueño de su perfil demográfico o de sus antecedentes penales y negarse a que el sistema legal los vea. Incluso si niega el consentimiento para que se usen sus datos, una organización puede usar datos sobre otras personas para hacer extrapolaciones estadísticas que lo afecten. Este ejemplo subraya el punto de que los datos tienen que ver con el poder: las personas acusadas o condenadas por delitos generalmente tienen menos poder que las que toman las decisiones sobre la libertad bajo fianza y la sentencia.

Del mismo modo, las soluciones existentes para los usos desleales de los datos a menudo implican controlar no quién tiene acceso a los datos, sino cómo se utilizan los datos. Según la Ley del Cuidado de Salud a Bajo Precio de EE. UU., por ejemplo, las compañías de seguros de salud no pueden negar ni cobrar más por la cobertura solo porque alguien tiene una condición preexistente. El gobierno no les dice a las empresas que no pueden retener esos datos sobre los pacientes; simplemente dice que deben ignorarlo. Una persona no es dueña del hecho de que tiene diabetes, pero puede tener derecho a no ser discriminada por ello.

El consentimiento se menciona a menudo como un principio básico que debe respetarse con respecto al uso de datos. Pero en ausencia de una regulación gubernamental para evitar que las compañías de seguros de salud utilicen datos sobre condiciones preexistentes, los consumidores individuales carecen de la capacidad de negar el consentimiento. La razón por la que carecen de esa capacidad es que las compañías de seguros tienen más poder que ellos. El consentimiento, para decirlo sin rodeos, no funciona.

Los derechos de datos deben proteger la privacidad y deben tener en cuenta el hecho de que la privacidad no es un derecho reactivo para protegerse de la sociedad. Se trata de la libertad de desarrollar el yo lejos del comercio y del control gubernamental. Pero los derechos de datos no se refieren solo a la privacidad. Al igual que otros derechos, a la libertad de expresión, por ejemplo, los derechos de datos se tratan fundamentalmente de asegurar un espacio para la libertad y la agencia individuales mientras se participa en la sociedad moderna. Los detalles deben seguir los principios básicos, como con la Declaración de Derechos existente de Estados Unidos. Con demasiada frecuencia, los intentos de enunciar tales principios empantanarse en la maleza de cosas como los modelos de consentimiento opt-in, que pueden volverse obsoletos rápidamente.

Se necesitan principios claros y amplios en todo el mundo, de manera que encajen en los sistemas legales de los países individuales. En los EE. UU., las disposiciones constitucionales existentes, como la protección igualitaria ante la ley y las prohibiciones contra registros e incautaciones irrazonables, son insuficientes. Es, por ejemplo, difícil argumentar que el seguimiento continuo y persistente de los movimientos de una persona en público es una búsqueda. Y, sin embargo, tal vigilancia es comparable en sus efectos intrusivos a una búsqueda irrazonable. No basta con esperar que los tribunales presenten interpretaciones favorables del lenguaje del siglo XVIII aplicado a las tecnologías del siglo XXI.

Una Declaración de derechos de datos debe incluir derechos como estos:

• No se violará el derecho del pueblo a estar seguro contra la vigilancia irrazonable.
• No se manipulará subrepticiamente el comportamiento de ninguna persona.
• Ninguna persona será injustamente discriminada en base a datos.

Estas no son de ninguna manera todas las disposiciones que necesitaría un proyecto de ley duradero y efectivo. Están destinados a ser un comienzo y ejemplos del tipo de claridad y generalidad que necesita un documento de este tipo.

Para marcar la diferencia para personas como Rachel, una Declaración de derechos de datos necesitará un nuevo conjunto de instituciones e instrumentos legales para salvaguardar los derechos que establece. El Estado debe proteger y delimitar esos derechos, que es lo que ha comenzado a hacer el Reglamento General Europeo de Protección de Datos (RGPD) de 2018. La nueva infraestructura de derechos de datos debe ir más allá e incluir juntas, cooperativas de datos (que permitirían la acción colectiva y abogar en nombre de los usuarios), esquemas éticos de certificación de datos, litigantes y auditores especializados en derechos de datos, y representantes de datos que actúan como fiduciarios. para miembros del público en general, capaces de analizar los impactos complejos que los datos pueden tener en la vida.

Con una pequeña ayuda de mis amigos

Historia relacionada

Historia relacionada

¿Cómo se ve el futuro sin la protección de los derechos de datos? Volvamos a la infructuosa búsqueda de trabajo de Rachel. Su caracterización como deprimida y poco confiable puede ser correcta o no. Tal vez el algoritmo simplemente cometió un error: Rachel está perfectamente sana y en forma para trabajar. Pero a medida que los algoritmos mejoran y se basan en conjuntos de datos más grandes, es cada vez menos probable que sean inexactos. Aún así, ¿eso los haría más justos?

¿Qué pasa si Raquel era un poco deprimido? Un buen trabajo podría haberla ayudado a superar un episodio de depresión. Pero en cambio, su perfil se convierte rápidamente en una profecía autocumplida. Incapaz de conseguir un trabajo, de hecho se deprime y se vuelve poco confiable.

Ahora considere el dilema de Rachel en un mundo con protecciones de derechos de datos más estrictas. Ella está de acuerdo con el estudio de la función hepática, pero mientras revisa sus términos y condiciones, un representante de datos algorítmicos señala el problema, algo así como los guardianes algorítmicos protegen contra los virus informáticos y el spam. Una vez que se marca el problema, se remite a un equipo de auditores que informan a la junta local de derechos de datos (en este futuro hipotético). El equipo examina el algoritmo utilizado por el estudio y descubre el vínculo con el perfil de empleo. La junta determina que Rachel ha sido perfilada y que, gracias a una interpretación recientemente establecida de la Ley de Igualdad en el Empleo y la Ley de Protección de Datos (aprobada en 2022), tal perfil es claramente ilegal. Rachel no tiene que tomar medidas por sí misma: la junta sanciona a los investigadores por prácticas abusivas de datos.

Reunirse

Una erosión incremental de la privacidad es difícil de notar y hace poco daño a nadie, al igual que las cantidades mínimas de dióxido de carbono son apenas detectables y no causan ningún daño ambiental.

Como he argumentado, la propiedad de los datos es un error de categoría con consecuencias perniciosas: en realidad no puedes poseer la mayoría de tus datos, e incluso si pudieras, a menudo no te protegería de prácticas desleales. ¿Por qué, entonces, la idea de la propiedad de los datos es una solución tan popular?

La respuesta es que los expertos en políticas y los tecnólogos a menudo aceptan tácitamente el concepto de capitalismo de datos. Ven los datos como una fuente de capital (por ejemplo, Facebook usa datos sobre mí para orientar anuncios) o como un producto del trabajo (por ejemplo, se me debe pagar por los datos que se producen sobre mí). No es ninguna de estas cosas. Pensar en los datos como pensamos en una bicicleta, petróleo o dinero no capta cuán profundamente han cambiado las relaciones entre los ciudadanos, el estado y el sector privado en la era de los datos. Se necesita con urgencia un nuevo paradigma para comprender qué son los datos y qué derechos les pertenecen si queremos forjar una política equitativa del siglo XXI.

Este paradigma podría basarse en analogías ambientales: pensar en los datos como si fueran gases de efecto invernadero u otras externalidades, donde pequeños fragmentos de contaminación, individualmente inocuos, tienen consecuencias colectivas calamitosas. La mayoría de las personas valoran su propia privacidad, al igual que valoran la capacidad de respirar aire limpio. Una erosión incremental de la privacidad es difícil de notar y hace poco daño a nadie, al igual que las cantidades mínimas de dióxido de carbono son apenas detectables y no causan ningún daño ambiental. Pero en conjunto, así como grandes cantidades de gases de efecto invernadero causan un daño fundamental al medio ambiente, un cambio masivo en la naturaleza de la privacidad causa un daño fundamental al tejido social.

Para comprender este daño, necesitamos un nuevo paradigma. Este paradigma debe capturar las formas en que un manto ambiental de datos cambia nuestras relaciones con los demás: como familia, como amigos, como compañeros de trabajo, como consumidores y como ciudadanos. Para hacerlo, este paradigma debe basarse en un entendimiento fundamental de que las personas tienen derechos sobre los datos y que los gobiernos deben salvaguardar esos derechos.

Habrá desafíos en el camino. Ni la infraestructura técnica ni la legal en torno a los derechos de datos son sencillas. Será difícil llegar a un consenso sobre qué derechos existen. Será aún más difícil implementar nuevas leyes y reglamentos para proteger esos derechos. Como en el debate actual en el Congreso de los Estados Unidos, grupos de interes y cabilderos de la industria peleará por detalles importantes. Los equilibrios logrados en diferentes países serán diferentes. Pero sin una infraestructura sólida y vigorosa de derechos de datos, la sociedad democrática abierta no puede sobrevivir.

esconder