La discriminación de datos significa que los pobres pueden experimentar una Internet diferente

El análisis de datos se está utilizando para implementar una forma sutil de discriminación, mientras que los conjuntos de datos anónimos se pueden extraer para revelar datos de salud y otra información privada, advirtió un investigador de Microsoft esta mañana en Revisión de tecnología del MIT Conferencia de EmTech.

División de datos: Kate Crawford hablando hoy en la conferencia EmTech en MIT.

Kate Crawford , investigador principal de Microsoft Research, argumentó que estos problemas podrían abordarse con nuevos enfoques legales para el uso de datos personales.

En un nuevo papel , ella y un colega proponen un sistema de debido proceso que daría a las personas más derechos legales para comprender cómo se utilizan los análisis de datos en las determinaciones que se toman en su contra, como la denegación de un seguro médico o un trabajo. Es el comienzo de una conversación sobre cómo hacer esto mejor, dijo Crawford, quien también es profesor visitante en el MIT Center for Civic Media, en una entrevista antes del evento. La gente piensa que 'big data' evita el problema de la discriminación, porque se trata de grandes conjuntos de datos, pero de hecho se está utilizando big data para formas cada vez más precisas de discriminación, una forma de redlining de datos.

Durante su charla de esta mañana, Crawford agregó que con big data, nunca se sabrá cuáles son esas discriminaciones, y creo que ahí es donde comienza la preocupación.

Los datos de salud son particularmente vulnerables, dice el investigador. Los términos de búsqueda para síntomas de enfermedades, las compras en línea de suministros médicos e incluso las etiquetas RFID en los envases de los medicamentos pueden proporcionar a los sitios web y a los minoristas información sobre la salud de una persona.

Como Crawford y Jason Schultz , un profesor de la Facultad de Derecho de la Universidad de Nueva York, escribió en su artículo: Cuando estos conjuntos de datos se comparan con la información de salud tradicional, como está diseñado para hacer el big data, es posible generar una imagen detallada sobre la salud de una persona, incluyendo información que una persona nunca pudo haber revelado a un proveedor de salud.

Y una reciente Universidad de Cambridge estudio , al que Crawford aludió durante su charla, descubrió que los atributos personales altamente sensibles, incluida la orientación sexual, los rasgos de personalidad, el uso de sustancias adictivas e incluso la separación de los padres, son altamente predecibles al analizar en qué hacen clic las personas para indicar que les gusta en Facebook. El estudio analizó los gustos de 58.000 usuarios de Facebook.

De manera similar, los historiales de compra, los tweets y la información demográfica, de ubicación y otra información recopilada sobre usuarios individuales de la Web, cuando se combinan con datos de otras fuentes, pueden dar como resultado nuevos tipos de perfiles que un empleador o propietario podría usar para negarle a alguien un trabajo o un cargo. Departamento.

En respuesta a tales riesgos, los autores del artículo proponen un marco legal que denominan proceso debido de big data. Bajo este concepto, una persona que ha estado sujeta a alguna determinación, ya sea la denegación de un seguro médico, el rechazo de una solicitud de empleo o vivienda, o un arresto, tendría derecho a aprender cómo se utilizó el análisis de big data.

Esto implicaría el tipo de derechos de divulgación y contrainterrogatorio que ya están consagrados en los sistemas legales de los Estados Unidos y muchas otras naciones. Antes de que pueda haber una mayor aceptación social del papel del big data en la toma de decisiones, especialmente dentro del gobierno, también debe parecer justo y tener un grado aceptable de previsibilidad, transparencia y racionalidad, escriben los autores.

El análisis de datos también puede hacer las cosas profundamente mal, señala Crawford. Incluso el uso anteriormente exitoso de los términos de búsqueda de Google para identificar brotes de gripe fracasó el año pasado, cuando los casos reales no cumplieron con las predicciones. El aumento de la cobertura mediática relacionada con la gripe y las conversaciones sobre la gripe en las redes sociales se confundieron con signos de personas que se quejaban de estar enfermas, lo que llevó a las sobreestimaciones. Aquí es donde los datos de las redes sociales pueden complicarse, dijo Crawford.

Y puede haber fallas más básicas en lo que nos dicen los datos. Por ejemplo, después del huracán Sandy, hubo pocos tweets de áreas más afectadas lejos de Manhattan. Si comenzamos a usar conjuntos de datos de las redes sociales para tomar el pulso a una nación o comprender una crisis, o realmente lo usamos para desplegar recursos, obtendremos una imagen sesgada de lo que está sucediendo, advirtió Crawford en su charla.

esconder