Eliminar conjuntos de datos poco éticos no es suficiente

Sra. Tecnología | pixabay

En 2016, con la esperanza de impulsar los avances en el reconocimiento facial, Microsoft lanzó la base de datos de rostros más grande del mundo. Llamado MS-Celeb-1M, contenía 10 millones de imágenes de 100.000 rostros de celebridades. Sin embargo, la celebridad estaba vagamente definida.

Tres años después, los investigadores Adam Harvey y Jules LaPlace revisó el conjunto de datos y encontró muchas personas comunes, como periodistas, artistas, activistas y académicos, que mantienen una presencia en línea para sus vidas profesionales. Ninguno había dado su consentimiento para ser incluido y, sin embargo, sus rostros habían llegado a la base de datos y más allá; empresas como Facebook, IBM, Baidu y SenseTime, uno de los gigantes de reconocimiento facial más grandes de China, que vende su tecnología a la policía china, realizaron una investigación utilizando la colección de rostros.

Poco después de la investigación de Harvey y LaPlace, y después de recibir críticas de los periodistas , Microsoft eliminó el conjunto de datos, diciendo simplemente: El desafío de la investigación ha terminado. Pero las preocupaciones de privacidad que creó persisten en una tierra para siempre de Internet. Y este caso no es el único.

Raspar la web en busca de imágenes y texto alguna vez se consideró una estrategia ingeniosa para recopilar datos del mundo real. Ahora, leyes como el RGPD (el reglamento de protección de datos de Europa) y la creciente preocupación pública por la privacidad y la vigilancia de los datos han hecho que la práctica sea legalmente arriesgada e indecorosa. Como resultado, los investigadores de IA se han retractado cada vez más de los conjuntos de datos que crearon de esta manera.

Pero un nuevo estudio muestra que esto ha hecho poco para evitar que los datos problemáticos proliferen y se utilicen. Los autores seleccionaron tres de los conjuntos de datos más comúnmente citados que contienen rostros o personas, dos de los cuales se habían retractado; rastrearon las formas en que cada uno había sido copiado, usado y reutilizado en cerca de 1,000 artículos.

En el caso de MS-Celeb-1M, aún existen copias en sitios de terceros y en conjuntos de datos derivados construidos sobre el original. Los modelos de código abierto entrenados previamente en los datos también están disponibles. El conjunto de datos y sus derivados también se citaron en cientos de artículos publicados entre seis y 18 meses después de la retractación.

DukeMTMC, un conjunto de datos que contiene imágenes de personas caminando en el campus de la Universidad de Duke y retractado en el mismo mes que MS-Celeb-1M, persiste de manera similar en conjuntos de datos derivados y cientos de citas en papel.

La lista de lugares donde persisten los datos es más extensa de lo que hubiéramos pensado inicialmente, dice Kenny Peng, estudiante de segundo año en Princeton y coautor del estudio. E incluso eso, dice, es probablemente una subestimación, porque las citas en los trabajos de investigación no siempre dan cuenta de las formas en que los datos podrían usarse comercialmente.

Se puso salvaje

Parte del problema, según el periódico de Princeton, es que quienes recopilan conjuntos de datos pierden rápidamente el control de sus creaciones.

Los conjuntos de datos publicados para un propósito pueden ser cooptados rápidamente para otros que los creadores originales nunca pretendieron ni imaginaron. MS-Celeb-1M, por ejemplo, estaba destinado a mejorar el reconocimiento facial de las celebridades, pero desde entonces se ha utilizado para un reconocimiento facial más general y un análisis de rasgos faciales, encontraron los autores. También ha sido reetiquetado o reprocesado en conjuntos de datos derivados como Racial Faces in the Wild, que agrupa sus imágenes por raza, abriendo la puerta a aplicaciones controvertidas.

Historia relacionada

Así es como perdimos el control de nuestras caras

El estudio más grande jamás realizado sobre datos de reconocimiento facial muestra cuánto el auge del aprendizaje profundo ha provocado una pérdida de privacidad.

El análisis de los investigadores también sugiere que Labeled Faces in the Wild (LFW), un conjunto de datos introducido en 2007 y el primero en utilizar imágenes de caras extraídas de internet , se ha transformado varias veces a lo largo de casi 15 años de uso. Si bien comenzó como un recurso para evaluar modelos de reconocimiento facial solo para investigación, ahora se usa casi exclusivamente para evaluar sistemas destinados al uso en el mundo real. Esto es a pesar de una etiqueta de advertencia en el sitio web del conjunto de datos que advierte contra dicho uso.

Más recientemente, el conjunto de datos se reutilizó en un derivado llamado SMFRD, que agregó máscaras faciales a cada una de las imágenes para avanzar en el reconocimiento facial durante la pandemia. Los autores señalan que esto podría plantear nuevos desafíos éticos. Los defensores de la privacidad han criticado tales aplicaciones por fomentar la vigilancia, por ejemplo, y especialmente por permitir que el gobierno identifique a los manifestantes enmascarados.

Este es un documento realmente importante, porque los ojos de las personas generalmente no han estado abiertos a las complejidades y los daños y riesgos potenciales de los conjuntos de datos, dice Margaret Mitchell, investigadora de ética de IA y líder en prácticas de datos responsables, que no participó en el estudio.

Durante mucho tiempo, la cultura dentro de la comunidad de IA ha sido asumir que los datos existen para ser utilizados, agrega. Este documento muestra cómo eso puede conducir a problemas en el futuro. Es realmente importante pensar en los diversos valores que codifica un conjunto de datos, así como los valores que codifica tener un conjunto de datos disponible, dice.

Un arreglo

Los autores del estudio brindan varias recomendaciones para que la comunidad de IA avance. En primer lugar, los creadores deberían comunicar con mayor claridad el uso previsto de sus conjuntos de datos, tanto a través de licencias como de documentación detallada. También deberían imponer límites más estrictos al acceso a sus datos, tal vez exigiendo a los investigadores que firmen los términos del acuerdo o pidiéndoles que completen una solicitud, especialmente si tienen la intención de construir un conjunto de datos derivados.

En segundo lugar, las conferencias de investigación deberían establecer normas sobre cómo se deben recopilar, etiquetar y utilizar los datos, y deberían crear incentivos para la creación responsable de conjuntos de datos. NeurIPS, la conferencia de investigación de IA más grande, ya incluye una lista de verificación de mejores prácticas y pautas éticas.

Mitchell sugiere llevarlo aún más lejos. Como parte de el proyecto BigScience , una colaboración entre investigadores de IA para desarrollar un modelo de IA que pueda analizar y generar lenguaje natural bajo un riguroso estándar de ética, ha estado experimentando con la idea de crear organizaciones de administración de conjuntos de datos: equipos de personas que no solo manejan la curación, el mantenimiento, y el uso de los datos, sino también trabajar con abogados, activistas y el público en general para asegurarse de que cumpla con los estándares legales, se recopile solo con consentimiento y se pueda eliminar si alguien elige retirar información personal. Tales organizaciones de administración no serían necesarias para todos los conjuntos de datos, pero ciertamente para los datos raspados que podrían contener información biométrica o de identificación personal o propiedad intelectual.

La recopilación y el monitoreo de conjuntos de datos no es una tarea única para una o dos personas, dice ella. Si está haciendo esto de manera responsable, se divide en un montón de tareas diferentes que requieren un pensamiento profundo, una gran experiencia y una variedad de personas diferentes.

En los últimos años, el campo se ha movido cada vez más hacia la creencia de que conjuntos de datos más cuidadosamente seleccionados será clave para superar muchos de los desafíos técnicos y éticos de la industria. Ahora está claro que construir conjuntos de datos más responsables no es suficiente. Quienes trabajan en IA también deben comprometerse a largo plazo a mantenerlos y usarlos de manera ética.

esconder