Así es como perdimos el control de nuestras caras

Getty

En 1964, matemático e informático Woodrow Bledsoe primero intentó la tarea de hacer coincidir las caras de los sospechosos con las fotografías policiales. Midió las distancias entre diferentes rasgos faciales en fotografías impresas y las introdujo en un programa de computadora. Sus éxitos rudimentarios desencadenarían décadas de investigación sobre cómo enseñar a las máquinas a reconocer rostros humanos.

Ahora un nuevo estudio muestra cuánto esta empresa ha erosionado nuestra privacidad. No solo ha alimentado una herramienta de vigilancia cada vez más poderosa. La última generación de reconocimiento facial basado en el aprendizaje profundo ha interrumpido por completo nuestras normas de consentimiento.

Deborah Raji, miembro de la organización sin fines de lucro Mozilla, y Genevieve Fried, quien asesora a miembros del Congreso de EE. UU. sobre responsabilidad algorítmica, examinaron más de 130 conjuntos de datos de reconocimiento facial compilados durante 43 años. Descubrieron que los investigadores, impulsados ​​por los crecientes requisitos de datos del aprendizaje profundo, abandonaron gradualmente el pedir el consentimiento de las personas. Esto ha llevado a que más y más fotos personales de las personas se incorporen a los sistemas de vigilancia sin su conocimiento.

También ha dado lugar a conjuntos de datos mucho más desordenados: pueden incluir fotos de menores sin querer, usar etiquetas racistas y sexistas, o tener una calidad e iluminación inconsistentes. La tendencia podría ayudar a explicar el creciente número de casos en los que los sistemas de reconocimiento facial han fallado con consecuencias preocupantes, como el arrestos falsos de dos hombres negros en el área de Detroit el año pasado.

La gente era extremadamente cautelosa al recopilar, documentar y verificar datos faciales en los primeros días, dice Raji. Ahora ya no nos importa. Todo eso ha sido abandonado, dice ella. Simplemente no puedes hacer un seguimiento de un millón de caras. Después de cierto punto, ni siquiera puedes fingir que tienes el control.

Un historial de datos de reconocimiento facial

Los investigadores identificaron cuatro eras principales de reconocimiento facial, cada una impulsada por un deseo creciente de mejorar la tecnología. La primera fase, que duró hasta la década de 1990, se caracterizó en gran medida por métodos intensivos manualmente y computacionalmente lentos.

Pero luego, al darse cuenta de que el reconocimiento facial podía rastrear e identificar a las personas de manera más efectiva que las huellas dactilares, el Departamento de Defensa de EE. UU. invirtió $ 6,5 millones para crear el primer conjunto de datos faciales a gran escala. Más de 15 sesiones de fotografía en tres años, el proyecto capturó 14.126 imágenes de 1.199 personas. La base de datos de Tecnología de reconocimiento facial (FERET) se publicó en 1996.

La década siguiente vio un repunte en la investigación académica y comercial de reconocimiento facial, y se crearon muchos más conjuntos de datos. La gran mayoría se obtuvo a través de sesiones de fotos como las de FERET y contó con el pleno consentimiento de los participantes. Muchos también incluían metadatos meticulosos, dice Raji, como la edad y el origen étnico de los sujetos, o información sobre la iluminación. Pero estos primeros sistemas tuvieron problemas en entornos del mundo real, lo que llevó a los investigadores a buscar conjuntos de datos más grandes y diversos.

En 2007, el lanzamiento del conjunto de datos Labeled Faces in the Wild (LFW) abrió las puertas a la recopilación de datos a través de la búsqueda web. Los investigadores comenzaron a descargar imágenes directamente de Google, Flickr y Yahoo sin preocuparse por el consentimiento. Un conjunto de datos posterior compilado por otros investigadores llamado LFW+ también relajó los estándares en torno a la inclusión de menores, utilizando fotos encontradas con términos de búsqueda como bebé, juvenil y adolescente para aumentar la diversidad. Este proceso hizo posible crear conjuntos de datos significativamente más grandes en poco tiempo, pero el reconocimiento facial aún enfrentaba muchos de los mismos desafíos que antes. Esto empujó a los investigadores a buscar aún más métodos y datos para superar el bajo rendimiento de la tecnología.

Luego, en 2014, Facebook usó las fotos de sus usuarios para entrenar un modelo de aprendizaje profundo llamado DeepFace. Si bien la empresa nunca publicó el conjunto de datos, el rendimiento sobrehumano del sistema elevó el aprendizaje profundo al método de facto para analizar rostros. Fue entonces cuando la verificación manual y el etiquetado se volvieron casi imposibles a medida que los conjuntos de datos crecieron a decenas de millones de fotos, dice Raji. También es cuando empiezan a aparecer fenómenos realmente extraños, como etiquetas autogeneradas que incluyen terminología ofensiva.

Historia relacionada

Una IA vio una foto recortada de AOC. La autocompletaba usando un bikini. Los algoritmos de generación de imágenes están regurgitando las mismas ideas sexistas y racistas que existen en Internet.

La forma en que se usaron los conjuntos de datos también comenzó a cambiar en esta época. En lugar de tratar de hacer coincidir a los individuos, los nuevos modelos comenzaron a centrarse más en la clasificación. En lugar de decir: '¿Es esta una foto de Karen? Sí o no', se convirtió en 'Vamos a predecir la personalidad interna de Karen, o su origen étnico', y clasificar a las personas en estas categorías, dice Raji.

Amba Kak, directora de política global de AI Now, que no participó en la investigación, dice que el documento ofrece una imagen clara de cómo ha evolucionado la industria biométrica. El aprendizaje profundo puede haber rescatado a la tecnología de algunas de sus dificultades, pero ese avance tecnológico también ha tenido un costo, dice. Ha surgido todos estos problemas con los que ahora estamos bastante familiarizados: consentimiento, extracción, problemas de IP, privacidad.

Daño que engendra daño

Raji dice que su investigación sobre los datos la ha preocupado mucho por el reconocimiento facial basado en el aprendizaje profundo.

Es mucho más peligroso, dice ella. El requisito de datos lo obliga a recopilar información increíblemente confidencial sobre, como mínimo, decenas de miles de personas. Te obliga a violar su privacidad. Eso en sí mismo es una base de daño. Y luego estamos acumulando toda esta información que no puedes controlar para construir algo que probablemente funcionará de formas que ni siquiera puedes predecir. Esa es realmente la naturaleza de donde estamos.

Ella espera que el documento provoque que los investigadores reflexionen sobre el equilibrio entre las ganancias de rendimiento derivadas del aprendizaje profundo y la pérdida de consentimiento, la verificación meticulosa de datos y la documentación exhaustiva. ¿Valió la pena abandonar todas estas prácticas para hacer un aprendizaje profundo? ella dice.

Ella insta a aquellos que quieran continuar desarrollando el reconocimiento facial a que consideren desarrollar diferentes técnicas: Para que realmente intentemos usar esta herramienta sin lastimar a las personas, será necesario volver a imaginar todo lo que sabemos al respecto.

Corrección, 15 de febrero de 2021: Una versión anterior del artículo afirmaba que el conjunto de datos Labeled Faces in the Wild (LFW) 'relajó los estándares en torno a la inclusión de menores'. De hecho, fue el conjunto de datos LFW+, que fue compilado posteriormente por un grupo diferente de investigadores.

esconder