Las fotos en línea de las personas se están utilizando sin consentimiento para entrenar la IA de reconocimiento facial

Categoría: Inteligencia artificial Al corriente Mar 13

Las fotos de los rostros de las personas se toman rutinariamente de sitios web para ayudar a desarrollar algoritmos de reconocimiento facial, sin el consentimiento de los sujetos, según un informe de NBC revela.

El último ejemplo: En Enero IBM lanzó un conjunto de datos de casi un millón de fotos que habían sido extraídas del sitio web para compartir fotos Flickr y luego anotadas con información sobre detalles como el tono de la piel. La compañía presentó esto como parte de los esfuerzos para reducir el problema (muy real) del sesgo en el reconocimiento facial. Sin embargo, no obtuvo el consentimiento de nadie para hacer esto, y es casi imposible eliminar las fotos.

Sucio secreto: IBM está lejos de estar solo. A medida que las empresas se esfuerzan por mejorar su tecnología de reconocimiento facial, necesitan acceder a una gran cantidad de imágenes para alimentar sus algoritmos. Simplemente tomar imágenes que ya se han subido a Internet es una forma muy rápida, pero éticamente cuestionable, de hacerlo.

Progreso rápido: El reconocimiento facial puede ser conveniente para desbloquear el teléfono, pero también puede ser una poderosa herramienta de vigilancia. Su uso se está expandiendo rápidamente prácticamente sin supervisión, lo que lleva a un aumento de los pedidos para que se regule la tecnología.

Una tensión: Los algoritmos de reconocimiento facial tienen un registro de precisión deficiente cuando se trata de identificar rostros no blancos, y los sistemas pueden gente misgénero en base, por ejemplo, a la longitud de su cabello. Una forma de combatir esto es agregar más imágenes de, por ejemplo, mujeres negras u hombres con cabello largo a los datos de entrenamiento. Pero hacerlo sin obtener el consentimiento de las personas antes de usar sus fotos hará que muchos se sientan profundamente incómodos.

Suscríbase aquí a nuestro boletín diario The Download para obtener su dosis de las últimas noticias imprescindibles del mundo de la tecnología emergente.