El escándalo de raspado de fotos de IBM muestra la extraña burbuja en la que viven los investigadores de IA

Categoría: Inteligencia artificial Al corriente Mar 15

El martes, NBC publicó una historia con un titular apasionante: El 'pequeño secreto sucio' del reconocimiento facial: millones de fotos en línea extraídas sin consentimiento. I vinculado en nuestra última edición de Algorithm, pero vale la pena revisarlo hoy.

La historia destaca un conjunto de datos reciente publicado por IBM con 1 millón de imágenes de rostros, destinado a ayudar a desarrollar algoritmos de reconocimiento facial más justos. (Escribí sobre las noticias en ese momento también). NBC descubrió que esas caras fueron extraídas directamente del sitio de alojamiento de fotos en línea Flickr, sin el permiso de los sujetos o fotógrafos.

Para algunos de ustedes, esta práctica se sentirá espeluznante y extraña de inmediato. Para otros, parecerá perfectamente normal. Lo que esta historia expuso no fue tanto un pequeño secreto sucio sino, más bien, el abismo cultural entre el público y la comunidad de IA.

Realmente, para los conocedores de la industria, IBM no hizo nada fuera de lo común. Los investigadores de IA recopilan datos de varios rincones de Internet todo el tiempo para alimentar los siempre hambrientos algoritmos de aprendizaje automático que requieren cantidades masivas para entrenar. Las fotos de Instagram, por ejemplo, son una fuente común de datos de imágenes; los hashtags a menudo se corresponden convenientemente con el contenido de las fotos, lo que facilita aún más la generación de datos etiquetados. Los artículos del New York Times y del Wall Street Journal también son una fuente común de datos para oraciones bien escritas y editadas. Aún mejor que estén categorizados por tema: tecnología, negocios, deportes.

De hecho, extraer datos de fuentes disponibles públicamente es un estándar de la industria que se enseña como una habilidad fundamental (sin ética) en la mayoría de las capacitaciones en ciencia de datos y aprendizaje automático. Mientras tanto, la mayoría de las plataformas tecnológicas están diseñadas para invitar a tal raspado al ofrecer API con acceso directo a sus datos. Hasta hace poco, esto se hacía sin pensarlo dos veces. (Hola, Facebook.)

Todo esto no quiere decir que el raspado de datos sea correcto o incorrecto. Hay algunas formas totalmente benignas o legítimas en las que se puede usar la práctica (consulte Analizamos 16,625 artículos para determinar hacia dónde se dirige la IA a continuación); realmente depende del contexto. Más bien, esta historia destaca la necesidad de que la industria de la tecnología adapte sus normas culturales y prácticas estándar para seguir el ritmo de la rápida evolución de la tecnología en sí, así como la conciencia del público sobre cómo se utilizan sus datos.

Hay formas de usar nuestros datos hoy de las que no sabíamos hace cinco o diez años, dice Rumman Chowdhury, líder global de IA responsable en Accenture Applied Intelligence. ¿Cómo es posible que nosotros [el público] hayamos aceptado una capacidad que no existía?

En otras palabras, puede haber sido una práctica viable alguna vez extraer alegremente los datos de las personas, y puede haber sido consentimiento suficiente para que dichos datos se usaran siempre que estuvieran disponibles públicamente, pero el advenimiento de la IA y la escala sin precedentes de La monopolización y monetización de datos de Silicon Valley han cambiado la ecuación. Los tecnólogos tienen la responsabilidad de cambiar con él y asegurarse de que haya un consenso social amplio e informado para sus prácticas.

¿El consejo de Chowdhury para aquellos que luchan por navegar por las áreas grises de la privacidad de datos? Piense si la forma en que está utilizando los datos está en el espíritu con el que se generó y compartió originalmente. Si lo está utilizando de una manera completamente tangencial, es hora de hacer una pausa y reconsiderar.

Esta historia apareció originalmente en nuestro boletín informativo de IA El Algoritmo. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.