Los datos radiactivos de Facebook rastrean las imágenes utilizadas para entrenar una IA

Categoría: Inteligencia artificial Al corriente Feb 06

Las noticias: Un equipo de Facebook AI Research ha desarrollado una forma para rastrear exactamente qué imágenes en un conjunto de datos se utilizaron para entrenar un modelo de aprendizaje automático. Al hacer ajustes imperceptibles a las imágenes, creando una especie de marca de agua, pudieron hacer pequeños cambios correspondientes en la forma en que funciona un clasificador de imágenes entrenado en esas imágenes, sin afectar su precisión general. Esto les permitió relacionar los modelos con las imágenes que se usaron para entrenarlos.

Por qué importa: Facebook llama a la técnica datos radiactivos porque es análoga al uso de marcadores radiactivos en medicina, que aparecen en el cuerpo bajo rayos X. Resaltar qué datos se han utilizado para entrenar una IA hace que los modelos sean más transparentes, señalando posibles fuentes de sesgo, como un modelo entrenado en un conjunto de imágenes no representativo, o revelando cuándo se usó un conjunto de datos sin permiso o con fines inapropiados.

No cometer errores: Un gran desafío fue cambiar las imágenes sin romper el modelo resultante. Pequeños ajustes a la entrada de una IA a veces pueden llevarla a cometer errores estúpidos, como identificar una tortuga como un arma o un perezoso como un auto de carreras. Facebook se aseguró de diseñar sus marcas de agua para que esto no sucediera. El equipo probó su técnica en ImageNet, un conjunto de datos ampliamente utilizado de más de 14 millones de imágenes, y descubrió que podían detectar el uso de datos radiactivos con alta confianza en un modelo particular incluso cuando solo se había marcado el 1% de las imágenes.