AI tiene una visión del mundo culturalmente sesgada que Google tiene un plan para cambiar

Categoría: Inteligencia artificial Al corriente 02 de diciembre

Google ha lanzado un Concurso Imágenes Inclusivas , un esfuerzo por expandir la fluidez cultural del software de reconocimiento de imágenes. La tarea para los participantes: reducir el sesgo en un sistema de visión por computadora entrenado en un conjunto de datos de imágenes culturalmente sesgado.

El contexto: Las máquinas deben entrenarse con cantidades masivas de datos de imágenes para reconocer objetos. Los avances recientes en el reconocimiento de imágenes han coincidido con el lanzamiento de grandes conjuntos de datos disponibles públicamente, que incluyen ImageNet y Imágenes abiertas .

El problema: Sin embargo, los conjuntos de datos más populares están centrados en los EE. UU. y Occidente, simplemente porque esas imágenes occidentales dominaban Internet cuando se compilaron los conjuntos de datos. Como consecuencia, los sistemas entrenados en ellos a menudo no logran describir con precisión escenas de otras culturas y lugares. Tome fotos de la boda como un ejemplo. Un sistema estándar de reconocimiento de imágenes, entrenado en conjuntos de datos de código abierto, puede reconocer a una novia con un vestido blanco, lo que refleja la tradición occidental clásica. Pero no reconocerá a una novia con un sari de una ceremonia india.

El reto: Una forma de mitigar este problema es crear conjuntos de datos de imágenes más diversos y representativos. Si bien Google sigue este enfoque, la compañía también cree en avanzar de otra manera: ajustando los algoritmos de aprendizaje automático para que sean más inclusivos cuando aprenden de datos imperfectos.

Los resultados: Organizado en asociación con la conferencia Neural Information Processing Systems (NeurIPS), una de las reuniones anuales más grandes para la investigación de IA, la competencia recibió presentaciones de más de 100 participantes. El investigador de Google Brain, Pallavi Baljekar, señaló en una conferencia el domingo 2 de diciembre que el estudiante de primer año ganadores de la competencia fueron capaces de dar pequeños pasos hacia sistemas más inclusivos. Pero solo uno de los cinco enfoques principales reconoció con éxito a una novia india. Está claro que hay que trabajar más.