Facebook dice que buscará prejuicios raciales en sus algoritmos

Categoría: Inteligencia artificial Al corriente Jul 22

Las noticias: Facebook dice que se está configurando nuevos equipos internos para buscar prejuicios raciales en los algoritmos que impulsan su principal red social e Instagram, según el Wall Street Journal. En particular, las investigaciones abordarán los efectos adversos del aprendizaje automático, que puede codificar el racismo implícito en datos de capacitación—sobre negros, hispanos y otros grupos minoritarios.

Por qué importa: En los últimos años, un número cada vez mayor de investigadores y activistas han destacado el problema de la sesgo en IA y el impacto desproporcionado que tiene en las minorías . Facebook, que utiliza el aprendizaje automático para curar la experiencia diaria de sus 2.500 millones de usuarios, está muy atrasado para una evaluación interna de este tipo. Ya hay evidencia de que los algoritmos de publicación de anuncios de Facebook discriminar por raza y permitir que los anunciantes impidan que grupos raciales específicos vean sus anuncios, por ejemplo.

Bajo presión: Facebook tiene un historial de esquivar las acusaciones de parcialidad en sus sistemas. Han sido necesarios varios años de mala prensa y presión de los grupos de derechos civiles para llegar a este punto. Facebook ha creado estos equipos después de un boicot publicitario de un mes organizado por grupos de derechos civiles, incluida la Liga Antidifamación, Color of Change y la NAACP, que llevó a grandes consumidores como Coca-Cola, Disney, McDonald's y Starbucks a suspender sus campañas.

Sin solución fácil: El movimiento es bienvenido. Pero iniciar una investigación está muy lejos de solucionar el problema del prejuicio racial, especialmente cuando nadie sabe realmente cómo solucionarlo. En la mayoría de los casos, existe sesgo en los datos de entrenamiento y no hay buenas formas acordadas para eliminarlo. Y ajustar esos datos, una forma de acción afirmativa algorítmica —es polémico. El sesgo del aprendizaje automático también es solo uno de los problemas de las redes sociales en torno a la raza. Si Facebook va a analizar sus algoritmos, debería ser parte de una revisión más amplia que también lidia con políticas que brindan plataformas a políticos racistas, grupos de supremacía blanca y negadores del Holocausto.

'Seguiremos trabajando en estrecha colaboración con el equipo de inteligencia artificial responsable de Facebook para asegurarnos de que estamos analizando posibles sesgos en nuestras respectivas plataformas', dice Stephanie Otway, portavoz de Instagram. 'Es pronto y planeamos compartir más detalles sobre este trabajo en los próximos meses'.