211service.com
El algoritmo de publicación de anuncios de Facebook discrimina por género y raza
Sra. Tech/ Logotipo: facebook
Los algoritmos están sesgados, y el de Facebook no es una excepción.
La semana pasada, el gigante tecnológico fue demandado por el Departamento de Vivienda y Desarrollo Urbano de los EE. UU. por la forma en que permitió que los anunciantes segmentaran deliberadamente sus anuncios por raza, género y religión, todas clases protegidas por la ley de los EE. UU. La compañía anunció que dejaría de permitir esto.
Pero nueva evidencia muestra que el algoritmo de Facebook, que decide automáticamente a quién se le muestra un anuncio, lleva a cabo la misma discriminación de todos modos, mostrando anuncios a más de dos mil millones de usuarios sobre la base de su información demográfica.
Un equipo dirigido por Muhammad Ali y Piotr Sapiezynski de la Universidad Northeastern publicó una serie de anuncios idénticos con ligeras variaciones en el presupuesto, el título, el texto o la imagen disponibles. Descubrieron que esos ajustes sutiles tenían un impacto significativo en la audiencia a la que llegaba cada anuncio, sobre todo cuando los anuncios eran para trabajos o bienes raíces. Las publicaciones para maestras de preescolar y secretarias, por ejemplo, se mostraron a una mayor proporción de mujeres, mientras que las publicaciones para conserjes y taxistas se mostraron a una mayor proporción de minorías. Los anuncios sobre casas en venta también se mostraron a más usuarios blancos, mientras que los anuncios de alquileres se mostraron a más minorías.
Hemos realizado cambios importantes en nuestras herramientas de orientación de anuncios y sabemos que este es solo el primer paso, un portavoz de Facebook dicho en una declaración en respuesta a los hallazgos. Hemos estado analizando nuestro sistema de entrega de anuncios y hemos involucrado a líderes de la industria, académicos y expertos en derechos civiles en este mismo tema, y estamos explorando más cambios.
De alguna manera, esto no debería sorprender: el sesgo en los algoritmos de recomendación ha sido un problema conocido durante muchos años. En 2013, por ejemplo, Latanya Sweeney, profesora de gobierno y tecnología en Harvard, publicó un artículo que mostraba la discriminación racial implícita del algoritmo de publicación de anuncios de Google. El problema se remonta a cómo funcionan fundamentalmente estos algoritmos. Todos ellos se basan en el aprendizaje automático, que encuentra patrones en cantidades masivas de datos y los vuelve a aplicar para tomar decisiones. Hay muchas formas en que el sesgo puede filtrarse durante este proceso, pero las dos más evidentes en el caso de Facebook se relacionan con problemas durante la elaboración del problema y la recopilación de datos.
El sesgo ocurre durante la formulación del problema cuando el objetivo de un modelo de aprendizaje automático no está alineado con la necesidad de evitar la discriminación. La herramienta de publicidad de Facebook permite a los anunciantes seleccionar entre tres objetivos de optimización: la cantidad de vistas que obtiene un anuncio, la cantidad de clics y la cantidad de participación que recibe, y la cantidad de ventas que genera. Pero esos objetivos comerciales no tienen nada que ver con, por ejemplo, mantener la igualdad de acceso a la vivienda. Como resultado, si el algoritmo descubría que podría obtener más participación al mostrar más casas para comprar a los usuarios blancos, terminaría discriminando a los usuarios negros.
El sesgo ocurre durante la recopilación de datos cuando los datos de capacitación reflejan los prejuicios existentes. La herramienta de publicidad de Facebook basa sus decisiones de optimización en las preferencias históricas que las personas han demostrado. Si más minorías se involucraron con anuncios de alquileres en el pasado, el modelo de aprendizaje automático identificará ese patrón y lo volverá a aplicar a perpetuidad. Una vez más, avanzará a ciegas por el camino de la discriminación en el empleo y la vivienda, sin que se le indique explícitamente que lo haga.
Si bien estos comportamientos en el aprendizaje automático se han estudiado durante bastante tiempo, el nuevo estudio ofrece una mirada más directa al alcance de su impacto en el acceso de las personas a las oportunidades de vivienda y empleo. ¡Estos hallazgos son explosivos! Christian Sandvig, director del Centro de Ética, Sociedad y Computación de la Universidad de Michigan, dijo El economista. El documento nos dice que los grandes [...] datos, usados de esta manera, nunca podrán brindarnos un mundo mejor. De hecho, es probable que estos sistemas estén empeorando el mundo al acelerar los problemas en el mundo que hacen que las cosas sean injustas.
La buena noticia es que puede haber formas de abordar este problema, pero no será fácil. Muchos investigadores de IA ahora están buscando soluciones técnicas para el sesgo de aprendizaje automático que podrían crear modelos más justos de publicidad en línea. Un reciente papel de la Universidad de Yale y el Instituto Indio de Tecnología, por ejemplo, sugiere que puede ser posible restringir los algoritmos para minimizar el comportamiento discriminatorio, aunque a un pequeño costo para los ingresos publicitarios. Pero los formuladores de políticas deberán desempeñar un papel más importante si las plataformas van a comenzar a invertir en tales soluciones, especialmente si puede afectar sus resultados.
Esto apareció originalmente en nuestro boletín de AI The Algorithm. Para recibirlo directamente en su bandeja de entrada, regístrese aquí de forma gratuita.