211service.com
El racismo está envenenando la publicación de anuncios en línea, dice el profesor de Harvard
¿Alguna vez ha sido arrestado? Imagine que la pregunta no aparece en la soledad de sus pensamientos mientras lee este documento, sino que aparece explícitamente cada vez que alguien consulta su nombre en un motor de búsqueda.
Captura de pantalla de un anuncio de Google.
Así comienza Latanya Sweeney de la Universidad de Harvard en un convincente artículo en el que sostiene que la discriminación racial afecta la distribución de anuncios en línea.
Muchas personas tendrán experiencia en buscar en Google a amigos, colegas y familiares para conocer su presencia en línea: los sitios web en los que aparecen, sus imágenes, pasatiempos, etc.
El interés de Sweeney está en los anuncios que aparecen junto a estos resultados. Cuando ingresó su nombre en Google, apareció un anuncio con la siguiente redacción:
Latanya Sweeney, ¿arrestada? 1) Ingrese el nombre y el estado 2) Acceda al fondo completo. Comprueba al instante. www.instantcheckmate.com
Esta es una redacción sugerente. Sugiere que Latanya Sweeney tiene antecedentes penales a cuyos detalles se puede acceder haciendo clic en el anuncio. Pero después de presionar el enlace y pagar la tarifa de suscripción necesaria, Sweeney dice que no encontró ningún registro de arresto.
Lo interesante de esto es que el nombre de Sweeney también es sugerente: que es negra. La pregunta que hace Sweeney es si una búsqueda similar con un nombre que sugiere un perfil racial blanco también muestra anuncios que mencionan registros de arrestos.
La respuesta es una poderosa llamada de atención. Sweeney dice que tiene evidencia de que los nombres de identificación negros tienen hasta un 25 por ciento más de probabilidades de recibir un anuncio relacionado con el arresto. Existe discriminación en la entrega de estos anuncios, concluye.
Sweeney reunió esta evidencia mediante la recopilación de más de 2000 nombres que sugerían raza. Por ejemplo, nombres como Trevon, Lakisha y Darnell sugieren que el dueño es negro, mientras que nombres como Laurie, Brendan y Katie sugieren que el dueño es blanco.
Luego ingresó estos apellidos más en Google.com y Reuters.com y examinó los anuncios que devolvieron. La mayoría de los nombres generaban anuncios para registros públicos. Sin embargo, los nombres de identificación negra resultaron ser mucho más propensos que los nombres de identificación blanca a generar anuncios que incluían la palabra arresto (60 por ciento versus 48 por ciento). Todos vinieron de www.instantcheckmate.com .
Ella dice que los resultados son estadísticamente significativos con una probabilidad de menos del 0.1 por ciento de que fueron generados por casualidad.
En Reuters.com, los nombres de identificación negros tenían un 25 por ciento más de probabilidades de aparecer con un anuncio relacionado con el arresto.
Ese es un resultado extraordinario y uno que plantea más preguntas de las que responde. El mayor enigma, por supuesto, es qué hace que los anuncios se publiquen con este patrón. Aquí, el misterio del servicio Adsense de Google oscurece considerablemente las cosas.
Sweeney dice que hay esencialmente tres posibilidades. Uno es que www.instantcheckmate.com ha configurado los anuncios que mencionan arrestos para que se publiquen con nombres de identificación negros. Otra es que Google de alguna manera ha sesgado su mecanismo de publicación de anuncios de esta manera.
Una explicación más insidiosa es que la sociedad en su conjunto tiene la culpa. Si el servicio Adsense de Google descubre qué combinaciones de anuncios son más efectivas, primero publicaría los anuncios relacionados con arrestos a todos los nombres al azar. Pero esto cambiaría si descubriera que los clics son más probables cuando estos anuncios se publican con un nombre de identificación negro. En otras palabras, los resultados simplemente reflejan el patrón discriminatorio de clics de la gente común.
Por supuesto, no podemos saberlo sin una mayor comprensión de la caja negra que es Google Adsense.
Claramente, Sweeney ha descubierto un problema serio aquí, dado el impacto que la presencia en línea puede tener en las perspectivas laborales de una persona.
Cualquiera sea la causa, Sweeney dice que la tecnología puede ofrecer algún tipo de solución. Si los algoritmos detrás de Adsense pueden razonar sobre cómo maximizar los ingresos, ella dice que deberían poder razonar sobre las consecuencias legales y sociales de ciertos patrones de clics.
Es una idea interesante que Google, www.instantcheckmate.com y la sociedad en general debería considerarlo con más detalle.
Ref: http://arxiv.org/abs/1301.6822 Discriminación en la entrega de anuncios en línea
Actualización 4 de febrero de 2013 14:34 EST
En respuesta a esta publicación de blog, un portavoz de Google envía el siguiente comentario:
AdWords no realiza ningún perfil racial. Tambien tenemos un política contra la violencia que establece que no permitiremos anuncios que defiendan a una organización, persona o grupo de personas. Depende de los anunciantes individuales decidir qué palabras clave quieren elegir para activar sus anuncios.
Actualización 7 de febrero
Instantcheckmate.com envía la siguiente declaración:
De hecho, Instant Checkmate quisiera declarar inequívocamente que nunca se ha involucrado en la elaboración de perfiles raciales en Google AdWords.
No tenemos absolutamente ninguna tecnología para conectar un nombre con una raza y nunca hemos intentado hacerlo. La idea misma es contraria a los principios y valores más arraigados de nuestra empresa.