211service.com
Por qué deberíamos esperar que los algoritmos estén sesgados
Las tecnologías impulsadas por algoritmos e inteligencia artificial están cada vez más presentes en nuestras vidas, y ahora nos topamos regularmente con una pregunta espinosa: ¿pueden estos programas ser actores neutrales? ¿O siempre reflejarán algún grado de sesgo humano?
La disputa sobre la lista de temas de tendencia de Facebook y su posible sesgo liberal tocó tal nervio que el Senado de EE.UU. llamó a la empresa para que presente una explicación oficial, y esta semana la directora de operaciones, Sheryl Sandberg, dijo que la empresa comenzará capacitar a los empleados para identificar y controlar sus inclinaciones políticas.
Sin embargo, este es solo un resultado de una tendencia más amplia que Fred Benenson, exjefe de datos de Kickstarter, llama lavado de matemáticas : nuestra tendencia a idolatrar programas como el de Facebook como completamente objetivos porque tienen matemáticas en su núcleo.
Un área de posible sesgo proviene del hecho de que muchos de los programadores que crean estos programas, especialmente los expertos en aprendizaje automático, son hombres. En una reciente Artículo de Bloomberg , Margaret Mitchell, investigadora de Microsoft, es citada lamentando los peligros de un mar de tipos haciendo las preguntas centrales para crear estos programas.
La preocupación sobre este tema se ha estado acumulando durante algún tiempo, ya que los estudios encontraron evidencia de sesgo en la publicidad en línea, las estrategias de contratación y fijación de precios impulsadas por algoritmos supuestamente neutrales.
En uno estudio , la profesora de Harvard Latanya Sweeney examinó los anuncios de Google AdSense que surgieron durante las búsquedas de nombres asociados con bebés blancos (Geoffrey, Jill, Emma) y nombres asociados con bebés negros (DeShawn, Darnell, Jermaine). Descubrió que los anuncios que contenían la palabra arresto se mostraban junto a más del 80 por ciento de las búsquedas de nombres de negros, pero menos del 30 por ciento de las búsquedas de nombres de blancos.
A Sweeney le preocupa que las formas en que la tecnología publicitaria de Google perpetúa el sesgo racial podría socavar las posibilidades de una persona negra en una competencia, ya sea por un premio, una cita o un trabajo.
Deben tener especial cuidado áreas como el préstamo y el crédito que tradicionalmente han sufrido una notoria discriminación humana.
ZestFinance, un prestamista en línea fundado en la idea de que los programas de aprendizaje automático pueden ampliar la cantidad de personas consideradas solventes al observar decenas de miles de puntos de datos, sostiene que está bien sintonizado con los peligros de los préstamos discriminatorios. Para protegerse contra la discriminación, ZestFinance ha creado herramientas para probar sus propios resultados.
Pero sigue existiendo el peligro de que un sesgo no reconocido, no solo en la programación de un algoritmo, sino incluso en los datos que fluyen hacia él, podría convertir inadvertidamente cualquier programa en un discriminador. Para los consumidores que no pueden desentrañar las complejidades de estos programas, será difícil saber si han recibido un trato justo.
Los productos basados en algoritmos y datos siempre reflejarán las elecciones de diseño de los humanos que los construyeron, explicó Benenson en una reciente sesión de preguntas y respuestas con Technical.ly Brooklyn, y es irresponsable suponer lo contrario.
(Lee mas : Wall Street Journal , Technical.ly Brooklyn , Bloomberg , AI despega [PDF])