211service.com
El Reino Unido está lanzando un algoritmo de inmigración que los críticos dicen que es racista
James Cridland / Flickr
Las noticias: El Ministerio del Interior del Reino Unido ha dicho que dejar de usar un algoritmo para procesar solicitudes de visa que, según los críticos, tienen prejuicios raciales. Opositores a ella discutir que el uso de la nacionalidad por parte del algoritmo para decidir qué solicitudes se aceleran ha llevado a un sistema en el que las personas de países blancos ricos obtienen Speedy Boarding; las personas de color más pobres son empujadas al final de la fila.
Tiempo para un rediseño: El Ministerio del Interior niega que su sistema tenga prejuicios raciales y el litigio aún está en curso. Aun así, el Ministerio del Interior acordó abandonar el algoritmo y planea relanzar una versión rediseñada a finales de este año, después de realizar una revisión completa que buscará sesgos inconscientes. Mientras tanto, el Reino Unido adoptará un sistema temporal que no utiliza la nacionalidad para clasificar las solicitudes.
Sistema de trafico: Desde 2015, el Reino Unido filtra las solicitudes de visa mediante un sistema de semáforos que asigna un nivel de riesgo rojo, ámbar o verde a cada solicitante. Las personas a las que se les asignó un nivel de riesgo rojo tenían más probabilidades de ser rechazadas.
Tendencia más amplia: Se sabe que los algoritmos afianzar los sesgos institucionales , especialmente los racistas. Sin embargo, se utilizan cada vez más para ayudar a tomar decisiones importantes, desde verificaciones de crédito hasta solicitudes de visa y audiencias previas al juicio y vigilancia . Los críticos se han quejado de que el sistema de inmigración de EE. racialmente sesgado también. Pero en la mayoría de los casos, es difícil desglosar exactamente cómo funcionan estos algoritmos y exponer evidencia de su sesgo porque muchos son propietarios y su uso tiene poca supervisión pública.
Pero las críticas crecen. En los Estados Unidos, algunos departamentos de policía están suspendiendo algoritmos predictivos controvertidos y las empresas de tecnología tienen dejó de suministrar tecnología de reconocimiento facial sesgada . En febrero un tribunal holandés dictaminó que un sistema que predecía la probabilidad de que una persona cometiera fraude fiscal o de asistencia social era ilegal porque se dirigía injustamente a las minorías. La decisión del Ministerio del Interior del Reino Unido de revisar su sistema sin esperar una resolución judicial podría convertirse en un hito.