211service.com
Cómo actualizar los jueces con aprendizaje automático
jon han
¿Cuándo se debe exigir a un acusado penal que espere el juicio en la cárcel en lugar de en su casa? El software podría mejorar significativamente la capacidad de los jueces para tomar esa decisión, reduciendo el crimen o la cantidad de personas atrapadas esperando en la cárcel.
en un nuevo estudio de la Oficina Nacional de Investigación Económica, economistas e informáticos entrenaron un algoritmo para predecir si los acusados estaban en riesgo de fuga a partir de sus antecedentes penales y registros judiciales utilizando datos de cientos de miles de casos en la ciudad de Nueva York. Cuando se probó en más de cien mil casos más que no había visto antes, el algoritmo demostró ser mejor que los jueces para predecir qué harán los acusados después de la liberación.
jon kleinberg , profesor de ciencias de la computación en Cornell involucrado en la investigación, dice que uno de los objetivos del proyecto era mostrar a los legisladores los beneficios potenciales para la sociedad del uso del aprendizaje automático en el sistema de justicia penal. Esto muestra cómo el aprendizaje automático puede ayudar incluso en contextos en los que se aplica una considerable experiencia humana, dice Kleinberg, quien trabajó en el proyecto con investigadores de Stanford, Harvard y la Universidad de Chicago.
Estiman que para la ciudad de Nueva York, el consejo de su algoritmo podría reducir la delincuencia de los acusados que esperan juicio hasta en un 25 por ciento sin cambiar la cantidad de personas que esperan en la cárcel. Alternativamente, podría usarse para reducir la población carcelaria en espera de juicio en más del 40 por ciento, mientras se mantiene sin cambios la tasa de criminalidad de los acusados. La repetición del experimento con datos de 40 grandes condados urbanos de los EE. UU. arrojó resultados similares.
Como beneficio adicional, ganancias como esas fueron posibles al mismo tiempo que cambiaba la población carcelaria para incluir una proporción más pequeña de afroamericanos e hispanos.
El algoritmo asigna a los acusados una puntuación de riesgo basada en datos extraídos de los registros de su caso actual y sus antecedentes penales, por ejemplo, el delito del que se sospecha, cuándo y dónde fueron arrestados, y el número y tipo de condenas anteriores. (Los únicos datos demográficos que utiliza son la edad, no la raza).
Kleinberg sugiere que se podrían implementar algoritmos para ayudar a los jueces sin una interrupción importante en la forma en que trabajan actualmente en forma de un sistema de advertencia que señale las decisiones que probablemente sean incorrectas. El análisis del desempeño de los jueces sugirió que tienen una tendencia a liberar ocasionalmente a personas que probablemente no se presenten ante el tribunal o que cometan delitos mientras esperan el juicio. Un algoritmo podría detectar muchos de esos casos, dice Kleinberg.
ricardo berk , profesor de criminología en la Universidad de Pensilvania, describe el estudio como un muy buen trabajo y un ejemplo de una aceleración reciente del interés en aplicar el aprendizaje automático para mejorar las decisiones de la justicia penal. La idea se ha explorado durante 20 años, pero el aprendizaje automático se ha vuelto más poderoso y los datos para entrenarlo están más disponibles.
Berk probó recientemente un sistema con la Junta de Libertad Condicional del Estado de Pensilvania que informa sobre el riesgo de que una persona reincida y encontró evidencia de que redujo el crimen. El estudio NBER es importante porque analiza cómo se puede usar el aprendizaje automático antes de la sentencia, un área que no se ha explorado a fondo, dice.
Sin embargo, Berk dice que se necesita más investigación sobre cómo garantizar que los algoritmos de justicia penal no conduzcan a resultados injustos. El año pasado una investigación realizada por ProPublica encontró que el software comercial desarrollado para ayudar a determinar qué convictos deberían recibir libertad condicional tenía más probabilidades de etiquetar incorrectamente a las personas negras que a las blancas como de alto riesgo.
ludwig , director del Laboratorio Criminalístico de la Universidad de Chicago, quien trabajó en el nuevo estudio NBER, dice que demuestra cómo los resultados injustos están lejos de ser inevitables, al mostrar que un algoritmo de asesoramiento de jueces podría reducir el crimen, así como la tasa en la que los negros y los hispanos están encarcelados. Estas herramientas en realidad pueden mejorar la equidad en relación con el statu quo, dice.