211service.com
La IA no puede predecir cómo resultará la vida de un niño incluso con una tonelada de datos
SHARON MCCUTCHEON / UNSPLASH
Los formuladores de políticas a menudo se basan en el trabajo de los científicos sociales para predecir cómo las políticas específicas podrían afectar los resultados sociales, como el empleo o las tasas de delincuencia. La idea es que si pueden comprender cómo diferentes factores pueden cambiar la trayectoria de la vida de alguien, pueden proponer intervenciones para promover los mejores resultados.
En los últimos años, sin embargo, se han basado cada vez más en el aprendizaje automático, que promete producir predicciones mucho más precisas procesando cantidades de datos mucho mayores. Dichos modelos ahora se utilizan para predecir la probabilidad de que un acusado sea arrestado por un segundo delito, o que un niño está en riesgo por maltrato y abandono en el hogar. La suposición es que un algoritmo alimentado con suficientes datos sobre una situación determinada hará predicciones más precisas que un humano o un análisis estadístico más básico.
ahora un nuevo estudio publicado en Proceedings of the National Academy of Sciences arroja dudas sobre cuán efectivo es realmente este enfoque. Tres sociólogos de la Universidad de Princeton pidieron a cientos de investigadores que predijeran seis resultados en la vida de los niños, los padres y los hogares utilizando casi 13 000 puntos de datos de más de 4000 familias. Ninguno de los investigadores se acercó siquiera a un nivel razonable de precisión, independientemente de si usaron estadísticas simples o aprendizaje automático de última generación.
El estudio realmente destaca esta idea de que, al final del día, las herramientas de aprendizaje automático no son mágicas, dice Alice Xiang, directora de investigación de equidad y responsabilidad en la Asociación sin fines de lucro sobre IA.
Los investigadores utilizaron datos de un estudio de sociología de 15 años llamado Estudio de Familias Frágiles y Bienestar Infantil , dirigido por Sara McLanahan, profesora de sociología y asuntos públicos en Princeton y una de las autoras principales del nuevo artículo. El estudio original buscaba comprender cómo podría resultar con el tiempo la vida de los niños nacidos de padres solteros. Las familias fueron seleccionadas aleatoriamente de niños nacidos en hospitales de grandes ciudades de EE. UU. durante el año 2000. Se les dio seguimiento para la recopilación de datos cuando los niños tenían 1, 3, 5, 9 y 15 años.
McLanahan y sus colegas Matthew Salganik e Ian Lundberg luego diseñaron un desafío para hacer predicciones de colaboración colectiva sobre seis resultados en la fase final que consideraron sociológicamente importantes. Estos incluyeron el promedio de calificaciones de los niños en la escuela; su nivel de determinación o perseverancia autoinformada en la escuela; y el nivel general de pobreza en su hogar. Los participantes del desafío de varias universidades recibieron solo una parte de los datos para entrenar sus algoritmos, mientras que los organizadores retuvieron algunos para las evaluaciones finales. En el transcurso de cinco meses, cientos de investigadores, incluidos informáticos, estadísticos y sociólogos computacionales, presentaron sus mejores técnicas de predicción.
El hecho de que ninguna presentación pudiera lograr una alta precisión en ninguno de los resultados confirmó que los resultados no fueron una casualidad. No se puede explicar basándose en el fracaso de un investigador en particular o de cualquier técnica particular de aprendizaje automático o IA, dice Salganik, profesor de sociología. Las técnicas de aprendizaje automático más complicadas tampoco eran mucho más precisas que los métodos mucho más simples.
Para los expertos que estudian el uso de la IA en la sociedad, los resultados no son tan sorprendentes. Incluso los algoritmos de evaluación de riesgos más precisos en el sistema de justicia penal, por ejemplo, alcanzan un máximo de 60% o 70%, dice Xiang. Tal vez en abstracto suene algo bien, agrega, pero las tasas de reincidencia pueden ser inferiores al 40% de todos modos. Eso significa que predecir que no habrá reincidencias ya le dará una tasa de precisión de más del 60%.
Del mismo modo, la investigación ha demostrado repetidamente que dentro de contextos donde un algoritmo evalúa el riesgo o elige dónde dirigir los recursos, los algoritmos simples y explicables a menudo tienen casi el mismo poder de predicción que las técnicas de caja negra como el aprendizaje profundo. El beneficio adicional de las técnicas de caja negra, entonces, no compensa los grandes costos de interpretación.
Los resultados no significan necesariamente que los algoritmos predictivos, ya sea que se basen o no en el aprendizaje automático, nunca serán herramientas útiles en el mundo de las políticas. Algunos investigadores señalan, por ejemplo, que los datos recopilados con fines de investigación en sociología son diferentes de los datos que normalmente se analizan en la formulación de políticas.
Rashida Richardson, directora de políticas del instituto AI Now, que estudia el impacto social de la IA, también señala preocupaciones sobre la forma en que se enmarcó el problema de la predicción. Si un niño tiene valor, por ejemplo, es un juicio inherentemente subjetivo que la investigación ha demostrado que es una construcción racista para medir el éxito y el desempeño, dice ella. El detalle inmediatamente le hizo pensar: Oh, no hay forma de que esto vaya a funcionar.
Salganik también reconoce las limitaciones del estudio.
Pero enfatiza que muestra por qué los legisladores deberían ser más cuidadosos al evaluar la precisión de las herramientas algorítmicas de manera transparente. Tener una gran cantidad de datos y tener un aprendizaje automático complicado no garantiza una predicción precisa, agrega. Los formuladores de políticas que no tienen tanta experiencia trabajando con el aprendizaje automático pueden tener expectativas poco realistas al respecto.
Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.