Los investigadores de IA dicen que los editores científicos ayudan a perpetuar los algoritmos racistas

Categoría: Inteligencia artificial Al corriente 23 de junio

Las noticias: Un carta abierta de una creciente coalición de investigadores de IA está llamando a la editorial científica Springer Nature para un documento de conferencia que, según se informa, planeaba incluir en su próximo libro Transacciones sobre ciencia computacional e inteligencia computacional . El documento, titulado A Deep Neural Network Model to Predict Criminality Using Image Processing, presenta un sistema de reconocimiento facial supuestamente capaz de predecir si alguien es un delincuente, según el comunicado de prensa original . Fue desarrollado por investigadores de la Universidad de Harrisburg y estaba previsto que se presentara en una próxima conferencia.

Las peticiones: Citando el trabajo de la IA negra líder eruditos , la carta desacredita la base científica del artículo y afirma que las tecnologías de predicción del crimen son racistas. También enumera tres demandas: 1) que Springer Nature rescinda su oferta de publicar el estudio; 2) que emita una declaración condenando el uso de técnicas estadísticas como el aprendizaje automático para predecir la criminalidad y reconociendo su papel en el incentivo de dicha investigación; y 3) que todas las editoriales científicas se comprometan a no publicar artículos similares en el futuro. La carta, que se envió a Springer Nature el lunes, fue escrita originalmente por cinco investigadores del MIT, el Instituto Politécnico Rensselaer, la Universidad McGill y el Instituto AI Now. En cuestión de días, obtuvo más de 600 firmas y contando en las comunidades académicas y de ética de la IA, incluso de figuras destacadas como Meredith Whittaker, cofundadora del AI Now Institute, y Ethan Zuckerman, exdirector del Center for Civic Media en el Laboratorio de Medios del MIT.

Por qué importa: Si bien la carta destaca un artículo específico, el objetivo de los autores es demostrar un problema sistemático con la forma en que la publicación científica incentiva a los investigadores a perpetuar normas poco éticas. Esta es la razón por la que seguimos viendo surgir la ciencia racial una y otra vez, dijo Chelsea Barabas, estudiante de doctorado en el MIT y una de las coautoras de la carta. Es porque los editores lo publican. El verdadero significado de este artículo de Springer es que no es único en absoluto, repitió Theodora Dryer, investigadora postdoctoral en AI Now y otra coautora. Es emblemático de un problema y una crítica que se ha prolongado durante tanto tiempo.

Respuesta de Springer: En respuesta a la carta, Springer dijo que no publicaría el artículo. El documento al que se refiere fue presentado a una próxima conferencia para la cual Springer había planeado publicar las actas, dijo. Después de un minucioso proceso de revisión por pares, el documento fue rechazado. Universidad de Harrisburg también eliminó su comunicado de prensa , indicando que la facultad está actualizando el documento para abordar las inquietudes planteadas. La Universidad de Harrisburg y un coautor del artículo rechazaron una solicitud de comentarios, así como una solicitud de una copia del artículo original. Los signatarios de la carta dijeron que continuarán presionando para que se cumplan sus demandas segunda y tercera.

La fotografía más grande: Desde que la muerte de George Floyd desató un movimiento internacional por la justicia racial, el campo de la IA y la industria tecnológica en general se han enfrentado a un ajuste de cuentas sobre el papel que han desempeñado en el refuerzo del racismo estructural. Durante la semana del 8 de junio, por ejemplo, IBM, Microsoft y Amazon anunciaron el final o la suspensión parcial de sus productos de reconocimiento facial. El movimiento fue la culminación de dos años de abogacía de investigadores y activistas para demostrar un vínculo entre estas tecnologías y el control excesivo de las comunidades minoritarias. La carta abierta es el último avance en este movimiento hacia una mayor responsabilidad ética en la IA.

Realmente queríamos contribuir a este creciente movimiento, dijo Sonja Solomun, directora de investigación del Centro de Medios, Tecnología y Democracia de la Universidad McGill. Particularmente cuando miramos fuera de nuestras ventanas y vemos lo que está sucediendo en este momento en los EE. UU. y en todo el mundo, hay mucho en juego.

Actualizar: Después de la publicación, Springer Nature emitió un comunicado aclarando que 'en ningún momento [el artículo] fue aceptado para su publicación... La decisión del editor de la serie de rechazar el artículo final se tomó el martes 16 de junio y se comunicó oficialmente a los autores el lunes 22 Junio.'