El software que monitorea a los estudiantes durante las pruebas perpetúa la desigualdad y viola su privacidad

Foto de Iris Wang en Unsplash

La pandemia de coronavirus ha sido una bendición para la industria de supervisión de pruebas. Alrededor de media docena de empresas en los EE. UU. afirman que su software puede detectar y prevenir con precisión las trampas en las pruebas en línea. examen , Bloqueo de honor , proctorio , ProctorU , Respuesta y otros han crecido rápidamente desde que los colegios y universidades cambiaron a clases remotas.

Si bien no hay un recuento oficial, es razonable decir que cada mes se realizan millones de pruebas supervisadas algorítmicamente en todo el mundo. proctorio le dijo al New York Times en mayo ese negocio había aumentado un 900 % durante los primeros meses de la pandemia, hasta el punto en que la empresa supervisó 2,5 millones de pruebas en todo el mundo solo en abril.

Soy bibliotecario universitario y he visto de cerca los impactos de estos sistemas. Mi propio empleador, la Universidad de Colorado Denver, tiene un contrato con Proctorio.

Me ha quedado claro que la supervisión algorítmica es una tecnología de vigilancia moderna que refuerza la supremacía blanca, el sexismo, el capacitismo y la transfobia. El uso de estas herramientas es una invasión de la privacidad de los estudiantes y, a menudo, una violación de los derechos civiles.

Si es un estudiante que realiza una prueba supervisada algorítmicamente, así es como funciona: cuando comienza, el software comienza a grabar la cámara, el audio y los sitios web que visita de su computadora. Mide su cuerpo y lo observa durante la duración del examen, rastreando sus movimientos para identificar lo que considera comportamientos de trampa. Si hace algo que el software considera sospechoso, alertará a su profesor para que vea la grabación y le proporcionará una probabilidad codificada por colores de su mala conducta académica.

Según la empresa que haya creado el software, utilizará una combinación de aprendizaje automático, inteligencia artificial y biometría (incluido el reconocimiento facial, la detección facial o el seguimiento ocular) para hacer todo esto. El problema es que el reconocimiento y la detección facial han demostrado ser racista , sexista , y transfóbico encima , y encima , y encima de nuevo.

En general, la tecnología tiene una patrón de refuerzo de la opresión estructural me gusta racismo y sexismo . Ahora, estos mismos sesgos están apareciendo en el software de supervisión de exámenes que perjudica de manera desproporcionada a los estudiantes marginados.

Una mujer negra de mi universidad me dijo una vez que cada vez que usaba el software de supervisión de exámenes de Proctorio, siempre la impulsaba a brillar más en su rostro. El software no pudo validar su identidad y se le negó el acceso a las pruebas con tanta frecuencia que tuvo que acudir a su profesor para hacer otros arreglos. Sus compañeros blancos nunca tuvieron este problema.

Pueden ocurrir tipos similares de discriminación si un estudiante es trans o no binario. Pero si eres un hombre cis blanco (como la mayoría de los desarrolladores que crean software de reconocimiento facial), probablemente estarás bien.

Los estudiantes con hijos también son penalizados por estos sistemas. Si alguna vez trató de responder correos electrónicos mientras cuidaba a los niños, sabe lo imposible que puede ser tener incluso unos minutos ininterrumpidos frente a la computadora. Pero varios programas de supervisión marcarán los ruidos en la habitación o cualquier persona que se aparte de la vista de la cámara como infame. Eso significa que los estudiantes con condiciones médicas que deben usar el baño o administrar medicamentos con frecuencia serían considerados igualmente sospechosos.

Más allá de todas las formas en que el software de supervisión puede discriminar a los estudiantes, la supervisión algorítmica también es una importante invasión de la privacidad. Estos productos filman a los estudiantes en sus hogares y, a menudo, requieren que completen escaneos de habitaciones, lo que implica usar su cámara para mostrar su entorno. En muchos casos, los profesores pueden acceder a las grabaciones de sus alumnos en cualquier momento, e incluso descargar estas grabaciones a sus máquinas personales. También pueden ver la ubicación de cada estudiante según su dirección IP.

La privacidad es primordial para los bibliotecarios como yo porque los usuarios nos confían sus datos. Después del 11 de septiembre, cuando la Ley Patriota autorizó al Departamento de Seguridad Nacional de EE. acceder a los registros de usuarios de la biblioteca en su búsqueda de terroristas, muchos bibliotecarios comenzaron a usar un software que eliminaba el registro de un usuario una vez que se devolvía un libro. Los productos que violan la privacidad de las personas y las discriminan van en contra de mi ética profesional , y es profundamente preocupante ver que tales productos son adoptados con entusiasmo por las instituciones de educación superior.

Este celo sería un poco más comprensible si hubiera alguna evidencia de que estos programas realmente hicieron lo que dicen. Que yo sepa, no hay un solo estudio controlado o revisado por pares que demuestre que el software de supervisión detecta o previene las trampas de manera efectiva. Dado que las universidades se enorgullecen de tomar decisiones basadas en evidencia, este es un descuido flagrante.

Afortunadamente, hay movimientos en marcha para prohibir el software de supervisión y prohibir las tecnologías de reconocimiento facial en los campus , así como también proyectos de ley del congreso para prohibir que el gobierno federal de los EE. UU. utilice el reconocimiento facial. Pero incluso si se prohibiera la tecnología de reconocimiento facial, el software de supervisión aún podría existir como un programa que rastrea los movimientos de los ojos y el cuerpo de los estudiantes. Si bien eso podría ser menos racista, sería todavía discriminar contra las personas con discapacidad, los padres lactantes y las personas neuroatípicas. Estos productos no se pueden reformar; deberían ser abandonados.

Hacer trampa no es la amenaza para la sociedad que las empresas supervisoras de pruebas quieren hacerle creer. No diluye el valor de los títulos ni degrada la reputación institucional, y los estudiantes no están tratando de hacer trampa para convertirse en su cirujano . La tecnología no inventó las condiciones para hacer trampa y no será lo que la detenga. Lo mejor que podemos hacer en la educación superior es comenzar con la idea radical de confiando en los estudiantes . Elijamos la compasión sobre la vigilancia.

Mantequilla de karité es bibliotecario académico e investigador de la Universidad de Colorado Denver.

esconder