¿Deberían las universidades realmente poner parlantes inteligentes en los dormitorios?

Cuando Mateo Catano regresó para su segundo año como estudiante universitario en la Universidad de Saint Louis en el otoño de 2018, se encontró con un nuevo compañero de cuarto, no otro estudiante sino un cerebro incorpóreo en forma de Amazon Echo Dot.

A principios de ese verano, el departamento de tecnología de la información de SLU instaló alrededor de 2300 altavoces inteligentes, uno para cada una de las habitaciones de la residencia universitaria de la universidad, lo que convirtió a la escuela en la primera del país en hacerlo. Cada dispositivo estaba preprogramado con respuestas a unas 130 preguntas específicas de SLU, que iban desde el horario de la biblioteca hasta la ubicación de la oficina de registro (la escuela lo denominó AskSLU). Los dispositivos también incluían las habilidades de voz básicas disponibles en otros puntos, incluidas alarmas y recordatorios, información general y la capacidad de transmitir música.

Esta historia fue parte de nuestra edición de enero de 2020

• Ver el resto del número
• Suscribir

Para Catano, el Dot fue una adición bienvenida. Le gustaba escuchar el clima a primera hora de la mañana y saber qué comedores estaban abiertos. Y, si es honesto, le gustaba la compañía. Vivir en una sola, AskSLU definitivamente me hizo sentir menos solo, dice. Y me gustó el estatus de estar en la primera universidad en hacer esto.

La reacción de Catano fue exactamente la que esperaban los administradores de SLU. Este otoño, la institución jesuita anunció planes para ampliar las habilidades de voz de sus Echo Dots al incluir funciones de mensajería de texto y chatbot.

No tengo idea de los efectos a largo plazo.

Estamos al borde de una nueva era de altavoces inteligentes en el campus. Escuelas tan amplias como la Universidad Estatal de Arizona, la Universidad de Lancaster en el Reino Unido y la Facultad de Medicina de la Universidad Ross en Barbados han adoptado la tecnología de habilidades de voz en el campus. Algunos, incluida la Northeastern University, han llevado la tecnología un paso más allá y ahora brindan a los estudiantes acceso a información financiera, cronogramas y calificaciones de cursos, y tarifas pendientes a través de dispositivos de voz.

A finales de 2018, el Emerson College de Boston anunció que era uno de los 18 beneficiarios de una subvención de Amazon para avanzar en la tecnología habilitada por voz en los campus, parte de la beca de innovación Alexa del gigante tecnológico. Emerson ha creado un laboratorio de voz dedicado donde los estudiantes pueden interactuar y experimentar con las habilidades de Alexa, y planea instalar dispositivos Alexa en lugares como teatros y ascensores exteriores.

Los administradores de algunas de estas escuelas me dijeron que creen que Alexa reforzará la inscripción y reducirá las tasas de abandono escolar. Varios también dijeron que creen que la tecnología de voz puede aumentar el éxito de sus estudiantes y aumentar su felicidad general.

Sin embargo, hay muchas personas en el campus que ven un lado oscuro.

Cuando se trata de implementar dispositivos de escucha donde se producen conversaciones confidenciales, simplemente no tenemos idea del efecto a largo plazo que Amazon podría tener sobre el futuro de las conversaciones grabadas y guardadas, incluso, muy posiblemente, sobre su salud y bienestar, dice Russell. Newman, profesor de Emerson que investiga la economía política de la comunicación y las políticas de comunicación.

Todavía no sabemos realmente cuántos hosts de habilidades de voz de datos como Amazon, o terceros que dependen de Amazon, están recolectando, o qué están haciendo con esa información.

Otros miembros de la facultad con los que hablé se hicieron eco de las objeciones de Newman. ¿Qué pasaría si los datos recopilados de las conversaciones de los estudiantes afectaran sus posibilidades de obtener una hipoteca o un trabajo más adelante? ¿Qué pasaría si se usara contra estudiantes extranjeros para deportarlos, posiblemente a sus países de origen, donde podrían ser encarcelados por sus opiniones políticas?

Correcto. Entonces, dados todos los riesgos, ¿por qué las universidades están tan ansiosas por llenar sus campus con micrófonos habilitados para IA? ¿Qué hay para ellos?

IA al rescate

Los colegios y universidades enfrentan varias crisis inminentes. Después de años de números de matriculación altísimos, las escuelas de EE. UU. están viendo disminuciones en las admisiones, una tendencia que se espera que empeore durante la próxima década. Un informe especial de noviembre de 2019 de Chronicle of Higher Education predice disminuciones rápidas incluso en las instituciones más selectivas del país. Los ingresos institucionales se han estancado: Moody's Investors Service emitió una perspectiva negativa para la educación superior para el año fiscal 2019, con la excepción de las universidades del Sur. Durante tres años, el Departamento de Educación ha buscado recortar miles de millones de la ayuda financiera y el apoyo a los estudiantes más pobres, aunque el Congreso ha rechazado los recortes. Las contribuciones estatales a los presupuestos de las universidades públicas se han rezagado desde la última recesión. Las universidades privadas también están pasando apuros; más de una cuarta parte de ellos están ahora en números rojos. En los últimos años, 20 universidades privadas sin fines de lucro cerraron sus puertas y muchas más están considerando fusionarse o consolidarse.

Mientras tanto, la mitad de todos los estudiantes que ingresan a la universidad no logran graduarse dentro de los seis años. Los investigadores dan una variedad de explicaciones. Nick Bowman, profesor de educación en la Universidad de Iowa, señala el hecho de que los estudiantes de hoy son mayores que los tradicionales de 18 a 22 años. Muchos tienen trabajos de tiempo completo. Algunos cuidan niños o hermanos o padres ancianos. Y con un promedio de $35,000 en deuda de préstamos estudiantiles después de cuatro años en la escuela, la perspectiva de abandonar los estudios puede ser tentadora.

Para muchos administradores universitarios, la IA ofrece soluciones atractivas para estos problemas. La Universidad Estatal de Winston-Salem, una universidad históricamente negra con muchos estudiantes universitarios de primera generación y de bajos ingresos, ha tenido problemas perennes para ayudar a cada clase que ingresa a cumplir con los plazos clave, como enviar las transcripciones de la escuela secundaria y los registros de vacunación, completar formularios de ayuda financiera y hacer depósitos habitacionales. Nos dimos cuenta de que es posible que muchos de nuestros estudiantes no entiendan el proceso de inscripción a la universidad y que no puedan confiar en las familias o los sistemas de apoyo para descifrarlo, dice Jay Davis, director de relaciones con los medios de la universidad.

Hace dos años, WSSU se asoció con una empresa de tecnología llamada AdmitHub para ofrecer un chatbot de IA llamado Winston para ayudar a los estudiantes a navegar el proceso de inscripción. Davis dice que la aplicación responde con éxito alrededor de las tres cuartas partes de las preguntas de los estudiantes y que ha habido un aumento dramático en la cantidad de estudiantes que cumplen con sus requisitos financieros y envían todos los documentos de respaldo necesarios para completar su solicitud. Este año, WSSU está organizando su clase de primer año más grande en más de una década, y Davis dice que Winston jugó un papel importante en eso.

Acceso a tus palabras, para siempre

Pasé varias horas jugando con chatbots en un puñado de colegios y universidades. Todos respondieron preguntas sobre la mascota de la escuela, dónde podía encontrar la cena y cuándo era el próximo evento deportivo o de red de ex alumnos. Pero engañaron a otros. Cuando le dije a uno que estaba enfermo, me informó que el centro de salud para estudiantes no emitiría una excusa por escrito para faltar a clases. Le pregunté dónde estaba el centro de salud estudiantil; respondió con horarios de recorridos universitarios para futuros estudiantes. Le dije a otro que me sentía deprimido y me remitió a un programa federal de ayuda financiera para estudiantes.

Todos los programadores del campus al otro lado de estos dispositivos me dijeron que las habilidades mejorarían a medida que más estudiantes los usaran, que es, por supuesto, lo que hace que la IA sea tan efectiva. Pero también es lo que hace que las amenazas a nuestra privacidad sean tan reales, dice Vitaly Shmatikov, profesor de informática en Cornell Tech. Las empresas de tecnología, dice Shmatikov, son notoriamente opacas en cuanto a la privacidad y la seguridad. Lo que él y otros académicos han aprendido sobre ellos es en gran parte por medio de ingeniería inversa y algunas conjeturas educadas, y los hallazgos preocupan mucho a Shmatikov.

Para empezar, dice, compañías como Amazon entrenan sus algoritmos de reconocimiento de voz en grabaciones de interacciones pasadas de usuarios para mejorarlos, por ejemplo, en la comprensión de la intención de una pregunta. Él dice que todas las empresas involucradas son muy cautelosas acerca de la cantidad de datos que viajan entre ellas. No hay ninguna promesa para el usuario de que sus datos no saldrán de un dispositivo específico, dice Shmatikov. Todavía no sabemos realmente cuántos hosts de habilidades de voz de datos como Amazon, o terceros que dependen de Amazon, están recolectando, o qué están haciendo con esa información. Amazon no respondió a múltiples solicitudes de comentarios.

Shmatikov dice que es razonable suponer que la nube de una empresa tiene grabaciones con fecha y hora de las solicitudes de los estudiantes a un altavoz inteligente, y los dispositivos pueden incluso grabar las conversaciones que el estudiante podría haber tenido con otras personas antes o después de hablar con él. A medida que mejoren las habilidades de identificación de voz y ubicación, será cada vez más posible vincular estas grabaciones a una persona individual. Eso no es como una escuela que busca en tu casillero; es más como una escuela que registra a perpetuidad todo lo que ha estado en tu casillero y lo que tú y tus amigos dijeron cada vez que lo abriste, y luego deja que una gran cantidad de entidades comerciales busquen esa información.

Los funcionarios de la Universidad Estatal de Arizona y la Universidad de Saint Louis dicen que no vincularán información como las finanzas, los registros de salud y las calificaciones de los estudiantes (datos conocidos como autenticados, ya que requieren que el estudiante se vincule a cuentas personales) hasta que tengan más confianza en el medidas de seguridad. La tecnología utilizada en Northeastern fue desarrollada por un pequeño equipo dirigido por Somen Saha, entonces empleado de la universidad. Saha finalmente creó una empresa independiente llamada n-Powered, que desarrolló una aplicación llamada MyHusky que está disponible a través de Alexa. Sin embargo, su página de privacidad también reconoce que usamos la plataforma de Amazon para que esto funcione. Amazon almacena información sobre el uso que se puede eliminar si se solicita.

Shmatikov dice que usar el software propio de una universidad y restringir el uso de chatbots a preguntas generales puede limitar el acceso de una empresa de tecnología a la información de los estudiantes, pero no resolverá el problema por completo. Señala preguntas delicadas como si el centro de salud ofrece pruebas de ETS o recetas para tratar afecciones como la esquizofrenia: técnicamente, no están vinculadas a un estudiante específico, pero no es demasiado difícil averiguar quién pregunta, y es posible que los estudiantes no se den cuenta. estas no siempre son consultas anónimas. Además, dice Shmatikov, mientras una empresa como Amazon convierta las indicaciones de los estudiantes en señales de datos, tendrá acceso a la información del estudiante para siempre.

Ramificaciones aterradoras

La privacidad es una preocupación para cualquier usuario de un dispositivo de IA, pero los profesores con los que hablé para esta historia insisten en que hay ramificaciones particularmente aterradoras para la educación superior.

Los estudiantes universitarios son quizás la categoría de consumidores más deseable, dice Newman de Emerson. Son los más difíciles de alcanzar y los que tienen más probabilidades de marcar tendencias. Como resultado, dice, sus datos son algunos de los más valiosos y los que tienen más probabilidades de ser extraídos o vendidos. Y que las instituciones educativas sean cómplices de la mercantilización de los estudiantes para obtener ganancias corporativas es, dice, fundamentalmente antitético a sus misiones.

Sarah T. Roberts, profesora asistente de estudios de información en UCLA, dice que las escuelas que celebran acuerdos con empresas de tecnología al menos ponen en riesgo el bienestar de sus estudiantes. El tiempo de un estudiante en un colegio o universidad se usa para explorar ideas y probar nuevas identidades, ya sean creencias políticas o género y sexualidad, dice Roberts. El conocimiento de que están siendo grabados mientras lo hacen sin duda evitará que los estudiantes sientan que pueden decir lo que piensan. También vale la pena recordar, dice, que muchos estudiantes provienen de países donde puede ser peligroso revelar su sexualidad o sus creencias políticas.

En Northeastern, un estudiante creó una petición en línea exigiendo que la universidad elimine todos los dispositivos Alexa. Dice en parte: Alexas está bien documentado como dispositivos de escucha encubiertos que se utilizan para ayudar a afinar las tácticas de marketing de Amazon... Por lo menos, la Universidad del Noreste está forzando un dispositivo extraño en los espacios de los estudiantes que nadie pidió. En el peor de los casos, están violando imprudentemente la privacidad de sus estudiantes a instancias de un donante corporativo. A principios de diciembre, la petición tenía 125 firmas.

En Emerson, los estudiantes y otros profesores se han unido a Newman para crear un comité para redactar políticas de privacidad para el campus. Como mínimo, dice, le gustaría ver señales de advertencia colocadas dondequiera que se ubique un dispositivo de escucha. Él dice que hasta ahora la administración ha sido cooperativa, y el despliegue de cualquier dispositivo se ha retrasado.

Necesitamos una forma segura de experimentar con estas tecnologías y comprender las consecuencias de su uso en lugar de simplemente continuar una marcha a ciegas hacia la vigilancia con fines de lucro, dice Newman. Se trata de aplicaciones sofisticadas con consecuencias de por vida para las personas que analizan, con fines aún desconocidos. Todos tenemos que ser realmente juiciosos y reflexivos aquí.

Kathryn Miles es escritora independiente y autora de Quakeland: En camino hacia el próximo terremoto devastador en Estados Unidos . Su historia The Little Coin That Ate Quebec apareció en la edición de mayo/junio de 2018.

esconder