Por qué los niños necesitan protección especial contra la influencia de la IA

Ludovic Toinel / Unsplash

Los algoritmos pueden cambiar el curso de la vida de los niños. Los niños están interactuando con Alexas que pueden grabar sus datos de voz e influir en su habla y desarrollo social. Están compartiendo videos en TikTok y YouTube que les envían los sistemas de recomendación que terminan dando forma a sus visiones del mundo.

Los algoritmos también se utilizan cada vez más para determinar cómo es su educación, si recibirán atención médica e incluso si sus padres son considerados aptos para cuidarlos . A veces esto puede tener efectos devastadores: este verano pasado, por ejemplo, miles de estudiantes perdieron sus admisiones universitarias después algoritmos —utilizado en lugar de las pruebas estandarizadas canceladas por la pandemia— predijo incorrectamente su rendimiento académico.

Los niños, en otras palabras, a menudo están a la vanguardia cuando se trata de usar y ser usados ​​por la IA, y eso puede dejarlos en una posición en la que puedan salir lastimados. Debido a que se están desarrollando intelectual, emocional y físicamente, son muy moldeables, dice Steve Vosloo, especialista en políticas de conectividad digital en Unicef, el Fondo de las Naciones Unidas para la Infancia.

Vosloo dirigió la redacción de un nuevo conjunto de pautas de Unicef ​​diseñado para ayudar a los gobiernos y las empresas a desarrollar políticas de IA que tengan en cuenta las necesidades de los niños. Publicadas el 16 de septiembre, las nueve nuevas pautas son la culminación de varias consultas realizadas con legisladores, investigadores del desarrollo infantil, profesionales de la IA y niños de todo el mundo. También toman en consideración la Convención de las Naciones Unidas sobre los Derechos del Niño, un tratado de derechos humanos ratificado en 1989.

Las pautas no pretenden ser otro conjunto de principios de IA, muchos de los cuales ya dicen lo mismo. En enero de este año, una revisión del Centro Berkman Klein de Harvard de 36 de los documentos más destacados que guían las estrategias de IA nacionales y empresariales encontraron ocho temas comunes, entre ellos privacidad, seguridad, equidad y explicabilidad.

Más bien, las pautas de Unicef ​​están destinadas a complementar estos temas existentes y adaptarlos a los niños. Por ejemplo, los sistemas de IA no solo deberían ser explicables, sino que deberían ser explicables a los niños. También deben considerar las necesidades de desarrollo únicas de los niños. Los niños tienen derechos adicionales a los adultos, dice Vosloo. También se estima que representan al menos un tercio de los usuarios en línea. No estamos hablando de un grupo minoritario aquí, señala.

Además de mitigar los daños causados ​​por la IA, el objetivo de los principios es fomentar el desarrollo de sistemas de IA que puedan mejorar el crecimiento y el bienestar de los niños. Si están bien diseñadas, por ejemplo, se ha demostrado que las herramientas de aprendizaje basadas en IA mejorar las habilidades de pensamiento crítico y resolución de problemas de los niños , y pueden ser útiles para niños con problemas de aprendizaje. Los asistentes emocionales de IA, aunque relativamente incipientes, podrían brindar apoyo para la salud mental y se ha demostrado que mejoran las habilidades sociales de los niños autistas. El reconocimiento facial, utilizado con limitaciones cuidadosas, podría ayudar a identificar a los niños que han sido secuestrados o traficados.

También se debe educar a los niños sobre la IA y alentarlos a participar en su desarrollo. No se trata solo de protegerlos, dice Vosloo. Se trata de empoderarlos y darles la agencia para dar forma a su futuro.

Hablando de grupos desfavorecidos, por supuesto que los niños son los más desfavorecidos.

yi-zeng

Unicef ​​no es el único que piensa en el tema. El día anterior a la publicación de ese borrador de directrices, la Academia de Inteligencia Artificial de Beijing (BAAI), una organización respaldada por el Ministerio de Ciencia y Tecnología de China y el gobierno municipal de Beijing, publicó un conjunto de principios de IA para los niños también.

El anuncio se produce un año después del lanzamiento de BAAI los principios de IA de Beijing , entendidos como los valores rectores para el desarrollo nacional de IA de China. Los nuevos principios descritos específicamente para los niños están destinados a ser una implementación concreta de los más generales, dice Yi Zeng, director del Centro de Investigación de Ética y Desarrollo Sostenible de AI en BAAI, quien dirigió su redacción. Se alinean estrechamente con las pautas de Unicef, y también abordan la privacidad, la equidad, la explicabilidad y el bienestar infantil, aunque algunos de los detalles son más específicos de las preocupaciones de China. Una directriz para mejorar la salud física de los niños, por ejemplo, incluye el uso de IA para ayudar a abordar la contaminación ambiental.

Si bien los dos esfuerzos no están formalmente relacionados, el momento tampoco es una coincidencia. Después de una avalancha de principios de IA en los últimos años, ambos redactores principales dicen que crear pautas más adaptadas para los niños era el siguiente paso lógico. Hablando de grupos desfavorecidos, por supuesto que los niños son los más desfavorecidos, dice Zeng. Es por eso que realmente necesitamos [dar] atención especial a este grupo de personas. Los equipos consultaron entre sí mientras redactaban sus respectivos documentos. Cuando Unicef ​​realizó un taller de consulta en el este de Asia, Zeng asistió como orador.

Unicef ​​ahora planea ejecutar una serie de programas piloto con varios países socios para observar qué tan prácticas y efectivas son sus pautas en diferentes contextos. BAAI ha formado un grupo de trabajo con representantes de algunas de las empresas más grandes que impulsan la estrategia nacional de inteligencia artificial del país, incluida la empresa de tecnología educativa TAL, la empresa de electrónica de consumo Xiaomi, la empresa de visión artificial Megvii y el gigante de Internet Baidu. La esperanza es conseguir que empiecen a prestar atención a los principios de sus productos e influir en otras empresas y organizaciones para que hagan lo mismo.

Tanto Vosloo como Zeng esperan que, al articular las preocupaciones únicas que la IA plantea para los niños, las pautas generen conciencia sobre estos problemas. Llegamos a esto con los ojos bien abiertos, dice Vosloo. Entendemos que este es un territorio nuevo para muchos gobiernos y empresas. Entonces, si con el tiempo vemos más ejemplos de niños que se incluyen en la IA o en el ciclo de desarrollo de políticas, más atención en cómo se recopilan y analizan sus datos, si vemos que la IA se vuelve más explicable para los niños o sus cuidadores, sería una victoria. para nosotros.

esconder