Una aplicación de inteligencia artificial que te convierte en una estrella de cine ha puesto en riesgo la privacidad de millones

Categoría: Inteligencia artificial Al corriente Sep 04

ZAO, una aplicación viral china que usa IA para intercambiar rostros de usuarios y actores famosos, ahora está envuelta en una gran controversia sobre privacidad.

Las noticias: El viernes, una nueva aplicación lanzada por Momo, un desarrollador de redes sociales, se volvió viral instantáneamente en las redes sociales chinas. Permite a los usuarios cargar un solo retrato y, en segundos, ver su rostro superpuesto en actores en escenas icónicas de películas. Para el domingo, tenía conviértete en el más descargado aplicación de entretenimiento gratuita en la Apple Store de China.

Falsedad de IA: Es la aplicación más reciente, y quizás la más impresionante, de las redes antagónicas generativas, o GAN, los algoritmos de IA detrás de las falsificaciones profundas. Si bien las GAN se han utilizado antes para la edición y el intercambio de rostros (cada vez más en las películas de Hollywood), el uso de una sola foto por parte de ZAO, junto con la velocidad y la fluidez de su intercambio, demuestra hasta qué punto el estado del arte en la falsificación de los medios ha avanzado.

La controversia: A las pocas horas de su lanzamiento, ZAO comenzó a generar preocupaciones sobre la privacidad, específicamente sobre una cláusula en el acuerdo de usuario que otorgaba a los desarrolladores el derecho a usar todas las fotos cargadas de forma gratuita a perpetuidad. También les permitió transferir ese derecho a cualquier tercero sin el permiso del usuario. Los expertos legales en China dijeron que eso no era legal y, para el sábado, el desarrollador de la aplicación cedió ante la presión y eliminó la cláusula. WeChat, la principal aplicación de redes sociales de China, también prohibió compartir imágenes o fotos de ZAO.

Ya visto: El episodio reprodujo una controversia similar sobre FaceApp, una aplicación de edición de fotos que se volvió viral en julio. La aplicación también usó GAN para retocar los retratos de las personas y acumuló más de 150 millones de fotos de rostros desde su lanzamiento. ZAO recibió una reacción mucho más rápida y aguda, pero es probable que millones de usuarios ya lo hayan utilizado cuando revisó su política. Por un lado, la frecuencia de tales incidentes muestra cuán fácilmente los datos personales de un usuario ahora pueden ser cooptados y reutilizados más allá de su control. Por otro lado, muestra que las personas también se han vuelto más sensibles a la privacidad y están menos dispuestas a renunciar a ella sin luchar.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.