Podcast: En la IA del Beholder

Las ideas sobre lo que constituye la belleza son complejas, subjetivas y de ninguna manera se limitan a las apariencias físicas. Aunque es esquivo, todos quieren más. Eso significa grandes empresas y, cada vez más, personas que aprovechan los algoritmos para crear su yo ideal en el mundo digital y, a veces, en el físico. En este episodio, exploramos la popularidad de los filtros de belleza y nos sentamos con alguien que está convencido de que su software le mostrará cómo cortar y acomodar su camino hacia una vida mejor.

Nos encontramos:

• Shafee Hassan, fundadora de Qoves Studio
• Lauren Rhue, profesora asistente de sistemas de información en la Escuela de Negocios Robert H. Smith

Créditos

Este episodio fue informado por Tate Ryan-Mosley y producido por Jennifer Strong, Emma Cillekens, Karen Hao y Anthony Green. Estamos editados por Michael Reilly y Bobbie Johnson.

Transcripción

[ID TR]

[Montaje de canciones sobre la belleza]

Fuerte: La belleza siempre ha sido una de las mayores obsesiones de la sociedad. Y mientras lo hemos adorado... también hemos encontrado formas de cambiarlo y mejorarlo. Desde maquillaje y ropa... hasta fotos retocadas con aerógrafo... o un nip and tuck quirúrgico. ¿Y ahora? AI.

[Montaje de cobertura de noticias sobre filtros de belleza]

[Sonido de un discurso de apertura de Apple con aumento de fotos en el que se hace que las mujeres sonrían más. Aplausos del público]

Fuerte: Puede que no te des cuenta... pero esta tecnología está al alcance de tu mano. En los filtros de belleza de tu teléfono y redes sociales. La tecnología se ha vuelto tan buena para detectar dónde están los ojos, la nariz y la línea de la mandíbula que es más fácil que nunca ajustar esas funciones. Con un simple deslizamiento, puede ajustar el arco de la ceja o ajustar la curva de los labios y construir su 'imagen ideal'.

Es posible que haya 45 000 millones de cámaras en el mundo para el próximo año... junto con cada vez más formas de usar la IA para analizar, etiquetar, editar y priorizar esas imágenes. Empresas como Microsoft, NVIDIA y Face++... han lanzado al público productos destinados a medir la belleza de alguna manera. Incluso hay sistemas impulsados ​​por IA que prometen mirar imágenes de tu rostro para decirte qué tan hermoso eres (o no) y qué puedes hacer al respecto.

Hasan: Así que le estamos mostrando lo que está buscando el algoritmo. Y si deseas cambiarlo, puedes, ya sabes, usar estas, estas cirugías.

Fuerte: Pero ¿puede alguien, o cualquier cosa , ser verdaderamente objetivo sobre la belleza?

Rhue: Digamos que nunca he visto una IA de belleza culturalmente sensible.

Fuerte: ¿Y esta nueva ola de mejora de la belleza dejará a nuestra próxima generación con más inseguridades que nunca?

Veronica: Hay una forma en que los filtros son perjudiciales para la salud mental de las personas y pueden ser realmente paralizantes para algunas personas porque se comparan con eso.

Fuerte: Soy Jennifer Strong y en este episodio analizamos el papel de las máquinas en la configuración de nuestros estándares de belleza y cómo esos estándares nos moldean a nosotros.

[MOSTRAR ID]

Veronica: Cuando voy a usar un filtro facial es porque hay ciertas cosas que quiero que se vean diferentes. Entonces, si no estoy usando maquillaje o si creo que no me veo lo mejor posible, el filtro de belleza cambia ciertas cosas de tu apariencia.

Veronica: Hola soy Verónica. Tengo 19 años y soy de Minnesota.

Sofía: Soy Sophia, tengo 15 años. Y también soy de Minnesota.

Fuerte: Son hermanas... y ávidas usuarias de las redes sociales. Usan filtros de belleza para mejorar su aspecto en las fotos. Le están mostrando a mi productor Tate Ryan-Mosley algunos de sus favoritos.

Sofía: ¿Me veo así? No. Ni un poco.

tate: Describe qué te hace ver diferente en esa foto.

Sofía: Tiene estas pestañas enormes que hacen que mis ojos se vean hermosos. Mis labios triplican el tamaño y mi nariz más pequeña.

Veronica: Mi filtro ideal. Se llama el filtro Naomi en Snapchat. Aclara tu piel y luego hace que tus ojos se agranden.

tate: ¿Cuándo empezaste a usarlos? ¿Te acuerdas?

Veronica: ¿Quinto grado? No se. Era más divertido al principio. Como si fuera una especie de broma, como si la gente no intentara verse bien cuando usa los filtros.

Sofía: Definitivamente lo estaba. Como niñas de 12 años, como tener acceso a algo que no te hace ver como si tuvieras 12. Eso es lo mejor que existe.

Fuerte: Los filtros son explosivamente populares. Algunas son graciosas… como la que pone orejas de cachorro y una nariz falsa en tu cara. Otros están marcados, geoetiquetados y también hay algunos artísticos. Pero sin duda, el tipo más común son los filtros de belleza, que cambian la apariencia de alguien en una foto en un esfuerzo por hacerlo más atractivo, a menudo remodelando y coloreando sus rasgos.

Y los mayores fans son las chicas jóvenes.

Desde hace años... estas hermanas han usado filtros casi todos los días... Pero todavía no están seguras de lo que sienten por ellas.

Veronica: Con las redes sociales en general. Es imposible no compararse con la gente. Pero creo que cuando la gente usa filtros como ese y no lo revelan. Siento que eso puede hacer que las personas se vuelvan más inseguras o más afectadas que en una foto normal, porque aprecias menos su belleza natural en comparación con la belleza que fue formulada para hacerlos. lucir perfecto

Sofía: Eso no es normal. Ese no es un cuerpo normal. // Nos sentimos tan lindos en ellos. Y es como, por qué..

Veronica: ¿Hay algo así como una validación cuando cumples con ese estándar? Incluso si es solo para dar me gusta a una foto...

[Sonido de la charla TEDx: Epidemia de la enfermedad de la belleza]

Engeln: Hace unos 15 años, yo era un joven estudiante graduado entusiasta. Y pasé mucho tiempo enseñando.

Fuerte: Esta es Renee Engeln, profesora de psicología en la Universidad Northwestern, dando una charla TEDx.

Engeln: Y cuanto más escuchaba a mis alumnas, más detectaba algo preocupante. Estas jóvenes brillantes y talentosas pasaban cantidades alarmantes de tiempo pensando en hablar sobre tratar de modificar su apariencia física.

Ahora nuestras percepciones de la belleza son complicadas. Tienen profundas raíces evolutivas. Desde una perspectiva científica, la belleza no solo es deseable, sino también rara.

Fuerte: Continuó estudiando este problema, entrevistando a mujeres sobre cómo se veían afectadas por ver constantemente imágenes de estándares de belleza poco realistas... y lo que encontró fue... inesperado.

Engeln: Las mujeres saben que las mujeres que ven en estas imágenes no son representativas de la población general de mujeres. Son muy conscientes de que en el mundo real, nadie, nadie en realidad se ve así... No parece importar. Saber mejor no es suficiente. La misma mujer que dijo esto, por ejemplo, este tipo de cuerpo es flaco poco realista y sus costillas están a la vista y estás como, sí, justo en eso. Ella siguió con, siento que quiero ser así.

Fuerte: Engeln dio su charla en 2013... mucho antes de los filtros de belleza de IA. Y en estos días no solo estamos viendo modelos con Photoshop en revistas ... sino fotos nuestras y de nuestros amigos que han sido retocadas por algoritmos.

Y... está impulsando una industria completamente nueva...

Hasan: Nos dimos cuenta de que hay una demanda de aprender a editar caras correctamente. Y a partir de eso nos dimos cuenta de que también existe una demanda en la evaluación de rostros para comprender qué hace que un rostro sea atractivo o para comprender mejor qué cambios harán que un rostro se vea mejor, esencialmente.

Fuerte: Shafee Hassan es la fundadora de Qoves Studio. Es solo una de varias empresas nuevas que utilizan redes neuronales para reconocer cosas en los rostros de las personas que podrían considerarse poco atractivas. Es ingeniero estructural de formación... lo cual, dice, informa su trabajo.

Hasan: Y estos defectos aparecen una y otra vez. Y son muy comunes en ciertas etnias y menos comunes en otras y una computadora puede detectar eso con mucha precisión porque los valores de píxel, los valores de color son muy similares independientemente de dónde lo mire o de qué sección de la cara sea. .

Fuerte: Los investigadores creen que los gigantes de las redes sociales como Facebook, Instagram y Tik Tok usan algoritmos que miden el atractivo de una cara.

Hasan: ... determinar o predeterminar si una pieza de contenido tendrá éxito o no, y luego impulsar ese contenido a una mayor población de usuarios.

Fuerte: Hasta la fecha, ninguno ha confirmado esto. Lo que sí sabemos (a partir de un informe de The Intercept) es que TikTok pidió a sus moderadores de contenido que suprimieran los videos con personas que consideraban poco atractivas, pobres o con alguna discapacidad. Un portavoz de TikTok dijo que esas reglas fueron un intento temprano y contundente de prevenir el acoso y ya no están vigentes.

Y aquí es donde entran empresas como la de Hassan. Desde su perspectiva, discutir si es correcto o incorrecto promocionar y suprimir imágenes de personas en función de su apariencia... no viene al caso. Él dice que este sistema es la realidad y las características faciales afectan el estatus social, las perspectivas profesionales y los ingresos. Pero cree que su empresa puede hacer que ese proceso sea más transparente.

Hasan: Así que le estamos mostrando lo que está buscando el algoritmo. Y si deseas cambiarlo, puedes, ya sabes, usar estas, estas cirugías. Y eso también es algo que proporcionamos también. Brindamos formas, soluciones y ni siquiera tiene que ser cosmético. Dormir puede mejorar el contorno de tus ojos, lo que un algoritmo de belleza puede penalizarte con 0,5 puntos.

Fuerte: UH Huh. Escuchaste bien. Cirugías para ayudar a las personas a encarnar lo que creen que buscan las máquinas. Su canal de YouTube se enfoca precisamente en eso, con videos que obtienen más de un millón de visitas. Como éste:

[Sonido del video de YouTube con Hassan]

Hasan: Bienvenidos al primer episodio de Definiendo la belleza... Donde intento explorar lo que hace que un rostro sea atractivo de la forma más objetiva posible.

Fuerte: Y ofrecen informes detallados sobre estos defectos percibidos.

Hassan: Idealmente, los ojos humanos deberían estar separados por el ancho de un ojo... aquí hay un artículo escrito sobre un experimento de 2008 sobre la distancia interpupilar específica entre los ojos y cómo influyen en el atractivo.

Fuerte: Él ve la cirugía como una parte más importante de nuestro futuro, especialmente a medida que crece la importancia de nuestra imagen en línea.

Hasan: El punto es que queremos aclarar cómo las personas ven la cirugía como una herramienta más positiva de movilidad social, porque su apariencia influye en la forma en que lo tratan, la cantidad de dinero que gana, cómo su nivel socioeconómico puede subir o bajar. Si tienes la mandíbula deformada, no te voy a decir que eres hermosa, tal como eres. Y creo que debería corregir eso porque la investigación ha demostrado que una deformidad del ángulo cervical de la mandíbula de, digamos, 130 grados o más, es calificada muy estrictamente como muy poco atractiva por la mayoría de los evaluadores legos. Entonces, al igual que la idea de esta forma políticamente correcta de belleza, la belleza es algo que quiero asumir, aunque sea controvertido. Siento que mucha gente está de acuerdo con lo que digo. Y es obviamente por eso que tengo una plataforma.

Fuerte: Le pregunté a Hassan si había recibido muchas críticas por este trabajo.

Hasan: Curiosamente, las críticas más duras que recibí fueron de mis amigos y familiares cuando comencé y nunca críticas de ninguna parte del gran Internet, eh, la gente tenía mucha curiosidad por la tecnología. Plantea algunas preocupaciones sobre la privacidad, pero obviamente hacemos todo lo posible para mantener todo lo más seguro posible. Plantea algunas preocupaciones sobre, um, supongo, una sensación general de control, ya sabes, decirle a la gente que esto está mal con tu cara, bla, bla, bla

Fuerte: Pero los algoritmos de belleza tener son objeto de severas críticas por perpetuar el racismo y la discriminación por edad. Por ejemplo, en 2016, Microsoft y NVIDIA organizaron un concurso de belleza con un juez de inteligencia artificial. Y de 6 mil entradas, casi todos los 44 ganadores fueron blancos.

Hasan: Bueno, uno de los grandes problemas con los algoritmos de belleza es que suelen tener una tendencia con rostros caucásicos. Y entonces penalizan muy duramente a las caras con rasgos no eurocéntricos porque no están entrenados con ese tipo de rasgos. Ahora, una de las cosas, cuando estábamos desarrollando nuestro algoritmo, es entrenarlo con tantas caras diferentes como sea posible. Siempre he creído que las personas atractivas son una raza propia. Y así, sus características atractivas trascienden un eurocéntrico o un caucásico o un afrocéntrico o cualquier céntrico que quieras mirar. Mandíbulas afiladas, pómulos afilados, grasa facial magra, como si esto no fuera algo eurocéntrico. Esto es solo una cosa de biología.

Fuerte: Y Hassan toma su 'inspiración' de la película profundamente distópica de los 90. gattaca .

[Sonidos del tráiler teatral de Gattaca]

Hasan: Entonces gattaca es muy impactante porque muchas personas no nacen genéticamente más dotadas. Y esto se remonta a la idea de que las celebridades en la cima, las personas atractivas y atractivas en la cima están allí solo porque son genéticamente dotadas. No creo del todo que así hayan llegado allí. Creo que mucho tiene que ver con un poco de ayuda de la cirugía, un poco de ayuda de la dieta, un poco de ayuda de entrenadores de clase mundial. Son cosas de las que nunca hablarán, pero es, es parte de la ilusión de ser inalcanzable y ser exaltado del hombre común. Entonces gattaca es el mejor epítome, la mejor representación de lo que es básicamente nuestra empresa.

Fuerte: Mientras informaba sobre esta historia... mi productor Tate decidió probar su herramienta de evaluación facial. Y ver lo que sucede a continuación me hace sentir extremadamente incómodo.

Tuve esta experiencia en una feria comercial hace unos años... y aunque sabía que era un truco... todavía sembró temores en mi cabeza. ¿Y ahora en esta pantalla de zoom? Va más allá de las tácticas de miedo y la crema facial cara... esta herramienta recomienda agujas y cuchillos...

Hasan: Entonces, estamos en el sitio web Y hasta ahora todo bien, nos desplazamos hacia abajo. Así que esta es tu, um, imagen. Podemos subirlo. No soy un robot... Toma. Aquí. Correcto Uh, y estos son los defectos que detecta la computadora.

Hasan: Pliegues nasolabiales más profundos. Estas son estas líneas aquí, y eso es porque estás sonriendo... Debajo de la depresión del contorno de los ojos, que definitivamente está aquí... la región se hunde instantáneamente. Y luego vuelve a subir cuando se acerca a los pómulos. Por lo general, para caras atractivas, el contorno está en línea. Está al ras de los ojos, tan leves, leves círculos oscuros. párpado inferior hinchado, con lo cual estoy de acuerdo Este párpado definitivamente está muy hinchado por alguna razón, pero este no lo está. Así que eso es lo que se recoge en lugar de 0,5 o 0,58, que es bastante fuerte. una almohadilla de grasa jugal nasal, eh, esa es esta almohadilla aquí, es muy pequeña. Y entonces, en este 0.3, que es, creo que exacto, no es algo que me preocupe mucho porque la computadora piensa que tienes un pliegue epicántico, que es un monólido asiático como lo llaman... y eso es probablemente porque la grasa de tu párpado superior cubre mucho de tu párpado superior. Así que básicamente lo ve como todo, siendo un párpado.

Fuerte: Presionemos el botón de pausa aquí para tener algo de contexto... por extraño que sea para mí describir a mi amigo y colega de esta manera... no puedes ver a Tate. Entonces, con su permiso... aquí vamos: ella es alta, rubia, tiene estos grandes ojos azules, pómulos fuertes y una sonrisa gigante... ella también es joven, dos dígitos más joven que yo... ¿y en cuanto a esa genética? Ella es la hija de un atleta profesional.

Pero estamos escuchando recomendaciones sobre lo que puede hacer para corregir sus supuestos defectos... incluidos diferentes tipos de cirugía plástica... y no puedo evitar pensar en la dureza con la que esta herramienta podría juzgarnos al resto de nosotros... especialmente a alguien que no es joven. y blanco.

Fuerte: Vamos a tomarnos un breve descanso, pero primero... Nuestros amigos del Financial Times han relanzado su podcast, Tech Tonic. Descubra cómo un dispositivo como su Fitbit podría ser el primero en saber que tiene covid... o qué significan las leyes antimonopolio para un especialista en pescado ahumado... el editor de innovación John Thornhill nos lleva a salas de emergencia, cruceros y aulas para explore cómo la tecnología ha remodelado nuestro mundo... y lo que eso significa para nosotros.

Los cinco episodios están disponibles ahora dondequiera que obtenga sus podcasts... solo busque tech tonic.

Volveremos... justo después de esto.

[A MEDIO ROLLO]

Fuerte: ¿Qué significa tomar estándares de belleza ya defectuosos... impuestos en gran medida por nosotros mismos... y en su lugar? Transfiera este lío a algoritmos que son aún más defectuosos, llenos de sesgos y que refuerzan aún más las características eurocéntricas como el definición de lo que es bello...

Ya sea que se trate de un filtro de Instagram que hace que los ojos sean más grandes... la piel más suave y las líneas de la mandíbula más nítidas... O un software que señala cómo sus rasgos no alcanzan la marca estandarizada...

...y entonces llamamos a un investigador que investiga cómo la tecnología afecta las elecciones que hacemos.

Rue: Y estaba mirando las herramientas de reconocimiento facial que había para tratar de entender mejor las imágenes. Y fue entonces cuando me di cuenta de que había algoritmos de puntuación para la belleza.

Fuerte: Lauren Rhue es profesora en la Escuela de Negocios de la Universidad de Maryland.

Rue: Y pensé que eso parece imposible. La belleza está completamente en el ojo del espectador. Hay todos estos diferentes estándares culturales que tienen que ver con la belleza. ¿Cómo se puede entrenar un algoritmo para determinar si alguien es hermoso o no?

Fuerte: Este tipo de puntuación es diferente a la que hace Hassan... pero ambos aplican la misma tecnología.

Rue: Bueno, subes una foto y ellos, con una puntuación de cero a 100, te dirán lo hermosa que es esta persona. De hecho, el artículo que estoy escribiendo, está mirando Face Plus Plus, y lo dividen en una puntuación masculina y una puntuación femenina. Así que las mujeres piensan que esta persona es hermosa, 85 de cien, mientras que los hombres piensan que tal vez sea 90 de cien.

Fuerte: La mayoría de las veces no está claro qué compañías usan algoritmos de puntuación de belleza... pero para aquellos que quieran, están fácilmente a la venta. Por ejemplo, uno de los jugadores más grandes en esto, Face Plus Plus, propiedad del unicornio tecnológico chino, Megvii, su función de puntuación de belleza está disponible como parte de su sistema de reconocimiento facial. Instagram y Facebook han negado el uso de tales algoritmos. TikTok y Snapchat se negaron a comentar... pero Rhue dice que solo los algoritmos de recomendación a menudo terminan midiendo el atractivo... independientemente de si están destinados a hacerlo.

Rue: Bueno, si miras lo que quiere Instagram, serán esencialmente modelos, ¿verdad? No vas a ver muchos tipos diferentes de rasgos y expresiones faciales. Y eso va a perpetuar esta idea de belleza porque, debido a la falta de diversidad en lo que ves en Instagram, y lo que es extremadamente popular en Instagram.

Fuerte: En otras palabras, las imágenes que los usuarios consideran más hermosas obtienen la mayor cantidad de 'me gusta'... y eso es lo que se recomienda a otros...

Rue: Estamos reduciendo el tipo de imágenes que están disponibles para todos.

Fuerte: Cuando combinas eso con la gente que aplica de manera generalizada esos filtros de belleza a sus fotos... se genera algo que se denomina la cara de Instagram... que es una estética particular que se prioriza y recompensa en las redes sociales. Y ha creado una nueva apariencia idealizada que domina la plataforma.

Rue: Entiendo que es más un valor de entretenimiento en cuanto a por qué tenemos filtros de belleza, pero nuestra elección de filtros de belleza definitivamente se basa en la cultura, ¿verdad? Informada por cuáles son los estándares de belleza. Y muchas veces hay estándares de belleza eurocéntricos, y puedes ver eso con algunos de los problemas de reconocimiento facial que han seguido surgiendo. Entonces, el hecho de que en el zoom las personas con piel muy oscura pueden, literalmente, perder su piel. Para rostros asiáticos cuyos ojos no fueron vistos originalmente por las cámaras. ¿Correcto? Y también por el hecho de que muchos de los filtros de belleza están ahí para hacer que tus ojos se vean más grandes. Y parte de eso es que eso es lo que la gente quiere. Y ahí es donde creo que entra el huevo y la gallina. ¿Cómo vas a expandir esto, la idea de belleza lejos de los estándares de belleza eurocéntricos si vemos estos filtros de belleza que perpetúan ciertas características como más atractivas que otras? .

Fuerte: Se sabe que las redes sociales son excluyentes, al igual que la industria de la belleza. Pero también lo es la IA.

Rue: Me interesé, por supuesto, para ver si podías ver estos sesgos culturales en los algoritmos. Y por supuesto que puedes. Digamos que nunca he visto una IA de belleza culturalmente sensible.

Fuerte: La investigación de Rhue encontró que las mujeres con piel y cabello más claros fueron calificadas consistentemente como más atractivas que las mujeres con piel y cabello más oscuros. Y también es probable que los filtros, que usan detección facial, tengan algún sesgo racial incorporado. Y las consecuencias van mucho más allá del mundo digital.

Rue: Creo que debemos tener mucho cuidado cuando pensamos en la elección en el espacio digital. Quiero decir, se han realizado estudios extensos que han demostrado que el orden en que recomiendas algo a alguien cambia sus preferencias reales. Entonces, como tenemos todos estos, eh, algoritmos de recomendación y estas herramientas de soporte de decisiones que nos ayudan a descubrir qué comprar o cómo posicionarnos en las redes sociales, está cambiando lo que creemos que queremos.

Fuerte: Y cree que la comunidad tecnológica está pasando por alto en gran medida las aplicaciones de la IA en la belleza.

Rue: Simplemente no es algo de lo que realmente estemos hablando. Y creo que eso habla de la importancia de la diversidad en este espacio. Mucha gente dice, Oh, bueno, la belleza simplemente no es importante porque somos personas tecnológicas y somos objetivos. Pero, por supuesto, quiero decir, la belleza es esta gran industria... tiene un gran impacto en las personas. Y la idea de que no hay más investigación es muy interesante para mí.

Fuerte: Próximo episodio... miramos hacia el futuro de los pagos digitales.

Omar Farooq: Creemos que hay un camino a seguir en el que el dinero puede ser más inteligente. Entonces, en realidad puede programar la moneda y puede controlar a quién va. Entonces, eso no es realmente posible en los sistemas centralizados de hoy. Eso solo se puede hacer en un sistema descentralizado habilitado para dinero inteligente.

Fuerte: Este episodio fue informado por Tate Ryan-Mosley y producido por mí, Emma Cillekens, Karen Hao y Anthony Green. Estamos editados por Michael Reilly y Bobbie Johnson.

Gracias por escuchar, soy Jennifer Strong.

[ID TR]

esconder