Le pedí a una IA que me dijera lo hermosa que soy

Las computadoras clasifican la apariencia de las personas, y los resultados influyen en las cosas que hacemos, las publicaciones que vemos y la forma en que pensamos.

Juana Wong

por

• Tate Ryan-Mosley página de archivo

5 de marzo de 2021

Conocí Qoves Studio por primera vez a través de su popular canal de YouTube, que ofrece videos pulidos como ¿El peinado hace una cara bonita?, ¿Qué hace atractivo a Timothée Chalamet? , y Cómo la alineación de la mandíbula influye en las percepciones sociales a millones de espectadores.

Qoves comenzó como un estudio que retocaba imágenes para agencias de modelos; ahora es una consultoría de estética facial que promete respuestas a la vieja pregunta de qué hace que un rostro sea atractivo. Su sitio web , que presenta bocetos de tiza de mujeres de aspecto parisino que usan lápiz labial y sombreros de colores, ofrece una gama de servicios relacionados con su negocio de consultoría de cirugía plástica: asesoramiento sobre productos de belleza, por ejemplo, y consejos sobre cómo mejorar las imágenes usando su computadora. Pero su característica más convincente es la herramienta de evaluación facial: un sistema impulsado por IA que promete mirar imágenes de su rostro para decirle qué tan hermoso es, o no, y luego decirle qué puede hacer al respecto.

La semana pasada, decidí probarlo. Siguiendo las instrucciones del sitio, lavé el poco maquillaje que llevaba puesto y encontré una pared neutra iluminada por una pequeña ventana. Le pedí a mi novio que tomara algunas fotos de primer plano de mi cara a la altura de los ojos. Me esforcé por no sonreír. Era lo contrario de glamuroso.

Subí la foto más llevadera y, en milisegundos, Qoves me envió una boleta de calificaciones con los 10 defectos previstos en mi rostro. Encabezando la lista estaba una probabilidad de 0,7 de pliegues nasolabiales, seguida de una probabilidad de 0,69 de depresión del contorno debajo de los ojos y una probabilidad de 0,66 de decoloración periocular. En otras palabras, sospechó (correctamente) que tengo bolsas oscuras debajo de los ojos y líneas de expresión, las cuales se registran como problemáticas con la IA.

Mis resultados de la herramienta de evaluación facial Qoves

El informe devolvió útiles recomendaciones que podría tomar para abordar mis fallas. Primero, un artículo sugerido sobre las líneas de la sonrisa me informó que pueden necesitar una intervención quirúrgica o inyectable. Si quisiera, podría actualizar a un informe más completo de recomendaciones quirúrgicas, escrito por médicos, en niveles de $75, $150 y $250. También sugirió cinco sueros que podría probar primero, cada uno con un ingrediente diferente para el cuidado de la piel: retinol, neuropéptidos, ácido hialurónico, EGF y TNS. Solo había oído hablar del retinol. Esa noche, antes de acostarme, revisé los ingredientes de mi humectante facial para ver qué contenía.

Yo estaba intrigado. La herramienta había desglosado mi apariencia en una lista de problemas del tamaño de un bocado: un láser enfocado en lo que pensaba que estaba mal con mi apariencia.

Qoves, sin embargo, es solo una pequeña empresa emergente con 20 empleados en un océano de empresas y servicios de análisis facial. Existe una industria creciente de herramientas de análisis facial impulsadas por IA, cada una de las cuales afirma analizar una imagen en busca de características como emociones, edad o atractivo. Las empresas que trabajan en tales tecnologías son un favorito del capital de riesgo, y dichos algoritmos se utilizan en todo, desde ventas de cosméticos en línea hasta aplicaciones de citas. Estas herramientas de puntuación de belleza, fácilmente disponibles para su compra en línea, utilizan el análisis facial y la visión artificial para evaluar cosas como la simetría, el tamaño de los ojos y la forma de la nariz para clasificar y clasificar millones de piezas de contenido visual y mostrar a las personas más atractivas.

Estos algoritmos entrenan una especie de mirada de máquina en fotografías y videos, arrojando valores numéricos similares a calificaciones crediticias, donde los puntajes más altos pueden desbloquear las mejores oportunidades en línea para obtener Me gusta, vistas y coincidencias. Si esa perspectiva no es lo suficientemente preocupante, la tecnología también exacerba otros problemas, dicen los expertos. La mayoría de los algoritmos de puntuación de belleza están llenos de inexactitudes, discriminación por edad y racismo, y la naturaleza patentada de muchos de estos sistemas significa que es imposible obtener una idea de cómo funcionan realmente, cuánto se usan o cómo afectan a los usuarios.

Qoves recomendó ciertas acciones para corregir mis 'defectos previstos'

Espejo Espejo en la pared …

Las pruebas como las disponibles de Qoves están por todo Internet. One está a cargo de la plataforma abierta de reconocimiento facial más grande del mundo, Cara++ . Su sistema de puntuación de belleza fue desarrollado por la empresa china de imágenes Megvii y, al igual que Qoves, utiliza IA para examinar tu rostro. Pero en lugar de detallar lo que ve en lenguaje clínico, reduce sus hallazgos a un grado porcentual de posible atractivo. De hecho, arroja dos resultados: un puntaje que predice cómo los hombres podrían responder a una imagen y el otro que representa una perspectiva femenina. Usando la demostración gratuita del servicio y la misma foto sin glamour, rápidamente obtuve mis resultados. Los hombres generalmente piensan que esta persona es más hermosa que el 69,62 % de las personas y las mujeres generalmente piensan que esta persona es más hermosa que el 73,877 %.

Fue anticlimático, pero mejor de lo que esperaba. Un año después de la pandemia, puedo ver el impacto del estrés, el peso y los salones de belleza cerrados en mi apariencia. Volví a probar la herramienta con otras dos fotos mías de Antes, las cuales me gustaron. Mis puntajes mejoraron, acercándome al percentil 25 superior.

La belleza es a menudo subjetiva y personal: nuestros seres queridos nos parecen atractivos cuando están sanos y felices, e incluso cuando están tristes. Otras veces es un juicio colectivo: los sistemas de clasificación como los concursos de belleza o las listas de revistas de las personas más bellas muestran cuánto tratamos el atractivo como un premio. Esta evaluación también puede ser fea e incómoda: cuando era adolescente, los chicos de mi escuela secundaria gritaban números del uno al 10 a las chicas que pasaban por el pasillo. Pero hay algo inquietante en una máquina que califica la belleza del rostro de alguien: es tan desagradable como los gritos en la escuela, pero las matemáticas se sienten inquietantemente poco humanas.

Mis resultados de puntuación de belleza de Face++

Bajo el capó

Aunque el concepto de clasificar el atractivo de las personas no es nuevo, la forma en que funcionan estos sistemas en particular es un desarrollo relativamente nuevo: Face ++ lanzó su función de puntuación de belleza en 2017.

Cuando se le pidió detalles sobre cómo funciona el algoritmo, un portavoz de Megvii solo dijo que se desarrolló hace unos tres años en respuesta al interés del mercado local en aplicaciones relacionadas con el entretenimiento. El sitio web de la compañía indica que se usaron caras chinas y del sudeste asiático para entrenar el sistema, que atrajo a 300,000 desarrolladores poco después de su lanzamiento, pero hay poca información más.

Un portavoz de Megvii dice que Face ++ es una plataforma de código abierto y no puede controlar las formas en que los desarrolladores pueden usarla, pero el sitio web sugiere ventas cosméticas y emparejamiento como dos aplicaciones potenciales.

Los clientes conocidos de la compañía incluyen el sistema de vigilancia del gobierno chino , que cubre el país con cámaras de circuito cerrado de televisión, así como Alibaba y Lenovo. Megvii presentó recientemente una oferta pública inicial y actualmente está valorada en 4.000 millones de dólares. Según un informe del New York Times, es una de las tres empresas de reconocimiento facial que ayudaron el gobierno chino en la identificación de ciudadanos que pudieran pertenecer a la minoría étnica uigur.

Cómo funcionan las redes neuronales convolucionales

• Las redes neuronales convolucionales miran imágenes y videos para analizar y categorizar los objetos que representan en múltiples niveles de análisis. Una capa de la red podría identificar, por ejemplo, los bordes de una mano humana; otro puede encontrar dedos, otro manos, otro brazos, y otro personas.

• Otras capas responden a niveles más altos de abstracción: si se trata de un árbol, ¿qué ha aprendido la red sobre los árboles? Si es una calle, ¿cuáles son las cosas en una calle que debería esperar ver? Por ejemplo, una red neuronal convolucional podría calificar una imagen de una cara con una mandíbula afilada como muy probable que sea atractiva porque determinó que la nitidez de la mandíbula era un indicador particularmente fuerte de la puntuación de belleza humana para la que fue entrenada.

Mientras tanto, Qoves fue más comunicativo sobre cómo funciona su análisis facial. La empresa, con sede en Australia, se fundó como una empresa de retoque fotográfico en 2019, pero cambió a una combinación de análisis impulsado por IA y cirugía plástica en 2020. Su sistema utiliza una técnica común de aprendizaje profundo conocida como red neuronal convolucional , o CNN. Las CNN utilizadas para calificar el atractivo generalmente se entrenan en un conjunto de datos de cientos de miles de imágenes que las personas ya han calificado manualmente por su atractivo. Al observar las imágenes y las calificaciones existentes, el sistema infiere qué factores las personas consideran atractivos para poder hacer predicciones cuando se muestran nuevas imágenes.

Otras grandes empresas han invertido en IA de belleza en los últimos años. Incluyen el minorista estadounidense de cosméticos Ulta Beauty, valorado en $ 18 mil millones, que desarrolló un herramienta de análisis de la piel . Nvidia y Microsoft respaldaron un concurso de belleza de robots en 2016, que desafió a los participantes a desarrollar la mejor IA para determinar el atractivo.

Según Evan Nisselson, socio de LDV Capital, la tecnología de visión aún se encuentra en sus primeras etapas, lo que crea 'oportunidades de inversión significativas y ventajas'. LDV estima que habrá 45 mil millones de cámaras en el mundo para el próximo año, sin incluir las que se utilizan para la fabricación o la logística, y afirma que los datos visuales serán la entrada de datos clave para los sistemas de IA en el futuro cercano. Nisselson dice que el análisis facial es 'un gran mercado' que, con el tiempo, implicará 'reinventar la pila de tecnología para llegar al mismo o más cercano o incluso mejor que el ojo humano'.

El fundador de Qoves, Shafee Hassan, afirma que la puntuación de la belleza podría estar aún más extendida. Él dice que las aplicaciones y plataformas de redes sociales a menudo usan sistemas que escanean los rostros de las personas, los califican por su atractivo y prestan más atención a aquellos que tienen una clasificación más alta. Lo que estamos haciendo es algo similar a Snapchat, Instagram y TikTok, dice. pero lo estamos haciendo más transparente.

Agrega: están usando la misma red neuronal y las mismas técnicas, pero no te dicen que [han] identificado que tu cara tiene estos pliegues nasolabiales, tiene un bermellón delgado, tiene todas estas cosas, por lo tanto, te van a penalizar por ser una persona menos atractiva.

Me puse en contacto con varias empresas, incluidos los servicios de citas y las plataformas de redes sociales, y les pregunté si la calificación de belleza es parte de sus algoritmos de recomendación. Instagram y Facebook han negado el uso de tales algoritmos. TikTok y Snapchat se negaron a comentar sobre el registro.

joan wong

grandes cajas negras

Los avances recientes en el aprendizaje profundo han cambiado drásticamente la precisión de las IA de belleza. Antes del aprendizaje profundo, el análisis facial se basaba en la ingeniería de características, donde una comprensión científica de las características faciales guiaría a la IA. La fórmula para una cara atractiva, por ejemplo, podría establecerse para recompensar los ojos muy abiertos y una mandíbula afilada. Imagínese mirar un rostro humano y ver una representación al estilo de Leonardo da Vinci de todas las proporciones y el espacio entre los ojos y ese tipo de cosas, dice Serge Belongie, profesor de visión por computadora en la Universidad de Cornell. Con el advenimiento del aprendizaje profundo, todo se convirtió en big data y grandes cajas negras de computación de redes neuronales que procesaban enormes cantidades de datos etiquetados, dice. Y al final del día, funciona mejor que todas las demás cosas en las que trabajamos durante décadas.

Pero hay una trampa. Todavía no estamos totalmente seguros de cómo funciona, dice Belongie. La industria está feliz, pero la academia está un poco desconcertada. Debido a que la belleza es altamente subjetiva, lo mejor que puede hacer una IA de belleza de aprendizaje profundo es regurgitar con precisión las preferencias de los datos de entrenamiento utilizados para enseñarla. Aunque algunos sistemas de IA ahora califican el atractivo con tanta precisión como los humanos en un conjunto de entrenamiento, eso significa que los sistemas también muestran la misma cantidad de sesgo. Y lo que es más importante, debido a que el sistema es inescrutable, colocar barandas en el algoritmo que puedan minimizar el sesgo es una tarea difícil y costosa desde el punto de vista computacional.

Belongie dice que hay aplicaciones de este tipo de tecnología que son más anodinas y menos problemáticas que calificar una cara por atractivo, una herramienta que puede recomendar la fotografía más hermosa de una puesta de sol en su teléfono, por ejemplo. Pero la puntuación de belleza es diferente. Eso, para mí, es un esfuerzo muy aterrador, dice.

Incluso si los datos de entrenamiento y los usos comerciales son lo más imparciales y seguros posible, la visión por computadora tiene limitaciones técnicas cuando se trata de tonos de piel humana. Los chips de imágenes que se encuentran en las cámaras están preestablecidos para procesar un rango particular de ellos. Históricamente, algunos tonos de piel simplemente se dejaron fuera de la mesa, según Belongie, lo que significa que es posible que las fotos en sí mismas ni siquiera se hayan revelado con ciertos tonos de piel en mente. Incluso las ambiciones más nobles en términos de capturar todas las formas de la belleza humana pueden no tener la oportunidad porque los valores de brillo ni siquiera se representan con precisión.

Y estos sesgos técnicos se manifiestan como racismo en las aplicaciones comerciales. En 2018, Lauren Rhue, una economista que es profesora asistente de sistemas de información en la Universidad de Maryland, College Park, estaba comprando herramientas de reconocimiento facial que podrían ayudarla en su trabajo de estudio de plataformas digitales cuando se topó con este conjunto de productos inusuales.

Me di cuenta de que había algoritmos de puntuación para la belleza, dice. Y pensé, eso parece imposible. Quiero decir, la belleza está completamente en el ojo del espectador. ¿Cómo se puede entrenar un algoritmo para determinar si alguien es hermoso o no? El estudio de estos algoritmos pronto se convirtió en un nuevo enfoque para su investigación.

Al observar cómo Face ++ calificó la belleza, descubrió que el sistema clasificaba constantemente a las mujeres de piel más oscura como menos atractivas que las mujeres blancas, y que las caras con rasgos parecidos a los europeos, como cabello más claro y narices más pequeñas, puntuaban más alto que aquellas con otras características, independientemente de su lo oscura que era su piel. El sesgo eurocéntrico en la IA refleja el sesgo de los humanos que calificaron las fotos utilizadas para entrenar el sistema, codificarlo y amplificarlo, independientemente de quién esté mirando las imágenes. Los estándares de belleza chinos, por ejemplo, priorizan la piel más clara, los ojos muy abiertos y las narices pequeñas.

Una comparación de dos fotos de Beyonce Knowles de la investigación de Lauren Rhue usando Face++. Su IA predijo que la imagen de la izquierda tendría una calificación de 74,776 % para hombres y 77,914 % para mujeres. La imagen de la derecha, por su parte, puntuó un 87,468% para hombres y un 91,14% para mujeres en su modelo. .

Los puntajes de belleza, dice, son parte de una dinámica inquietante entre una cultura de belleza que ya no es saludable y los algoritmos de recomendación con los que nos encontramos todos los días en línea. Cuando se utilizan puntajes para decidir qué publicaciones aparecen en las plataformas de redes sociales, por ejemplo, refuerza la definición de lo que se considera atractivo y desvía la atención de aquellos que no se ajustan al ideal estricto de la máquina. Estamos reduciendo los tipos de imágenes que están disponibles para todos, dice Rhue.

Es un círculo vicioso: con más ojos en el contenido que presenta a personas atractivas, esas imágenes pueden generar una mayor participación, por lo que se muestran a más personas. Eventualmente, incluso cuando un puntaje de belleza alto no es una razón directa por la que se le muestra una publicación, es un factor indirecto.

en un estudio publicado en 2019, analizó cómo dos algoritmos, uno para puntajes de belleza y otro para predicciones de edad, afectaban las opiniones de las personas. A los participantes se les mostraron imágenes de personas y se les pidió que evaluaran la belleza y la edad de los sujetos. A algunos de los participantes se les mostró la puntuación generada por una IA antes de dar su respuesta, mientras que a otros no se les mostró la puntuación de la IA en absoluto. Descubrió que los participantes sin conocimiento de la calificación de la IA no mostraban sesgos adicionales; sin embargo, saber cómo la IA clasificó el atractivo de las personas hizo que las personas dieran puntajes más cercanos al resultado generado algorítmicamente. Rhue llama a esto el efecto de anclaje.

Los algoritmos de recomendación en realidad están cambiando nuestras preferencias, dice ella. Y el desafío desde una perspectiva tecnológica, por supuesto, es no reducirlos demasiado. Cuando se trata de belleza, estamos viendo mucho más estrechamiento de lo que hubiera esperado.

'No vi ninguna razón para no evaluar tus defectos, porque hay formas de solucionarlo'.

Shafee Hassan, Estudio Qoves

En Qoves, Hassan dice que ha tratado de abordar el tema de la raza de frente. Cuando realiza un informe de análisis facial detallado, del tipo que pagan los clientes, su estudio intenta usar datos para categorizar el rostro según el origen étnico para que no se evalúe a todos simplemente en función de un ideal europeo. Puedes escapar de este sesgo eurocéntrico simplemente convirtiéndote en la versión más atractiva de ti mismo, la versión más atractiva de tu etnia, la versión más atractiva de tu raza, dice.

Pero Rhue dice que le preocupa que este tipo de categorización étnica se incruste más profundamente en nuestra infraestructura tecnológica. El problema es que la gente lo está haciendo, sin importar cómo lo miremos, y no hay ningún tipo de regulación o supervisión, dice. Si hay algún tipo de conflicto, la gente tratará de averiguar quién pertenece a qué categoría.

Digamos que nunca he visto una IA de belleza culturalmente sensible, dice ella.

Los sistemas de recomendación no tienen que estar diseñados para evaluar el atractivo para terminar haciéndolo de todos modos. La semana pasada, la emisora ​​​​alemana BR informó que una IA utilizada para evaluar a los empleados potenciales mostraba sesgos basados ​​​​en la apariencia. Y en marzo de 2020, la empresa matriz de TikTok, ByteDance, fue criticada por un memorando que instruía a los moderadores de contenido para suprimir videos que mostraban una apariencia facial fea, personas gorditas, personas con la cara deformada o sin dientes frontales, personas mayores con demasiadas arrugas y más. Twitter lanzó recientemente una herramienta de recorte automático para fotografías que parecía dar prioridad a los blancos . Cuando se probó en imágenes de Barack Obama y Mitch McConnell, la IA de recorte automático recortó constantemente al expresidente.

¿Quién es la más bella de todas?

Cuando hablé por primera vez con el fundador de Qoves, Hassan, por videollamada en enero, me dijo que siempre he creído que las personas atractivas son una raza propia.

Cuando comenzó en 2019, dice, sus amigos y familiares eran muy críticos con su empresa. Pero Hassan cree que está ayudando a las personas a convertirse en la mejor versión posible de sí mismas. Se inspira en la película de 1997. gattaca , que tiene lugar en un futuro no muy lejano donde la ingeniería genética es el medio predeterminado de concepción. La discriminación genética segmenta a la sociedad, y el personaje de Ethan Hawke, que fue concebido de forma natural, tiene que robar la identidad de una persona genéticamente perfeccionada para sortear el sistema.

Por lo general, se considera una película profundamente distópica, pero Hassan dice que dejó una marca inesperada.

Historia relacionada

El activista que desmantela los algoritmos policiales racistas Hamid Khan está ganando su lucha por la abolición de la tecnología de vigilancia utilizada por LAPD

Fue muy interesante para mí, porque la idea general era que una persona puede determinar su destino. La forma en que quieren verse es parte de su destino, dice. Con lo lejos que ha llegado la medicina moderna, no vi ninguna razón para no evaluar tus defectos, porque hay formas de solucionarlo.

Sus clientes parecen estar de acuerdo. Afirma que muchos de ellos son actores y actrices, y que la empresa recibe entre 50 y 100 pedidos de informes médicos detallados cada día, tantos que tiene problemas para satisfacer la demanda. Para Hassan, luchar contra el clasismo que se avecina entre los que se consideran bellos y los que la sociedad considera feos es fundamental para su misión. Lo que estamos tratando de hacer es ayudar a la persona promedio, me dijo.

Sin embargo, hay otras formas de ayudar a la persona promedio. Todos los expertos con los que hablé dijeron que la divulgación y la transparencia de las empresas que utilizan la puntuación de belleza son primordiales. Belongie cree que presionar a las empresas para que revelen el funcionamiento de sus algoritmos de recomendación ayudará a mantener seguros a los usuarios. La empresa debería poseerlo y decir que sí, estamos usando predicción de belleza facial y aquí está el modelo. Y aquí hay una galería representativa de rostros que creemos que, según su comportamiento de navegación, le resultan atractivos. Y creo que el usuario debe ser consciente de eso y poder interactuar con él. Él dice que las características como la herramienta de transparencia de anuncios de Facebook son un buen comienzo, pero si las empresas no están haciendo eso, y están haciendo algo como Face ++ donde simplemente asumen casualmente que todos estamos de acuerdo con la belleza... puede haber corredores de poder que simplemente tomó esa decisión.

Por supuesto, la industria primero tendría que confesar que utiliza estos modelos de puntuación en primer lugar, y el público tendría que ser consciente del problema. Y aunque el año pasado ha traído atención y críticas a la tecnología de reconocimiento facial , varios investigadores con los que hablé dijeron que estaban sorprendidos por la falta de conciencia sobre este uso. Rhue dice que lo más sorprendente de la calificación de la belleza ha sido la poca gente que lo examina como un tema. No está convencida de que la tecnología deba desarrollarse en absoluto.

Mientras Hassan revisaba mis propios defectos conmigo, me aseguró que una buena crema hidratante y algo de pérdida de peso deberían ser el truco. Y aunque la estética de mi rostro no determinará la trayectoria de mi carrera, me animó a tomar mis resultados en serio.

La belleza, me recordó, es una moneda.