El reconocimiento facial se está volviendo increíblemente poderoso y cada vez más controvertido

Categoría: Inteligencia artificial Al corriente Sep 08

Una cámara enfocada en tu cara puede revelar mucho sobre ti. Hemos escrito mucho recientemente sobre cómo el software de reconocimiento facial ha alcanzado un nivel increíblemente alto en los últimos años. Tan alto, de hecho, que la tecnología es lo suficientemente robusta como para usarse en toda China para autorizar pagos y tomar trenes.

Pero algunos avances tecnológicos impresionantes recientes están causando más revuelo. A principios de esta semana, Michal Kosinski y Yilun Wang de la Universidad de Stanford publicó un artículo en los servidores de preimpresión de PsyArxiv , próximamente publicado por la Revista de personalidad y psicología social , que muestra que la IA de reconocimiento facial es más precisa que los humanos para detectar la orientación sexual de las imágenes de las personas.

Entrenadas con 130.741 imágenes tomadas de sitios de citas donde las personas explican su orientación sexual, las redes neuronales de la pareja pueden distinguir entre hombres homosexuales y heterosexuales en el 81 por ciento de los casos a partir de una sola foto. Eso se compara con una precisión del 61 por ciento para un ser humano. Dadas cinco imágenes, las cifras de la IA aumentan al 91 por ciento. (Los mismos números para las mujeres son 71, 54 y 83, respectivamente).

El enfoque recuerda el trabajo descrito el año pasado por investigadores de la Universidad Jiao Tong de Shanghai en China, quienes entrenaron redes neuronales usando fotografías de criminales y no criminales conocidos. Luego pudieron identificar correctamente a los delincuentes a partir de nuevas imágenes con una precisión del 89,5 por ciento.

El Economista sugiere que el mismo enfoque podría usarse para tratar de identificar otras cualidades, como el coeficiente intelectual o la inclinación política. El fenómeno es, claramente, preocupante para aquellos que aprecian la privacidad, especialmente si la tecnología es utilizada por regímenes autoritarios donde incluso una sugerencia de homosexualidad o intención criminal puede ser vista con dureza.

Una conclusión natural: ¿tal vez deberíamos oscurecer nuestros rostros mientras estamos en las calles?

Lamentablemente, otro nuevo estudio puede hacer que esa idea no tenga sentido. A fines de la semana pasada, Amarjot Singh de la Universidad de Cambridge y sus colegas en India publicó un estudio sobre el arXiv mostrando que en muchos casos es posible identificar a una persona utilizando el reconocimiento facial incluso cuando su rostro está oculto. Cuando las personas usan un sombrero, una bufanda y anteojos para cubrirse la cara, sus algoritmos pudieron identificar a las personas con una precisión de alrededor del 55 por ciento. La cifra aumentó al 69 por ciento cuando solo se quitaron los anteojos.

Zeynep Tufekci del Centro Berkman para Internet y Sociedad de la Universidad de Harvard comentó sobre este hallazgo final en Twitter , describió la investigación como parte de una nueva capacidad cada vez mayor que servirá bien a los autoritarios. Ella probablemente tiene un punto.