Podcast: Atención, compradores, están siendo rastreados

En algunas tiendas, los sistemas sofisticados rastrean a los clientes en casi todas las formas imaginables, desde reconocer sus rostros hasta medir su edad, su estado de ánimo y virtualmente maquillarlos. Los sistemas rara vez solicitan el permiso de las personas y, en su mayor parte, no tienen que hacerlo. En nuestro final de la temporada 1, analizamos la explosión de la IA y las tecnologías de reconocimiento facial en los espacios comerciales, y lo que significa para el futuro de las compras.

Nos encontramos:

• RetailNext CTO Arun Nair
• Vicepresidente global de la incubadora de tecnología de L'Oreal, Guive Balooch
• Parham Arabi, CEO de Modiface
• Pionero de la biometría y presidente de ID4Africa Joseph Atick

Créditos

Este episodio fue informado y producido por Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens y Karen Hao. Estamos editados por Michael Reilly y Gideon Lichfield.

Transcripción

[ID TR]

Fuerte: Los minoristas han estado utilizando tecnologías de reconocimiento facial y seguimiento de IA durante años.

[ Audio de Face First: ¿Qué pasaría si pudiera detener el crimen minorista antes de que suceda al saber el momento en que un ladrón ingresa a su tienda? ¿Y si pudieras conocer la presencia de delincuentes violentos antes de que actúen? Con Face First puedes detener el crimen antes de que comience.]

Fuerte: Ese es uno de los mayores proveedores de esta tecnología para las tiendas minoristas. Detecta rostros, voces, objetos y afirma que puede analizar el comportamiento. Pero los sistemas de reconocimiento facial tienen un historial bien documentado de identificación errónea de mujeres y personas de color.

[ Sonido de la audiencia del Congreso de 2019 sobre reconocimiento facial (Ocasio-Cortez): Tenemos una tecnología que fue creada y diseñada por un grupo demográfico que solo es mayormente efectiva en ese grupo demográfico. ¿Y están tratando de venderlo e imponerlo en todo el país?]

Fuerte: Esta es la representante Alexandria Ocasio-Cortez en una audiencia del Congreso de 2019 sobre reconocimiento facial. Las tecnologías fotográficas funcionan mejor en pieles más claras. Y los conjuntos de datos utilizados por las empresas para entrenar los sistemas de análisis facial se basan en gran medida en rostros recopilados de Internet, donde el contenido tiende a ser blanco, masculino y occidental.

[ Sonido de la audiencia del Congreso de 2019 sobre reconocimiento facial (Ocasio-Cortez): ¿Y cree que esto podría exacerbar las ya atroces, eh, desigualdades en nuestro, en nuestro sistema de justicia penal]

[ Sonido de la audiencia del Congreso de 2019 sobre reconocimiento facial (Buolamwini): Y ya lo es.]

Fuerte: Joy Buolamwini es activista e informática.

[ Sonido de la audiencia del Congreso de 2019 sobre reconocimiento facial (Buolamwini): Entonces, hay un caso con el Sr. Bah, un hombre afroamericano de 18 años que fue identificado erróneamente en las tiendas de Apple como un ladrón. Y, de hecho, fue arrestado falsamente varias veces debido a este tipo de identificación errónea.

Fuerte: A medida que aumenta la conciencia sobre estos problemas, más lugares buscan imponer restricciones en torno a su uso, como en Portland, Oregón, que recientemente aprobó la prohibición más amplia de identificación facial en los EE. UU.

[ Sonido de la tienda en Portland, Oregón: mire a la cámara para entrar]

Fuerte: La prohibición entra en vigencia en enero y, cuando lo haga, la voz y la cámara desaparecerán de lugares como esta tienda de alimentos donde la tecnología abre la puerta a los compradores nocturnos. Pero el uso en otros lugares va mucho más allá de la lucha contra el crimen (y está comenzando a desempeñar otras funciones minoristas), como recordar sus pedidos anteriores y los detalles de pago.

Molinero: Estas tecnologías basadas en el rostro, uhh inteligencia artificial, visión artificial nos permiten ver a nuestro cliente en el mundo fuera de línea como Amazon ve a su cliente en el mundo en línea. Eso nos permite crear experiencias personalizadas para el cliente y también nos permite dirigirnos directamente a ese cliente de nuevas maneras cuando regresa al restaurante.

Fuerte: Ese es el presidente de Cali Group, John Miller, su restaurante de comida rápida Caliburger prueba tecnologías que luego comercializa en toda la industria. Otros minoristas utilizan el reconocimiento facial para saber cuándo hay compradores VIP o celebridades en sus tiendas, como en esta escena de la película Minority Report en la que mientras Tom Cruise pasea por un centro comercial, se escanean sus ojos y los anuncios se dirigen a su personaje por su nombre.

[ Sonido de Minority Report donde las voces se dirigen a John Anderson en persona]

Fuerte: Las medidas faciales que impulsan estas aplicaciones también se pueden usar para muchas otras cosas además de identificar a alguien. Por ejemplo, algunos centros comerciales lo usan para ayudar a establecer los alquileres de sus tiendas contando cuántas personas pasan y usan datos faciales para medir el género, la edad y otros datos demográficos. A veces, las cámaras de reconocimiento facial incluso están ocultas en los directorios de los centros comerciales. Y dentro de las tiendas, los minoristas lo usan para comprender mejor lo que les interesa a los compradores. También está integrado en las aplicaciones de compras y los espejos de las tiendas que permiten a las personas probarse virtualmente cualquier cosa, desde anteojos hasta maquillaje.

Soy Jennifer Strong y en este episodio finalizamos nuestra primera temporada (y nuestra última miniserie sobre el reconocimiento facial) con un vistazo a cómo se usa para ver, comprender e influir en sus hábitos de compra.

[MOSTRAR ID]

Fuerte: Así que estoy frente a lo que solía ser la tienda más grande del mundo. Esto es Macy's en la calle 34 en Manhattan. El edificio ocupa toda una manzana de la ciudad y, en cierto modo, es el centro de gravedad de la temporada de compras navideñas aquí, entre otras cosas, la inspiración para una de las películas navideñas más famosas de Nueva York, Miracle on 34th Street.

Pero la compañía también puede tener un historial de uso de reconocimiento facial y se presentó una demanda al respecto en Illinois, que tiene una ley de privacidad biométrica que requiere que las empresas obtengan permiso antes de usarlo en los clientes. Esa demanda alega que Macy's es cliente de ClearviewAI. Tuvimos al fundador en este programa Hoan Ton-That y su producto funciona comparando imágenes, en este caso de compradores o ladrones, con una base de datos de quizás miles de millones de fotos tomadas de las redes sociales publicadas por personas que no han cambiado su ajustes para hacer que las fotos sean privadas solo para sus amigos.

Ahora, los concejales de la ciudad de Nueva York acaban de aprobar aquí una medida biométrica que, si es firmada por el alcalde, hará que los minoristas aquí también les digan a los compradores que se está utilizando el reconocimiento facial y quizás qué está pasando con esos datos. Pero sabes que es demasiado pronto para decir cómo sería eso. Quiero decir, caminar como parte de una gran multitud de compradores más allá de una placa en la pared que dice que el reconocimiento facial está presente, ¿equivale eso a estar informado, y mucho menos a dar consentimiento? Pero voy a entrar con mi productor, Anthony Green, y veré si podemos encontrar aplicaciones de mapeo facial totalmente diferentes para mostrárselas.

Varios de estos mostradores de belleza tienen iPads que funcionan como espejos con realidad aumentada. Probamos tres de ellos, solo uno, aunque pedimos consentimiento para analizar nuestras caras. Dos de los sistemas nos vieron bien a través de nuestras máscaras. El otro no reconoció nuestras caras en absoluto.

Me acerqué a un espejo y dice que mi iluminación está bien. Acércate hasta que tu cara llene un círculo. Aparentemente tengo ojeras, textura irregular. irritación y enrojecimiento y líneas de ojos. ¿Al menos estamos en el lado menos? No sé. Guau. Oye Anthony, deberías ver esto. No estaba seguro de que estuviera haciendo algo y ahora mírate en el espejo.

Verde: Guau.

Fuerte: ¿Correcto?

Verde: Guau.

Fuerte: Realmente no tengo palabras para describir esto, pero es muy divertido verme así de inventado.

Verde: Sólo un poco como glamoroso.

Fuerte: Sí. Estoy como súper glamurosa. Y, literalmente, todo lo que estaba haciendo era mirarme en este espejo y luego miré hacia abajo en un iPad y Santo, wow.

Verde: Esto es trabajar con la máscara puesta.

Fuerte: Esto es con mi máscara puesta. Y si me bajo la máscara, estoy maquillada en todas partes.

Verde: Oh si

Fuerte: Como glosado y todo. Mírate.

Verde: Guau.

Fuerte: De acuerdo, entonces Anthony acaba de dar un paso hacia mí y ahora está hecho de nueve. Bueno. Estas experiencias se encuentran entre las muchas formas en que se puede aplicar el mapeo facial.

Pero debido a que son tan controvertidos, la mayoría de las marcas simplemente no quieren hablar de eso. Y sobre todo, no tienen que hacerlo. No existe un requisito nacional de que las empresas divulguen la forma en que recopilan o utilizan nuestros datos biométricos, aunque podemos imaginar un futuro no muy lejano en el que esos datos se vuelvan más importantes que cualquier documento que tengamos. Es probable que estos datos personales reemplacen a todos ellos para demostrar quiénes somos y qué poseemos.

La mayor parte de lo que sabemos sobre el uso del reconocimiento facial por parte de los minoristas comenzó en 2013 cuando se hizo público que la empresa de identidad NEC tenía alrededor de una docena de marcas y hoteles como clientes y estaban usando su tecnología de lectura facial para identificar celebridades y otros VIP como ellos. atravesó sus puertas.

Al año siguiente, Facebook anunció que aplicó redes neuronales a Face ID por primera vez, lo que hizo que funcionara significativamente mejor. Y los minoristas, incluido Walmart, comenzaron a probarlo como una forma de identificar a las personas atrapadas robando en tiendas.

Para 2016, las empresas de comida rápida estaban experimentando con otros casos de uso. Una asociación, entre KFC y el gigante tecnológico chino Baidu, recomendó elementos del menú a los clientes en función de su edad y estado de ánimo, según lo determinado por el escaneo facial. En estos días también es posible pagar con la cara, aunque hasta ahora, estas aplicaciones no se han puesto de moda. Entonces, donde sea que compre, es razonable suponer que podría encontrar algún aspecto de esta tecnología y podría combinarse con cualquier número de otros rastreadores. Pero es igualmente cierto que gran parte del seguimiento que se realiza en las tiendas minoristas mediante visión por computadora no implica ningún tipo de reconocimiento facial.

nair: Si crea un sitio web hoy, hay muchas herramientas disponibles que puede usar para obtener datos, como cuántas personas visitaron su sitio web, quiénes eran, cómo navegaron por su sitio web, etc. y para los sitios de comercio electrónico, la eventual actividad de compra también. Y puede usar todos estos datos para comprender el comportamiento de los visitantes y optimizar su sitio. Hacemos exactamente lo mismo, pero para espacios físicos. Mi nombre es Arun Nair. Soy el CTO y cofundador de RetailNext.

Fuerte: Su software de seguimiento se implementa en oficinas, museos e incluso boleras, pero su principal mercado es el comercio minorista. Las cámaras de techo equipadas con visión por computadora rastrean a los clientes mientras viajan por la tienda. Puede adivinar información demográfica básica como el género, quién es un empleado, en función de si están detrás del registro, incluso las interacciones entre empleados y clientes.

nair: Incluso tenemos un algoritmo de predicción que le indicará en función de la información histórica cuándo su tienda estará ocupada más tarde en el día, más tarde en la semana. Y es extremadamente útil para la dotación de personal. Por lo tanto, asegúrese de que cuando espere un pico, que haya personas allí para ayudar a los compradores y que no estén haciendo cola, etc., así como que no siempre cuente con personal cuando nadie necesita estar allí.

Fuerte: Él dice que la compañía es capaz de determinar lo que estás mirando, pero no rastrea la mirada, las expresiones o los rostros. Y no identifican individualmente a nadie.

nair: No sabemos quiénes son como individuos, y específicamente tratamos de no saberlo también. Y, en realidad, en muchos casos, una vez que obtenemos esa información, tiramos el video o lo desenfocamos.

Fuerte: Cuando se trata de privacidad, él cree que los sistemas que usan el reconocimiento facial para la identidad deberían ser opcionales.

nair: El consentimiento no se trata solo de, Oh, puse mis datos ahí para que puedas hacer lo que quieras. Creo que el consentimiento también se trata de que sepas, queremos que hagas esto para que podamos hacer esto a cambio por ti. ¿Estás de acuerdo con eso?

Fuerte: Pero admite que es más fácil decirlo que hacerlo.

nair: No es fácil optar por no participar en esas cosas. E incluso si optas por no participar, el desafío es que, digamos, dices eso, Oye, quiero optar por salir de mi cara. Como empresa de tecnología, todavía tengo que almacenar una versión digitalizada de tu cara para asegurarme de no volver a rastrearte en el futuro porque la próxima vez que vea tu cara, necesito algo contra lo que mapear para decir eso, Oh, yo debería estar dejando caer la cara de esta persona. Pero, de nuevo, ya sabes, de una manera extraña, ahora estoy almacenando una versión digitalizada de tu cara, que. De nuevo, no es realmente tu cara, pero es una representación de ella.

Fuerte: Y estos desafíos no van a desaparecer. La mayoría de las tecnologías de seguimiento no están reguladas y simplemente no sabemos con qué frecuencia se capturan cosas como los datos faciales. Lo que está claro es que la industria minorista está cambiando a un mundo centrado en el análisis en tiempo real de las experiencias de los clientes.

nair: Creo que van a ver más y más de eso en el futuro, donde hay menos compras en estos lugares, pero así es como aprendes sobre la marca. [00:12:15] Casi como publicidad, además de construir una lealtad a la marca.

Fuerte: El seguimiento de los clientes y su interacción con la tienda no solo ayuda a los minoristas a saber qué se vende, sino que también les da una idea de lo que quieren los clientes.

nair: Introduces un nuevo producto. Y quiere asegurarse de que la gente esté viendo ese producto. Nuestros algoritmos le dirán si las personas realmente ingresan a un área de la tienda e interactúan con un producto y luego realizan una compra.

Balucho: Creo que es una combinación de IA con objetos físicos lo que crea un momento emocionante en el tiempo. Sabes, nunca podrías realmente probar una tendencia y luego prescindir de ella. Eso no fue posible nunca. Pero ahora, gracias a la IA, podemos realmente pasar por las tendencias muy rápidamente. Somos capaces de seleccionar tendencias, podemos darle a la gente lo que desea. Mi nombre es Guive Balooch y dirijo la incubadora de tecnología global en L'Oreal. Llevo 15 años en la empresa y mi trabajo es encontrar la intersección entre belleza y tecnología.

Fuerte: L'Oreal es la compañía de cosméticos más grande del mundo con Estee Lauder, Maybelline, Garnier y muchas otras marcas de consumo bajo su paraguas corporativo.

Balucho: Comenzamos hace unos ocho años con una aplicación de realidad aumentada llamada genio del maquillaje. Esa fue la primera prueba virtual del mundo. Y desde entonces, hemos lanzado proyectos en torno a la belleza personalizada, como la personalización del cuidado de la piel, la personalización de la base. Lanzamos un sensor UV en la tienda de Apple que es un dispositivo portátil que no tiene batería y puede medir su exposición a los rayos UV. Y ahora nos estamos moviendo cada vez más hacia la personalización masiva y encontrando formas de combinar tecnologías como AR e AI para crear nuevos objetos físicos que pueden ser mágicos para los consumidores de belleza y, con suerte, deleitar a nuestros usuarios.

Fuerte: Y esto es más difícil de lo que parece. Diseñar experiencias que permitan a los clientes probarse el maquillaje en realidad aumentada presenta enormes desafíos técnicos para la detección de rostros.

Balucho: Necesitas detectar dónde está el ojo y dónde está la ceja. Y tiene que ser a un nivel de precisión que cuando el producto está allí, no parece que no esté exactamente en tu labio. Y es gracioso porque vengo de una formación académica con un doctorado. Así que no me di cuenta de lo complicada que es esa parte específica de esta tecnología. Pensé, Oh, está bien. Conseguiremos el software. Será fácil. Solo haremos que funcione. Pero resulta que no, es realmente complicado porque los labios de las personas pueden variar de forma, el color entre tu tono de piel y tu labio también puede ser muy diferente. Por lo tanto, debe tener un algoritmo que pueda detectarlo y asegurarse de que funcione en personas de piel muy clara a muy oscura.

Fuerte: Y dice que uno de los mayores impactos de la IA en el mercado de la belleza podría ser una mayor inclusión, algo con lo que la industria ha luchado durante mucho tiempo.

Balucho: Estoy convencido de que la inclusividad es el futuro de la belleza y que la inclusividad significa que todo ser humano tiene derecho a tener un producto que sea lo que necesita para sí mismo y mostrarle al mundo cómo quiere ser. exhibido. Y creo que solo a través de cosas como la inteligencia artificial y la tecnología, podremos alcanzar ese nivel de relación personal con los deseos de las personas por sus hábitos de belleza.

Fuerte: Esos hábitos se moldean alrededor de nuestra piel. Y el tono de la piel ha sido históricamente uno de los desafíos técnicos y culturales más difíciles.

Balucho: Lanzamos este proyecto llamado que es esta base blender. Y cuando comencé este proyecto, pensé que iba a ser muy simple porque cuando fui a Home Depot, umm, no soy realmente un manitas, pero iba mucho con mi papá a Home Depot y él compraba pintura. Él combinaría la pintura y ellos simplemente harían la pintura allí mismo. Y dije, está bien, ¿así de fácil? Entonces, cuando comenzamos el proyecto por primera vez, nos dimos cuenta, está bien, ya sabes, solo tomas un tono de piel de un pedazo de, ya sabes, un papel y puedes igualar la base. Y luego me di cuenta de que nuestra piel no es como una pared, es un tejido biológico que cambia según el tipo de tono de piel que tengas.

Fuerte: En resumen, el algoritmo no funcionó.

Balucho: Y así tuvimos que parar y pasar otros seis meses para mejorarlo. Primero hicimos eso con un pequeño dispositivo que mide el tono de tu piel, usando un objeto físico, porque el tono de tu piel es difícil de medir si no la tocas porque la luz puede cambiar el color de tu piel. Entonces, dependiendo de si estás afuera o adentro, podrías tener una gran diferencia en la medida. Pero ya no más. Gracias a la IA, creo que cada vez más con la IA, podremos obtener mediciones precisas. Tenemos que probarlos y asegurarnos de que funcionan tan bien como los objetos. Pero una vez que llegamos a un punto, cuando pensamos que nos estamos acercando a eso, entonces puedes resolver algunos desafíos realmente grandes. Y en base, el 50% de las mujeres no pueden encontrar el tono correcto de base. Y no hay forma de que la cantidad de productos en el estante lo resuelva porque siempre tendrás más tonos de piel en el mundo que productos que puedas poner en el estante.

Fuerte: Y el futuro podría abrir una nueva clase de herramientas de belleza personalizadas.

Balucho: Podemos hacer objetos que, ya sabes, no son enormes, portátiles, y pueden hacer cosas increíbles. Al igual que en el futuro, podría imaginar que puede dispensar sombra de ojos en su párpado automáticamente con solo detectar la cara y poder tener un objeto que pueda dispensarla.

Fuerte: Para construir ese futuro, L'Oreal adquirió una empresa llamada Modiface que fabrica herramientas de realidad aumentada para más de 70 de las principales marcas de belleza del mundo.

Arábica: Un gran paso que ocurrió hace unos años fue pasar de las fotos a la simulación de video en vivo. Una hazaña realmente difícil tecnológicamente, pero realmente impactante en la experiencia del consumidor. En lugar de tener que tomar una foto y subirla, podían ver un video en vivo.

Fuerte: Parham Aarabi es el fundador y director ejecutivo de Modiface.

Arábica: El siguiente gran paso que veo y que me emociona mucho es una combinación de la comprensión de la cara por parte de la IA, junto con nuestra simulación. Entonces, no solo decirte, está bien, entonces eliges un lápiz labial y así es como se ve, sino decirte, porque elegiste este lápiz labial y porque tienes ojos azules, creemos que esta sombra de ojos podría combinar con el mejor.

Fuerte: Su experiencia es en seguimiento de rostro y labios.

Arábica: Por eso, creamos esta demostración de muestra en la que puedes rastrear los labios de alguien e intercambiar los labios con una celebridad, por ejemplo. Mi cofundador tuvo la idea de que antes de hacer esto, deberíamos aplicar algunos cambios en la piel. Y así fue realmente la combinación de estas dos ideas lo que se convirtió en la base de Modiface.

Fuerte: La industria de la belleza se nutre de la experiencia de compra en persona. Y aunque las ventas de comercio electrónico han ido en aumento durante mucho tiempo, este sector ha sido mucho más lento que otros. Por contexto, el principal vendedor de comercio electrónico en belleza de 2018 fue champú. Pero la pandemia está acelerando las cosas. Las ventas en línea del gigante de la belleza Sephora aumentaron un 30 por ciento en los EE. UU. este año. Y también se asoció con Modiface para desarrollar una aplicación que actúa como una tienda virtual, completa con tutoriales de productos y un mostrador de belleza de realidad aumentada.

Arábica: Ves un botón de prueba, lo presionas y se abre una ventana. Ve su propio video en esa ventana, pero se muestran diferentes productos virtuales.

Fuerte: Y construir la confianza del consumidor en estos productos simulados significa diseñar una experiencia tan fluida como mirarse en un espejo.

Arábica: Si alguien realmente se prueba un lápiz labial y un color de cabello y luego se graba en video en lugar de usar nuestra tecnología y luego tener una simulación virtual de esos productos, los dos deberían ser indistinguibles. El retraso, dentro de la simulación que se aplica en comparación con cuando te miras la cara y ves movimientos, no debe ser evidente para el usuario. Y estos son grandes desafíos. Una es de realismo. No quieres que el delineador parpadee en los ojos de alguien y lo segundo es hacerlo tan rápido que en un sitio web en video en vivo, no notes ningún retraso. Así que estos son grandes, grandes desafíos.

Fuerte: Y es más que solo cosméticos. Los elementos de detección de rostros se utilizan cada vez más en medicina para diagnosticar enfermedades. Y cree que en el futuro sus productos detectarán todo tipo de trastornos de la piel.

Arábica: Así que hemos estado impulsando esta evaluación de la piel, um, dirección mirando la imagen de alguien. Y en base a eso, sabiendo qué productos para el cuidado de la piel son mejores para ellos, y más, cuanto más hacemos esto y mejor entrenamos nuestros sistemas de IA, encontramos que están aumentando en el nivel de precisión al igual que los dermatólogos. . Y creo que si sigues esa línea, esta IA, que en realidad no puede reemplazar a los dermatólogos, pero realmente los ayudó como... una herramienta objetiva que puede mirar la cara de alguien y hacer recomendaciones.

Fuerte: Parece que hay más conciencia del reconocimiento facial de sus riesgos, inmadureces y sesgos, pero también de su mayor presencia en nuestras vidas y potencial puro. Para mí, parece que acabamos de arañar la superficie: en esta desordenada carrera digital hacia algo diferente y grande. Y me hizo preguntarme cómo se sentiría uno de sus inventores acerca de todo esto.

Una garrapata: Empecé a trabajar en el cerebro humano aproximadamente un año después de graduarme e hice junto con mis colaboradores algunos avances fundamentales, que llevaron a la creación de un campo llamado industria biométrica y el primer reconocimiento facial comercialmente viable. Es por eso que la gente se refiere a mí como el padre fundador del reconocimiento facial y la industria biométrica.

Fuerte: Ese es el Dr. Joseph Atick. Desarrolló uno de los primeros algoritmos de reconocimiento facial en 1994.

Una garrapata: El algoritmo de cómo un cerebro humano reconocería rostros familiares quedó claro mientras realizamos una investigación matemática en el Instituto de estudios avanzados en Princeton.

Fuerte: Pero la tecnología necesaria para capturar esos rostros aún no estaba en los bolsillos de todos.

Una garrapata: En ese momento, las computadoras no tenían cámaras. Los teléfonos que tenían cámaras no existían. Tuvimos que construir los ojos para el cerebro. Teníamos un cerebro, pensábamos que sabíamos cómo el cerebro analizaría las señales, pero no teníamos los ojos que llevarían la información y la señal visual al cerebro.

Fuerte: Las cámaras web aparecieron en los años 90 y las computadoras con capacidades de video llegaron al mercado unos años después.

Una garrapata: Y ese fue un momento emocionante porque, de repente, el cerebro que habíamos construido finalmente tenía el par de ojos que serían necesarios para ver.

Fuerte: Este fue el avance que él y su equipo necesitaban para dar vida a su concepto. Así que empezaron a codificar.

Una garrapata: fue un largo período de meses de programación y fracaso y programación y fracaso

Fuerte: Pero eventualmente…

Una garrapata: Y una noche, temprano en la mañana, en realidad, acabábamos de finalizar una versión del algoritmo. Enviamos el código fuente para su compilación con el fin de obtener un código de ejecución. Y salimos, salí para ir al baño. Y luego, cuando volví a entrar en la habitación, vio mi rostro, lo extrajo del fondo y pronunció Veo a Joseph. Y ese fue el momento en que el cabello en la espalda, sentí que algo había sucedido. Fuimos testigo. Y comencé, um, a llamar a las otras personas que todavía estaban en el laboratorio y cada uno de ellos entraría a la habitación. Y diría, diría, veo a Norman. Vería a Paul, vería a Joseph. Y nos turnábamos para correr por la habitación solo para ver cuántos podía detectar en la habitación.

Fuerte: Habían construido algo que nunca antes se había construido. Meses de matemáticas y codificación y largas noches parecían estar dando sus frutos. Pero a los pocos años esa emoción se convirtió en preocupación.

Una garrapata: Mi, mi preocupación por la tecnología que ayudé a crear e inventar comenzó muy rápidamente después de haberla inventado. Vi un futuro en el que nuestra privacidad estaría en peligro si no instaurábamos medidas de protección para evitar el abuso de esta poderosa tecnología.

Fuerte: Y él quería hacer algo al respecto.

Una garrapata: Entonces, en 1998, presioné a la industria y dije que necesitamos establecer principios para un uso responsable. Y aquí es donde nació una organización llamada IBIA en 1998 como una asociación de la industria para promover el uso responsable. Um, y yo fui el fundador de esa, esa organización. Y me sentí bien por un tiempo porque sentí que lo habíamos hecho bien. Sentí que habíamos inventado la tecnología, pero luego implementamos un código de uso responsable para ser seguido por cualquier implementación. Sin embargo, ese código no pasó la prueba del tiempo. Y la razón detrás de esto es que no anticipamos la aparición de las redes sociales.

Fuerte: El reconocimiento facial se basa en una base de datos de imágenes. El tamaño, la calidad y las condiciones de privacidad de esta base de datos es en gran medida lo que determina qué tan segura o intrusiva es la tecnología. En 1998, Atick construyó sus bases de datos escaneando manualmente miles de imágenes y etiquetándolas con nombres. Era tedioso y limitado en tamaño.

Una garrapata: Hemos permitido que la bestia salga de la bolsa alimentándola con miles de millones de caras y ayudándola etiquetándonos a nosotros mismos. Ahora estamos en un mundo donde el aprendizaje automático ahora permite la aparición de más de 400 algoritmos diferentes de reconocimiento facial en el mundo. Por lo tanto, cualquier esperanza de controlar y exigir que todos sean responsables en el uso del reconocimiento facial es difícil.

Fuerte: Y esto empeora con el raspado, donde se crea una base de datos al escanear todo Internet en busca de fotos públicas.

Una garrapata: Entonces, comencé a entrar en pánico en 2011 y escribí un artículo de opinión diciendo que es hora de presionar el botón de pánico porque el mundo se dirige en una dirección en la que el reconocimiento facial será omnipresente y los rostros estarán disponibles en todas partes. en, en, en bases de datos. El poder de la computación se está volviendo muy, muy masivo hasta el punto de que potencialmente podríamos reconocer a miles de millones de personas. Y en ese momento la gente decía que yo era un alarmista, pero se están dando cuenta de que es exactamente lo que está sucediendo hoy.

Fuerte: Entonces, en cierto modo, está ejerciendo presión en contra de su propia invención a pesar de que todavía usa la biometría para ayudar a construir cosas que cree que podrían beneficiar el bien común, como la identificación digital para las personas en los países en desarrollo.

Una garrapata: El efecto escalofriante es algo imperdonable. Si no puedo salir a la calle, porque creo que alguien está usando un iPhone, podría tomarme una foto y conectarme a mi perfil en línea y esta conexión en línea y fuera de línea es algo peligroso. Y está sucediendo ahora mismo.

Fuerte: Y cree que necesitamos con urgencia algunas reglas básicas legales.

Una garrapata: Así que ya no es una cuestión tecnológica. No podemos contener esta poderosa tecnología a través de la tecnología. Tiene que haber algún tipo de marco legal.

Fuerte: Tal como él lo ve, la ventaja tecnológica seguirá avanzando, con la IA a la vanguardia. ¿Pero la gente que lo construye y lo usa? Están en el centro.

Una garrapata: Creo que tiene que haber cierta armonía entre lo que la tecnología puede hacer por nosotros y ayudarnos a vivir con dignidad y tener vidas más fáciles y conectarnos con las personas que amamos, pero al mismo tiempo, tiene que estar dentro de nuestra moral y nuestras expectativas. como los seres humanos permiten que sea.

Fuerte: En otras palabras, una vez más… nos parece a nosotros. Este episodio fue informado y producido por mí, Anthony Green, Emma Cillekens, Tate Ryan-Mosley y Karen Hao. Estamos editados por Michael Reilly y Gideon Lichfield. Gracias también a Kate Kaye con el podcast Banned in PDX. Eso es todo para la primera temporada. Muchas gracias por elegir pasar su tiempo con nosotros. Nos vemos aquí en el nuevo año hasta entonces felices fiestas y... Gracias por escucharme, soy Jennifer Strong.

[ID TR]

esconder