Tierra de mil millones de caras

Clearview AI ha creado una de las bases de datos de rostros de personas más completas del mundo. Tu foto probablemente esté allí (la de nuestra presentadora Jennifer Strong estaba). En la segunda parte de esta serie de cuatro partes sobre reconocimiento facial, conocemos al director ejecutivo de la controvertida empresa que nos dice que nuestro futuro está lleno de FaceID, independientemente de si está regulado o no.

Nos encontramos:

• Hoan Ton-Eso, Clearview AI
• Alexa Daniels-Shpall, Foro de Investigación Ejecutiva de la Policía

Créditos:

Este episodio fue informado y producido por Jennifer Strong, con Tate Ryan-Mosley y Emma Cillekens, con un agradecimiento especial a Karen Hao y Benji Rosen. Estamos editados por Michael Reilly y Gideon Lichfield. Nuestro director técnico es Jacob Gorski.

Transcripción completa del episodio:

Jennifer Fuerte: Hay una pelea en los tribunales entre el sitio de redes LinkedIn y una empresa llamada hiQ Labs, una empresa emergente que informa a las corporaciones cuando sus empleados corren el riesgo de ser cazados furtivamente por otras empresas...

El problema es que lo hace extrayendo datos del sitio web de LinkedIn.

Lectura del presentador de noticias: Con más de 500 millones de usuarios en todo el mundo, LinkedIn es un tesoro de información personal. Pero, ¿qué sucede si esa información que no desea compartir le llega a su jefe?

Jennifer Fuerte: Pero hiQ argumenta que está bien: todos estos datos están disponibles públicamente sin iniciar sesión. El caso puede ir a la corte suprema este año, aunque hasta ahora, el sistema legal está de acuerdo con hiQ.

¿Sabe cuáles son sus derechos de privacidad en sitios web como LinkedIn o YouTube?

¿Sería sorprendente que las empresas utilicen fotos, incluidas algunas que nunca ha visto pero que de alguna manera terminaron en la web, para hacer crecer sus negocios, incluso para construir cosas como sistemas de inteligencia artificial que identifican a los sospechosos para la policía?

Soy Jennifer Strong y en la segunda parte de nuestra serie sobre reconocimiento facial y vigilancia hablamos con el director ejecutivo Hoan Ton-That, el fundador de una de las empresas tecnológicas más controvertidas del mundo, Clearview AI.

Jennifer Fuerte: En 2011, el director ejecutivo de Google en ese momento, Eric Schmidt, dio una entrevista principal en una conferencia organizada por The Wall Street Journal.

eric schmidt : A mí personalmente me preocupa mucho la unión del seguimiento de móviles y el reconocimiento facial.

Jennifer Fuerte: La combinación de Face I-D con los datos de seguimiento de los teléfonos celulares podría revelar casi todos los detalles sobre cómo y dónde pasamos nuestro tiempo.

Schmidt dijo que creía que podría usarse para bien o para mal, pero que en las democracias pensaba que se regularía rápidamente.

Estaba en el escenario con los periodistas Walt Mossberg y Kara Swisher y lo presionaron: ¿Qué capacidades tenía Google y qué podría pasar en las manos equivocadas?

eric schmidt : Para ser claros, construimos esa tecnología... y la retuvimos. Hasta donde yo sé, es la única tecnología que creó Google y, después de analizarla, decidimos parar.

Jennifer Fuerte: Avance rápido casi una década. El reconocimiento facial aún no está regulado, y la gran tecnología ha vuelto a cuestionar qué se debe construir y quién debe tenerlo.

La cuestión es que los gigantes tecnológicos no son los jugadores más importantes en ese espacio. Las empresas que lo son, incluidas NEC, Cognitec y Clearview AI, continúan vendiendo sus sistemas.

Y debido a que el reconocimiento facial no está regulado, a menos que una empresa decida decirnos que existen estas herramientas o un periodista descubra algo, no necesariamente sabremos qué hay, y mucho menos cómo se usa, incluso cuando se usa en nosotros.

Clearview a veces se conoce como la aplicación asesina de Face ID. También es increíblemente controvertido. Silenciosamente eliminó miles de millones de imágenes de Internet (de Venmo, LinkedIn, Google, Facebook, Twitter, YouTube, etc.) y creó un sistema que se cree que es ampliamente utilizado por las fuerzas del orden, incluidos el FBI y el ICE. como policía estatal y local.

Hay muchas batallas legales que se están librando por esta práctica llamada web scraping, no porque haya algo inherentemente malo en ello, es solo una herramienta para recopilar datos de Internet. Así es como los sitios web ofrecen comparaciones de precios y listados de bienes raíces. También es la forma en que se realiza una gran cantidad de investigación pública.

Entonces, el verdadero problema es que no hay reglas básicas para qué se puede raspar. ¿Y la ley federal más utilizada para resolver estos casos? Bueno, es de 1986. Antes de que existiera la Web.

A lo largo de esta serie, escucharemos a personas que crean tecnologías, así como a quienes luchan contra ellas. Y me senté con el director ejecutivo de Clearview para hablar sobre todo esto, desde su perspectiva.

Hoan Ton-Eso : Mi nombre es Hoan Ton-That y soy el fundador y director ejecutivo de Clearview AI.

jennifer fuerte : Bien, ¿cómo describiría su empresa, la tecnología y lo que hace?

Hoan Ton-Eso : Básicamente es un motor de búsqueda de rostros. Así que subes una foto de una cara y encuentra enlaces disponibles públicamente que están en línea. Y en este momento se usa para que las fuerzas del orden resuelvan crímenes después del hecho. Entonces, un oficial, si está atascado en un caso y tiene algo de un video, puede pasarlo por nuestro sistema y luego iniciar una investigación.

Jennifer Fuerte: Dice que inmediatamente atrajo a las fuerzas del orden, pero eso fue después de que se lo ofreció a algunos grupos diferentes.

Hoan Ton-Eso : Cuando estábamos construyendo nuestra tecnología de reconocimiento facial, exploramos muchas ideas diferentes y muchos sectores diferentes, desde la seguridad privada hasta la hospitalidad... cuando se lo dimos a algunas personas en las fuerzas del orden, el aumento fue enorme. Y nos llamaron al día siguiente y dijeron, estamos resolviendo casos. Esto es Loco. En una semana teníamos un folleto muy grueso.

jennifer fuerte : Entonces, ¿de dónde sacaste la idea de crear Clearview? ¿Cuáles fueron tus motivaciones?

Hoan Ton-Eso : Siempre me ha gustado aprender sobre programación informática, desde que era un niño viendo las videoconferencias del MIT o haciendo proyectos de código abierto y descargando imágenes para entrenar mejores modelos para el reconocimiento facial. Y eventualmente eso se transformó en hacer un motor de búsqueda facial. Y fue una sorpresa para mí cuántas personas realmente no abordaron esta idea porque es un problema tan difícil porque tienes que ser muy, muy preciso, pero nos mantuvimos firmes y terminó funcionando muy bien.

Jennifer Fuerte: Hay una lista creciente de razones por las que los investigadores podrían optar por no trabajar en un motor de búsqueda de caras. Uno grande es cómo se podría aplicar ese trabajo.

kade crockford : Tomemos el caso de Steve Talley, un analista financiero de Colorado.

Jennifer Fuerte: Kade Crockford es una defensora de la privacidad. Esto es de su Ted Talk.

kade crockford : En 2015, Talley fue acusado de robo a un banco por un error en un sistema de reconocimiento facial. Talley peleó ese caso y finalmente fue absuelto de esos cargos, pero perdió su casa, su trabajo y sus hijos. El caso de Steve Talley es un ejemplo de lo que puede pasar cuando falla la tecnología. Pero la vigilancia facial es igual de peligrosa cuando funciona como se anuncia.

Solo considere lo trivial que sería para una agencia gubernamental colocar una cámara de vigilancia afuera de un edificio donde las personas se reúnen para las reuniones de Alcohólicos Anónimos. Sería igual de fácil usar esta tecnología para identificar automáticamente a todas las personas que asistieron a la Marcha de las Mujeres o una protesta de Black Lives Matter.

Jennifer Fuerte: Aunque Ton-That cree que la herramienta de Clearview es más segura que lo que describe.

Hoan Ton-Eso : Un falso positivo en una configuración en vivo es más problemático que en una configuración posterior. Porque si recibe una alerta y está corriendo para encontrar a la persona, tal vez tenga mucho menos tiempo para ver si es correcto. Mientras que si está detrás de un escritorio haciendo una investigación, tiene todo el tiempo del mundo para asegurarse de que está haciendo lo correcto.

Jennifer Fuerte: Pero no hay acuerdo sobre lo que significa hacer lo correcto.

En el episodio uno conocimos a Robert Williams. Fue arrestado por error en el tipo de investigación del que habla Ton-That, después de que un software comparó incorrectamente la foto de su licencia de conducir con las imágenes de alguien robando relojes.

La herramienta utilizada en el caso del Sr. Williams no fue creada por Clearview sino por una empresa llamada DataWorks, aunque ambos sistemas se basan en redes neuronales.

Hoan Ton-Eso : Entonces, una red neuronal es una forma más nueva de inteligencia artificial donde, en lugar de codificar ciertos factores, por ejemplo, queremos hacer reconocimiento facial para encontrar rostros similares de la misma persona, en lugar de codificar factores como la distancia entre sus ojos o el distancia entre los ojos y la nariz, solo aprende de una tonelada de ejemplos diferentes. Y lo que hacemos es recopilar como mil ejemplos de George Clooney o mil ejemplos de Brad Pitt y la máquina con el tiempo aprende la diferencia entre esas dos caras y luego puede aplicarla a una cara que no se ha visto antes. .

Jennifer Fuerte: Algo en lo que todos con los que hablamos para esta serie estuvieron de acuerdo es que estos sistemas funcionan mejor cuando la iluminación es buena y las cámaras se colocan a la altura de la cara.

Pero con las cámaras de seguridad, eso es raro. También está el desafío de la escala.

Hoan Ton-Eso : ¿Cómo busca miles de millones de rostros o vectores en menos de un segundo? Búsqueda típica de bases de datos por nombre y correo electrónico. Esto busca por similitud. Y hacerlo a escala es difícil. También tuvimos que conseguir nuestro propio centro de datos para eso. Por lo general, si está comprando un sistema de reconocimiento facial, hay un problema de arranque en frío. ¿Qué fotos pones ahí? Entonces, los departamentos de policía pueden tener sus propias fotografías policiales, pero no tienen fotografías policiales de otros departamentos policiales. Así que realmente limita la utilidad de la misma. Y nos acabamos de dar cuenta de que hay trillones y trillones de páginas web en Internet y en las redes sociales y ya sabes, sitios de noticias, sitios web de fichas policiales.

Jennifer Fuerte: Estamos a solo unas pocas millas de distancia en la ciudad de Nueva York, pero debido a la pandemia estamos hablando por Zoom.

Hoan Ton-Eso : Jennifer, había tomado una captura de pantalla de una foto tuya antes. ¿Te importa si lo subo?

jennifer fuerte : No, esta bien.

Jennifer Fuerte: Y pone una foto antigua de mi cuenta de LinkedIn en la pantalla.

Hoan Ton-Eso : Entonces, ¿en el lado izquierdo? ¿Ves este nuevo botón de búsqueda donde eliges una foto? Así que este es el que voy a usar. No te preocupes. Nadie puede ver la pantalla excepto nosotros (risas).

Y eso tomó, ya sabes, alrededor de un segundo. Uh, y puedes ver que hay un enlace en el que puedes hacer clic. Pero a medida que avanzamos, esto es, eso es, eh, de Twitter. ¿Recuerdas esta foto en absoluto?

jennifer fuerte : Ummm no, no sabía que eso fue tomado... Me veo muy...

Hoan Ton-Eso : Sí. Tú haces. Te ves muy serio en eso. Sí.

Aquí estás dando una charla en The Wall Street Journal, el futuro de todo.

jennifer fuerte : Sí.

Hoan Ton-Eso : Está entrevistando a alguien aquí en Duke Health. Entonces, como dije, todas estas cosas están disponibles públicamente. Entonces, así es básicamente como funciona.

Jennifer Fuerte: No hay nada inusual aquí. Solo fotos mías en el trabajo informando historias y organizando paneles en diferentes ciudades, aunque es un poco chocante encontrar fotos mías que nunca he visto, y una vez más trae a colación esta espinosa cuestión del consentimiento.

Verá, es poco probable que marque una casilla que dé permiso a compañías como Clearview para raspar mi imagen y usarla para construir sus negocios.

La cosa es que no lo necesitan.

Volveremos en un momento justo después de esto.

Hoan Ton-Eso : Lo que es único acerca de Clearview AI y que hace que sea un poco más difícil de entender para las personas, es solo buscar información disponible públicamente.

Jennifer Fuerte: Y aquí es donde Ton-That presenta un argumento que podemos estar debatiendo y litigando durante muchos años: que la Internet abierta tal como la conocemos, incluidas cosas como las búsquedas de Google, no existiría realmente si hubiésemos puesto restricciones en el uso de datos en línea

Hoan Ton-Eso : LinkedIn es una empresa de mil millones de dólares, o una empresa de billones de dólares Microsoft, no tienen derecho a bloquear el acceso de otras personas a los datos públicos. Entonces, es algo que está en un lugar interesante porque solo busca información disponible públicamente y cosas que la gente quiere que sean privadas. Sabemos que no queremos enyesarlos en Internet. Así que creo que tenemos un instinto de lo que queremos mantener en privado y lo que queremos mantener en público y ese siempre será el caso.

Jennifer Fuerte: Es seguro decir que no todos están de acuerdo con él.

Twitter se encuentra entre una gran cantidad de empresas que enviaron a Clearview una orden de cese y desistimiento, diciéndole que deje de raspar sus imágenes y elimine todos sus datos. Twitter también dice que sus políticas prohíben que sus datos se utilicen para el reconocimiento facial. Dado que ya ha recopilado miles de millones de imágenes, se le perdonará que se pregunte cuánta información aún le queda por capturar.

Pero es solo la punta del iceberg.

Hoan Ton-Eso : Todavía no somos ni el 1% de lo que hay ahí afuera cuando analizas los números, es una locura la cantidad de información que hay ahí afuera. Entonces, cuando se trata de privacidad, tenemos que mirarnos a nosotros mismos y decir, bueno, estamos compartiendo voluntariamente mucha de esta información. Y eso puede ser cierto, pero ¿cómo, cómo nos sentimos al respecto? No tenemos ninguna información privada como Google o Facebook. Google tiene tu ubicación en Android todo el tiempo. Facebook conoce todos tus hábitos y lo que te gusta y lo que no te gusta. La pestaña de exploración de Instagram es fenomenal para descubrir lo que te gusta, da un poco de miedo, pero saben mucha más información que nosotros. Y solo estamos enfocados en tratar de aplicar para el mayor bien, creemos, para hacer que el mundo sea mucho más seguro.

Jennifer Fuerte: Y para él eso significa trabajar con la policía.

Hoan Ton-Eso : Entonces, muchas agencias de aplicación de la ley que usan reconocimiento facial ya tienen un procedimiento que dice que no se puede arrestar a alguien simplemente en función de una coincidencia de reconocimiento facial. Todavía tienes que hacer una investigación de seguimiento. Entonces, ¿siempre hay un humano en el circuito que verifica si esta persona es la persona correcta? ¿Tienen el nombre correcto? ¿Vive esa persona en la misma zona donde se cometió el delito?

Jennifer Fuerte: Pero, ¿qué pasa con las personas que son acusadas falsamente?

Ton-Eso argumentaría que es una falla humana. De la misma manera, seguimos siendo responsables de cómo conducimos mientras usamos el GPS, cuando la navegación dice que gire a la derecha y no es seguro hacerlo, depende de nosotros y de nuestro cerebro humano ignorarlo.

Y nos recuerda que la gente también se equivoca.

Hoan Ton-Eso : Como un ejemplo son las alineaciones humanas. El Proyecto Inocencia dice que el 70% de las condenas injustas provienen del testimonio de testigos oculares. Entonces, ya sabes, si eres un mal oficial de policía y quieres incriminar a alguien por un crimen que no cometió, puedes empujar a las personas para que elijan a la persona que quieres de una fila y creo que la tecnología como Clearview en realidad puede ayudar a agregar mucha transparencia y responsabilidad. Algo que nos encantaría analizar detenidamente es cómo puede ayudar a que las personas no sean mal identificadas.

Jennifer Fuerte: En cierto modo, este argumento que está haciendo contra humano ¿juicio? Es el mismo que se usa contra la entrega de estas decisiones a la IA: hay error, sesgo y racismo. Pero donde Ton-Eso no cree que podamos cambiar a las personas de manera confiable, sí cree que ha eliminado estas cosas de su sistema.

Hoan Ton-Eso : Y creemos que hemos resuelto totalmente el problema de la precisión y el problema del sesgo racial que ha afectado a otras empresas de reconocimiento facial. Y queremos que otras personas sepan que realmente podemos tomar esta tecnología y usarla.

Jennifer Fuerte: Estas son afirmaciones muy importantes que tal vez ni siquiera sean posibles, y actualmente no hay forma de verificarlas. Clearview no ha proporcionado el tipo de acceso público que permitiría auditar su sistema de la misma manera que lo han hecho Amazon y otros.

Él dice que la compañía hizo su propia auditoría, reuniendo una junta de revisión independiente que adoptó un enfoque similar a cuando la ACLU probó el sistema de reconocimiento facial de Amazon al pasar fotos del Congreso de los EE. UU. Más allá de una base de datos de fotos policiales, que son fotos de personas que han sido arrestadas por un crimen

Hoan Ton-Eso : Y así dirigieron este estudio independiente. Pero en lugar de buscar en una galería de 25.000 fotografías policiales, buscó en una galería de 2.800 millones de fotos en ese momento. E hicimos otras legislaturas estatales como el estado de Nueva York y Texas. Y cada uno de los resultados que surgieron fue la persona correcta y los revisaron individualmente.

Jennifer Fuerte: Desde la perspectiva de Clearview, esto significa que la tecnología podría ayudar a que el sistema de justicia sea más justo. Dice que consiguieron que Jonathan Lippman, el juez principal de la Corte de Apelaciones de Nueva York, fuera parte de ese panel de revisión.

Hoan Ton-Eso : Y realmente cree que si tienes algo que es más preciso, también es mejor para los acusados. No van a ir a la cárcel por un crimen que no cometieron.

Jennifer Fuerte: Si Silicon Valley tiene una marca, es este tecnooptimismo sobre cómo sus creaciones cambiarán el mundo, pero sin la carga de ser responsable de los cambios no deseados que podrían acompañarlo.

tal vez realmente no debería Ser el trabajo de los creadores de tecnología preocuparse por qué tipo de transparencia, supervisión y barandillas se necesitan para proteger al público.

Hoan Ton-Eso : Creo que es responsabilidad del gobierno y de los formuladores de políticas proponer regulaciones y las empresas de tecnología deberían tener un asiento en la mesa, y les conviene tener un asiento en la mesa. A veces se ven malas políticas aprobadas porque no saben cómo funciona la tecnología. Por lo tanto, creo que más empresas de tecnología se involucrarán con la política.

Hemos recibido mucha atención, pero sabemos que estamos haciendo lo correcto. Y creo que, a la larga, cualquier tipo de nueva tecnología es controvertida desde la imprenta... y eso es solo parte del proceso. La elección no está entre ningún reconocimiento facial y reconocimiento facial. Está entre el reconocimiento facial responsable y una especie de salvaje oeste.

Jennifer Fuerte: Un grupo que busca ayudar a domar ese salvaje oeste es The Police Executive Research Forum. La organización sin fines de lucro ha pasado las últimas cuatro décadas ayudando a los jefes de policía a resolver problemas emergentes.

Alexa Daniels-Shpall : El uso de armas Taser. Utilizan cámaras corporales. Ahora también estamos viendo el tema del reconocimiento facial.

Jennifer Fuerte: Alexa Daniels-Shpall dirige esta investigación en colaboración con el Departamento de Justicia de EE. UU.

Alexa Daniels-Shpall : Hemos estado investigando mucho en esta área con el objetivo de desarrollar algunas pautas nacionales. Lo están usando en una variedad de formas diferentes y casi todos han desarrollado sus propios procedimientos, protocolos y políticas.

Jennifer Fuerte: Entraremos en el próximo episodio... Pero por ahora, lo importante es que su investigación sugiere que la adopción de Clearview por parte de los departamentos de policía puede no ser tan generalizada como se afirma. En enero, le dijo al New York Times que más de 600 agencias de aplicación de la ley comenzaron a usar su producto el año pasado.

Alexa Daniels-Shpall : Solo hemos visto un puñado que ha cumplido con un contrato formal.

Jennifer Fuerte: En pocas palabras: las agencias de policía están usando Clearview. Pero hay una gran diferencia entre probar y comprar.

Alexa Daniels-Shpall : Sé que algunos lo probaron y luego decidieron no usarlo. Y, al menos algunos de ellos con los que hablamos dijeron que simplemente no funcionó tan bien para ellos. Y creo que probablemente depende de, ya sabes, con qué lo estás probando y en qué lugar del país te encuentras. Porque, ya sabes, no sé si alguien tiene una idea de dónde, como cuántas imágenes están apareciendo en diferentes áreas.

Jennifer Fuerte: Y no todas las agencias policiales que lo probaron lo hicieron a sabiendas... oa través de canales oficiales.

Alexa Daniels-Shpall : Los ejecutivos descubrieron que la empresa se había puesto en contacto con detectives para probarlo. Y luego se lo llevaron a sus jefes para decirles: Oigan, deberíamos considerar seguir adelante con eso. Y los ejecutivos dijeron, vamos a cerrar eso por ahora, y vamos a pasar por nuestros procesos normales de adquisición y evaluación antes de seguir adelante. // Ha sido una especie de recepción mixta diría que de diferentes agencias. Y la pregunta más importante sería averiguar cuántos tipos de contratos permanentes a largo plazo y cuántas agencias han realizado la adquisición formal para establecer una relación con la empresa en lugar de solo esas pruebas gratuitas que estaban dando vueltas.

Jennifer Fuerte: La próxima vez, nos encontraremos con policías de los EE. UU. que usan Face ID...

dori koren : Es un poco hollywoodiense, pero lo hicimos a propósito, así es como queríamos que se sintiera. Entonces, imagine entrar a una habitación grande y en la pared frontal, tiene esta pantalla enorme: todo tipo de cámaras se alimentan como una sala de vigilancia, pero un poco más de alta tecnología, un poco más grande, un poco más avanzada.

Jennifer Fuerte: Y descubra qué papel juegan el actor Woody Harrelson y otras celebridades sin darse cuenta al nombrar a los sospechosos de la policía...

Este episodio fue informado y producido por mí, con Tate Ryan-Mosely y Emma Cillekens, con un agradecimiento especial a Karen Hao y Benji Rosen. Estamos editados por Michael Reilly y Gideon Litchfield. Nuestro director técnico es Jacob Gorski.

Gracias por escuchar, soy Jennifer Strong.

esconder