Podcast: La historia de la IA, contada por las personas que la inventaron

Bienvenido a yo estaba alli cuando , un nuevo proyecto de historia oral de la En Máquinas Confiamos pódcast. Presenta historias de cómo ocurrieron los avances en inteligencia artificial y computación, contados por las personas que los presenciaron. En este primer episodio, conocemos a Joseph Atick, quien ayudó a crear el primer sistema de reconocimiento facial comercialmente viable.

Créditos:

Este episodio fue producido por Jennifer Strong, Anthony Green y Emma Cillekens con la ayuda de Lindsay Muscato. Está editado por Michael Reilly y Mat Honan. Está mezclado por Garret Lang, con diseño de sonido y música de Jacob Gorski.

Transcripción completa:

[ID TR]

Jennifer: Soy Jennifer Strong, presentadora de En Máquinas Confiamos .

Quiero contarles algo en lo que hemos estado trabajando durante un tiempo detrás de escena aquí.

Se llama yo estaba alli cuando .

Es un proyecto de historia oral que presenta las historias de cómo ocurrieron los avances en la inteligencia artificial y la computación... según lo contado por las personas que los presenciaron.

Joseph Atick: Y cuando entré a la habitación, me vio la cara, la extrajo del fondo y pronunció: Veo a Joseph y ese fue el momento en que el pelo en la espalda… Sentí que algo había pasado. Fuimos testigo.

Jennifer: Comenzamos con un hombre que ayudó a crear el primer sistema de reconocimiento facial que era comercialmente viable... allá por los años 90...

[ID de IMWT]

Soy Joseph Atick. Hoy, soy el presidente ejecutivo de ID for Africa, una organización humanitaria que se enfoca en brindar a las personas en África una identidad digital para que puedan acceder a los servicios y ejercer sus derechos. Pero no siempre he estado en el campo humanitario. Después de recibir mi doctorado en matemáticas, junto con mis colaboradores hicimos algunos avances fundamentales, que condujeron al primer reconocimiento facial comercialmente viable. Es por eso que la gente se refiere a mí como el padre fundador del reconocimiento facial y la industria biométrica. El algoritmo de cómo un cerebro humano reconocería rostros familiares quedó claro mientras hacíamos investigación, investigación matemática, mientras yo estaba en el Instituto de Estudios Avanzados en Princeton. Pero estaba lejos de tener una idea de cómo implementaría tal cosa.

Fue un largo período de meses de programación y fracaso y programación y fracaso. Y una noche, temprano en la mañana, en realidad, acabábamos de finalizar una versión del algoritmo. Enviamos el código fuente para su compilación con el fin de obtener un código de ejecución. Y salimos, salí para ir al baño. Y luego, cuando volví a entrar en la habitación, la máquina había compilado el código fuente y había regresado. Y, por lo general, después de compilarlo, se ejecuta automáticamente, y cuando entré en la habitación, vio a un humano que se movía en la habitación y vio mi rostro, lo extrajo del fondo y pronunció: Veo a Joseph. y ese fue el momento en el que el pelo de la espalda—sentí que algo había pasado. Fuimos testigo. Y comencé a llamar a las otras personas que todavía estaban en el laboratorio y cada uno de ellos entraría a la habitación.

Y diría, Veo a Norman. Vería a Paul, vería a Joseph. Y nos turnábamos para correr por la habitación solo para ver cuántos podía detectar en la habitación. Fue, fue un momento de la verdad en el que diría que varios años de trabajo finalmente condujeron a un gran avance, aunque en teoría no se requería ningún avance adicional. Solo el hecho de que descubrimos cómo implementarlo y finalmente vimos esa capacidad en acción fue muy, muy gratificante y satisfactorio. Habíamos desarrollado un equipo que es más un equipo de desarrollo, no un equipo de investigación, que se centró en poner todas esas capacidades en una plataforma de PC. Y ese fue el nacimiento, realmente el nacimiento del reconocimiento facial comercial, diría yo, en 1994.

Mi preocupación empezó muy rápido. Vi un futuro donde no había lugar para esconderse con la proliferación de cámaras en todas partes y la mercantilización de las computadoras y las capacidades de procesamiento de las computadoras cada vez mejores. Y así, en 1998, presioné a la industria y dije: necesitamos establecer principios para un uso responsable. Y me sentí bien por un tiempo, porque sentí que lo habíamos hecho bien. Sentí que hemos implementado un código de uso responsable para ser seguido por cualquier implementación. Sin embargo, ese código no pasó la prueba del tiempo. Y la razón detrás de esto es que no anticipamos la aparición de las redes sociales. Básicamente, cuando establecimos el código en 1998, dijimos que el elemento más importante en un sistema de reconocimiento facial era la base de datos etiquetada de personas conocidas. Dijimos, si no estoy en la base de datos, el sistema estará ciego.

Y fue difícil construir la base de datos. A lo sumo podíamos construir mil 10,000, 15,000, 20,000 porque cada imagen tenía que ser escaneada e ingresada a mano: el mundo en el que vivimos hoy, ahora estamos en un régimen en el que hemos permitido que la bestia salga de la bolsa. alimentándolo con miles de millones de caras y ayudándolo etiquetándonos a nosotros mismos. Um, ahora estamos en un mundo donde cualquier esperanza de controlar y exigir que todos sean responsables en el uso del reconocimiento facial es difícil. Y al mismo tiempo, no faltan las caras conocidas en internet porque simplemente se puede raspar, como ha ocurrido recientemente con algunas empresas. Entonces, comencé a entrar en pánico en 2011 y escribí un artículo de opinión diciendo que es hora de presionar el botón de pánico porque el mundo se dirige en una dirección en la que el reconocimiento facial será omnipresente y los rostros estarán disponibles en todas partes. en bases de datos.

Y en ese momento la gente decía que yo era un alarmista, pero hoy se están dando cuenta de que es exactamente lo que está pasando hoy. Y entonces, ¿a dónde vamos desde aquí? He estado cabildeando para la legislación. He estado cabildeando por marcos legales que hacen que sea una responsabilidad para ti usar la cara de alguien sin su consentimiento. Así que ya no es una cuestión tecnológica. No podemos contener esta poderosa tecnología a través de medios tecnológicos. Tiene que haber algún tipo de marco legal. No podemos permitir que la tecnología vaya demasiado por delante de nosotros. Por delante de nuestros valores, por delante de lo que creemos aceptable.

El tema del consentimiento sigue siendo uno de los asuntos más difíciles y desafiantes cuando se trata de tecnología, solo dar aviso a alguien no significa que sea suficiente. Para mí el consentimiento tiene que ser informado. Tienen que entender las consecuencias de lo que significa. Y no solo para decir, bueno, pusimos un cartel y esto fue suficiente. Le dijimos a la gente, y si no querían, podrían haberse ido a cualquier lado.

Y también encuentro que la hay, es tan fácil dejarse seducir por características tecnológicas llamativas que podrían darnos una ventaja a corto plazo en nuestras vidas. Y luego, más adelante, reconocemos que hemos renunciado a algo que era demasiado valioso. Y en ese momento, hemos insensibilizado a la población y llegamos a un punto en el que no podemos retroceder. Eso es lo que me preocupa. Estoy preocupado por el hecho de que el reconocimiento facial a través del trabajo de Facebook y Apple y otros. No digo que todo sea ilegítimo. Mucho de esto es legítimo.

Hemos llegado a un punto en el que el público en general puede haberse vuelto indiferente y puede volverse insensible porque lo ven en todas partes. Y tal vez en 20 años, salgas de tu casa. Ya no tendrás la expectativa de que no lo serías. No será reconocido por decenas de personas con las que te cruces por el camino. Creo que en ese momento el público estará muy alarmado porque los medios comenzarán a informar sobre casos en los que las personas fueron acosadas. Las personas fueron atacadas, incluso fueron seleccionadas en función de su patrimonio neto en la calle y secuestradas. Creo que es mucha responsabilidad en nuestras manos.

Y por eso creo que la cuestión del consentimiento seguirá rondando a la industria. Y hasta que esa pregunta no sea un resultado, tal vez no se resuelva. Creo que tenemos que establecer limitaciones sobre lo que se puede hacer con esta tecnología.

Mi carrera también me ha enseñado que estar demasiado por delante no es bueno porque el reconocimiento facial, tal como lo conocemos hoy, en realidad se inventó en 1994. Pero la mayoría de la gente piensa que fue inventado por Facebook y los algoritmos de aprendizaje automático, que son proliferando ahora por todo el mundo. Básicamente, en algún momento, tuve que renunciar como director ejecutivo público porque estaba restringiendo el uso de la tecnología que mi empresa iba a promover por temor a las consecuencias negativas para la humanidad. Así que siento que los científicos deben tener el coraje de proyectar hacia el futuro y ver las consecuencias de su trabajo. No digo que deban dejar de hacer avances. No, debe esforzarse al máximo, hacer más avances, pero también debemos ser honestos con nosotros mismos y básicamente alertar al mundo y a los encargados de formular políticas de que este avance tiene ventajas y desventajas. Y por lo tanto, al usar esta tecnología, necesitamos algún tipo de orientación y marcos para asegurarnos de que se canalice para una aplicación positiva y no negativa.

Jennifer: Yo estaba allí cuando... es un proyecto de historia oral que presenta las historias de personas que han presenciado o creado avances en inteligencia artificial y computación.

Tienes una historia que contar? ¿Conoces a alguien que lo haga? Envíenos un correo electrónico a [email protected].

[A MEDIO ROLLO]

[CRÉDITOS]

Jennifer: Este episodio fue grabado en la ciudad de Nueva York en diciembre de 2020 y lo produje con la ayuda de Anthony Green y Emma Cillekens. Estamos editados por Michael Reilly y Mat Honan. Nuestro ingeniero de mezclas es Garret Lang… con diseño de sonido y música de Jacob Gorski.

Gracias por escuchar, soy Jennifer Strong.

[ID TR]

esconder