No estamos listos para la IA, dice el ganador de un nuevo premio de IA de $ 1 millón

Rachel Wu / CSAIL del MIT

Regina Barzilay , profesor del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT, es el primer ganador del premio Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, un nuevo premio que reconoce la investigación sobresaliente en IA. Barzilay comenzó su carrera trabajando en el procesamiento del lenguaje natural. Después de sobrevivir al cáncer de mama en 2014, cambió su enfoque a algoritmos de aprendizaje automático para detectar cáncer y diseñar nuevos medicamentos . El premio será entregado en febrero de 2021 por la Asociación para el Avance de la Inteligencia Artificial (AAAI).

El premio en metálico de $1 millón, proporcionado por Empresa china de educación en línea Squirrel AI , sobre el que hemos escrito anteriormente, pone el premio en el mismo nivel financiero que el Premio Nobel y el Premio Turing en informática. Hablé con Barzilay por teléfono sobre el premio y la promesa y las frustraciones de la IA.

Nuestra conversación ha sido editada por su extensión y claridad.

Felicitaciones por este premio. ¿Qué significa para usted y para AI en general?

Gracias. Ya sabes, hay muchas áreas en las que la IA todavía no está marcando la diferencia, pero podría hacerlo. Usamos traducción automática o sistemas de recomendación todo el tiempo, pero nadie piensa en ellos como tecnología sofisticada, nadie pregunta por ellos. Pero con otras áreas de nuestra vida que son cruciales para nuestro bienestar, como la atención médica, la IA aún no tiene la aceptación de la sociedad. Espero que este premio, y la atención que conlleva, ayude a cambiar la opinión de las personas y les permita ver las oportunidades, y empuje a la comunidad de IA a dar los siguientes pasos.

¿Qué tipo de pasos?

Cuando la tecnología pasó de la energía de vapor a la electricidad, los primeros intentos de llevar la electricidad a la industria no tuvieron mucho éxito porque la gente simplemente intentaba replicar las máquinas de vapor. Creo que algo similar está pasando ahora con la IA. Necesitamos averiguar cómo integrarlo en muchas áreas diferentes: no solo en atención médica, sino también en educación, diseño de materiales, planificación urbana, etc. Por supuesto, hay más por hacer en el lado de la tecnología, incluida la creación de mejores algoritmos, pero estamos llevando esta tecnología a entornos altamente regulados y realmente no hemos visto cómo hacerlo.

En este momento, la IA está floreciendo en lugares donde el costo de fallar es muy bajo. Si Google encuentra una traducción incorrecta o le proporciona un enlace incorrecto, está bien; puedes ir al siguiente. Pero eso no va a funcionar para un médico. Si le da a los pacientes el tratamiento equivocado o falla un diagnóstico, hay implicaciones realmente serias. Muchos algoritmos pueden hacer las cosas mejor que los humanos. Pero siempre confiamos en nuestras propias intuiciones, en nuestra propia mente, más que en algo que no entendemos. Necesitamos dar a los médicos razones para confiar en la IA. La FDA está analizando este problema, pero creo que está muy lejos de resolverse en los EE. UU. o en cualquier otro lugar del mundo.

En 2014 le diagnosticaron cáncer de mama. ¿Cambió eso la forma en que pensabas sobre tu trabajo?

Oh, sí, absolutamente. Una de las cosas que sucedieron cuando pasé por el tratamiento y pasé una cantidad excesiva de tiempo en el hospital es que las cosas en las que había estado trabajando ahora me parecían triviales. Pensé: la gente está sufriendo. Podemos hacer algo.

Cuando comencé el tratamiento, preguntaba qué pasa con los pacientes como yo, con mi tipo de tumor y mi edad y este tratamiento. Dirían: Oh, hubo este ensayo clínico, pero en realidad no encajas exactamente. Y pensé, el cáncer de mama es una enfermedad muy común. Hay tantos pacientes, con tantos datos acumulados. ¿Cómo es que no lo estamos usando? Pero no puede sacar esta información fácilmente del sistema en los hospitales de EE. UU. Está ahí, pero está en el texto. Y entonces comencé a usar PNL para acceder a él. No podría imaginar ningún otro campo en el que la gente se deshaga voluntariamente de los datos disponibles. Pero eso es lo que estaba pasando en la medicina.

¿Aprovecharon los hospitales la oportunidad de hacer más uso de estos datos?

Me tomó algún tiempo encontrar un médico que trabajara conmigo. Le decía a la gente, si tienes algún problema, intentaré resolverlo. No necesito financiación. Sólo dame un problema y los datos. Pero me tomó un tiempo encontrar colaboradores. Sabes, yo no era un personaje particularmente popular.

A partir de este trabajo de PNL, pasé a predecir el riesgo de las pacientes a partir de las mamografías, utilizando el reconocimiento de imágenes para predecir si tendría cáncer o no, cómo es probable que progrese su enfermedad.

¿Estas herramientas habrían hecho una diferencia si hubieran estado disponibles para usted cuando le diagnosticaron?

Absolutamente. Podemos analizar estas cosas en mis mamografías antes de mi diagnóstico, y ya estaban allí, se pueden detectar claramente. No es una especie de milagro: el cáncer no crece de ayer a hoy. Es un proceso bastante largo. Hay signos en el tejido, pero el ojo humano tiene una capacidad limitada para detectar lo que pueden ser patrones muy pequeños. En mi caso habría sido visible dos años antes.

¿Por qué el doctor no lo vio?

Es una tarea difícil. Cada mamografía tiene puntos blancos que pueden o no ser cáncer, y un médico tiene que decidir cuál de estos puntos blancos necesita una biopsia. El médico debe equilibrar actuar por intuición versus dañar a un paciente al hacer biopsias que no son necesarias. Pero este es exactamente el tipo de decisión que la IA basada en datos puede ayudarnos a tomar de una manera mucho más sistemática.

Lo que nos lleva de nuevo al problema de la confianza. ¿Necesitamos una solución técnica, haciendo que las herramientas sean más explicables, o necesitamos educar a las personas que las usan?

Esa es una gran pregunta. Algunas decisiones serían realmente fáciles de explicar a un humano. Si una IA detecta cáncer en una imagen, puede acercar el área que mira el modelo cuando hace la predicción. Pero si le pides a una máquina, como lo hacemos cada vez más, que haga cosas que un humano no puede hacer, ¿qué te va a mostrar exactamente la máquina? Es como un perro, que puede oler mucho mejor que nosotros, explicando cómo puede oler algo. Simplemente no tenemos esa capacidad. Creo que a medida que las máquinas se vuelven mucho más avanzadas, esta es la gran pregunta. ¿Qué explicación te convencería si tú solo no puedes resolver esta tarea?

Entonces, ¿deberíamos esperar hasta que la IA pueda explicarse completamente?

No. Piense en cómo respondemos preguntas de vida o muerte ahora. La mayoría de las preguntas médicas, como cómo responderá a este tratamiento oa ese medicamento, se responden utilizando modelos estadísticos que pueden conducir a errores. Ninguno de ellos es perfecto.

Es lo mismo con la IA. No creo que sea bueno esperar hasta que desarrollemos una IA perfecta. No creo que eso vaya a suceder pronto. La pregunta es cómo usar sus fortalezas y evitar sus debilidades.

Finalmente, ¿por qué la IA aún no ha tenido mucho impacto en el covid-19?

La IA no va a resolver todos los grandes problemas que tenemos. Pero ha habido algunos pequeños ejemplos. Cuando todos los servicios clínicos no esenciales se redujeron a principios de este año, utilizamos una herramienta de inteligencia artificial para identificar qué pacientes de oncología en Boston aún deberían ir y hacerse su mamografía anual.

Pero la razón principal por la que la IA no ha sido más útil no es la falta de tecnología sino la falta de datos. Ya sabes, estoy en el equipo de liderazgo de MIT's J-Clinic, un centro de inteligencia artificial en el cuidado de la salud, y muchos de nosotros en abril dijimos: Realmente queremos hacer algo, ¿dónde podemos obtener los datos? Pero no pudimos conseguirlo. Fue imposible. Incluso ahora, seis meses después, no es obvio cómo obtenemos los datos.

La segunda razón es que no estábamos preparados. Incluso en circunstancias normales, cuando las personas no están estresadas, es difícil adoptar herramientas de IA en un proceso y asegurarse de que todo esté debidamente regulado. En la crisis actual, simplemente no tenemos esa capacidad.

Sabes, entiendo por qué los médicos son conservadores: la vida de las personas está en juego. Pero espero que esto sea una llamada de atención sobre lo poco preparados que estamos para reaccionar rápidamente ante nuevas amenazas. Por mucho que piense que la IA es la tecnología del futuro, a menos que descubramos cómo confiar en ella, no la veremos avanzar.

esconder