Lo que la IA todavía no puede hacer

La inteligencia artificial no será muy inteligente si las computadoras no captan la causa y el efecto. Eso es algo con lo que incluso los humanos tienen problemas. Por

• Brian Bergstein página de archivo

19 de febrero de 2020

Saiman chow

En menos de una década, las computadoras se han vuelto extremadamente buenas para diagnosticar enfermedades, traducir idiomas y transcribir el habla. Pueden superar a los humanos en juegos de estrategia complicados, crear imágenes fotorrealistas y sugerir respuestas útiles a sus correos electrónicos.

Sin embargo, a pesar de estos logros impresionantes, la inteligencia artificial tiene debilidades evidentes.

Esta historia fue parte de nuestra edición de marzo de 2020

• Ver el resto del número
• Suscribir

Los sistemas de aprendizaje automático pueden ser engañados o confundidos por situaciones que no han visto antes. Un automóvil autónomo se desconcierta ante un escenario que un conductor humano podría manejar fácilmente. Un sistema de IA laboriosamente entrenado para realizar una tarea (identificar gatos, por ejemplo) tiene que ser enseñado nuevamente para hacer otra cosa (identificar perros). En el proceso, es probable que pierda parte de la experiencia que tenía en la tarea original. Los informáticos llaman a este problema olvido catastrófico.

Estas deficiencias tienen algo en común: existen porque los sistemas de IA no entienden la causalidad. Ven que algunos eventos están asociados con otros eventos, pero no determinan qué cosas directamente hacen que sucedan otras cosas. Es como si supieras que la presencia de nubes hace que la lluvia sea más probable, pero no supieras que las nubes causan la lluvia.

Elias Bareinboim: Los sistemas de IA no tienen ni idea cuando se trata de causalidad.

Comprender la causa y el efecto es un aspecto importante de lo que llamamos sentido común, y es un área en la que los sistemas de IA actuales no tienen ni idea, dice Elias Bareinboim. Debería saberlo: como director del nuevo Laboratorio de Inteligencia Artificial Causal de la Universidad de Columbia, está al frente de los esfuerzos para solucionar este problema.

Su idea es infundir a la investigación de la inteligencia artificial conocimientos de la relativamente nueva ciencia de la causalidad, un campo moldeado en gran medida por Judea Pearl, una académica ganadora del Premio Turing que considera a Bareinboim su protegido.

Tal como lo describen Bareinboim y Pearl, la capacidad de la IA para detectar correlaciones, por ejemplo, que las nubes hacen que la lluvia sea más probable, es simplemente el nivel más simple de razonamiento causal. Es lo suficientemente bueno como para haber impulsado el auge de la técnica de inteligencia artificial conocida como aprendizaje profundo durante la última década. Dada una gran cantidad de datos sobre situaciones familiares, este método puede conducir a muy buenas predicciones. Una computadora puede calcular la probabilidad de que un paciente con ciertos síntomas tenga cierta enfermedad, porque ha aprendido con qué frecuencia miles o incluso millones de otras personas con los mismos síntomas tenían esa enfermedad.

Pero existe un consenso cada vez mayor de que el progreso en IA se estancará si las computadoras no mejoran en la lucha contra la causalidad. Si las máquinas pudieran comprender que ciertas cosas conducen a otras cosas, no tendrían que aprender todo de nuevo todo el tiempo: podrían tomar lo que han aprendido en un dominio y aplicarlo a otro. Y si las máquinas pudieran usar el sentido común, podríamos confiar más en ellas para tomar acciones por sí mismas, sabiendo que no es probable que cometan errores tontos.

La IA actual solo tiene una capacidad limitada para inferir qué resultará de una acción determinada. En el aprendizaje por refuerzo, una técnica que ha permitido que las máquinas dominen juegos como el ajedrez y el Go, un sistema utiliza una amplia prueba y error para discernir qué movimientos esencialmente harán que ganen. Pero este enfoque no funciona en entornos más desordenados en el mundo real. Ni siquiera deja una máquina con una comprensión general de cómo podría jugar otros juegos.

Un nivel aún más alto de pensamiento causal sería la capacidad de razonar sobre por qué sucedieron las cosas y hacer preguntas de qué pasaría si. Un paciente muere durante un ensayo clínico; ¿Fue culpa de la medicina experimental o de otra cosa? Los puntajes de las pruebas escolares están cayendo; ¿Qué cambios de política los mejorarían más? Este tipo de razonamiento va mucho más allá de la capacidad actual de la inteligencia artificial.

Haciendo milagros

El sueño de dotar a las computadoras de razonamiento causal atrajo a Bareinboim de Brasil a Estados Unidos en 2008, luego de completar una maestría en informática en la Universidad Federal de Río de Janeiro. Aprovechó la oportunidad de estudiar con Judea Pearl, científica informática y estadística de la UCLA. Pearl, de 83 años, es un gigante— el gigante—de la inferencia causal, y su carrera ayuda a ilustrar por qué es difícil crear una IA que comprenda la causalidad.

Incluso los científicos bien capacitados tienden a malinterpretar las correlaciones como signos de causalidad, o cometen errores en la dirección opuesta, dudando en mencionar la causalidad incluso cuando está justificada. En la década de 1950, por ejemplo, algunos estadísticos destacados enturbiaron las aguas en torno a si el tabaco causaba cáncer. Argumentaron que sin un experimento que asignara aleatoriamente a las personas a ser fumadores o no fumadores, nadie podría descartar la posibilidad de que algún factor desconocido (quizás el estrés o algún gen) causara que las personas fumaran y desarrollaran cáncer de pulmón.

Eventualmente, se estableció definitivamente el hecho de que fumar causa cáncer, pero no debió tomar tanto tiempo. Desde entonces, Pearl y otros estadísticos han ideado un enfoque matemático para identificar qué hechos serían necesarios para respaldar una afirmación causal. El método de Pearl muestra que, dada la prevalencia del tabaquismo y el cáncer de pulmón, sería extremadamente improbable que un factor independiente causara ambos.

Por el contrario, las fórmulas de Pearl también ayudan a identificar cuándo no se pueden usar las correlaciones para determinar la causalidad. Bernhard Schölkopf, que investiga técnicas causales de IA como director del Instituto Max Planck de Sistemas Inteligentes de Alemania, señala que se puede predecir la tasa de natalidad de un país si se conoce su población de cigüeñas. Eso no se debe a que las cigüeñas den a luz o a que los bebés atraigan a las cigüeñas, sino probablemente a que el desarrollo económico genera más bebés y más cigüeñas. Pearl ha ayudado a los estadísticos y científicos informáticos a abordar estos problemas, dice Schölkopf.

Judea Pearl: Su teoría del razonamiento causal ha transformado la ciencia.

El trabajo de Pearl también ha llevado al desarrollo de redes bayesianas causales, un software que filtra grandes cantidades de datos para detectar qué variables parecen tener la mayor influencia sobre otras variables. Por ejemplo, GNS Healthcare, una empresa de Cambridge, Massachusetts, utiliza estas técnicas para asesorar a los investigadores sobre experimentos que parecen prometedores.

En un proyecto, GNS trabajó con investigadores que estudian el mieloma múltiple, un tipo de cáncer de la sangre. Los investigadores querían saber por qué algunos pacientes con la enfermedad viven más que otros después de recibir trasplantes de células madre, una forma común de tratamiento. El software agitó datos con 30.000 variables y señaló algunas que parecían especialmente probables de ser causales. Bioestadísticos y expertos en la enfermedad se concentraron en uno en particular: el nivel de cierta proteína en el cuerpo de los pacientes. Luego, los investigadores podrían realizar un ensayo clínico específico para ver si los pacientes con la proteína realmente se beneficiaron más del tratamiento. Es mucho más rápido que hurgar aquí y allá en el laboratorio, dice el cofundador de GNS, Iya Khalil.

No obstante, las mejoras que Pearl y otros académicos han logrado en la teoría causal aún no han hecho muchos avances en el aprendizaje profundo, que identifica las correlaciones sin preocuparse demasiado por la causalidad. Bareinboim está trabajando para dar el siguiente paso: hacer que las computadoras sean herramientas más útiles para las exploraciones causales humanas.

Pearl dice que la IA no puede ser verdaderamente inteligente hasta que tenga una rica comprensión de la causa y el efecto, lo que permitiría la introspección que es el núcleo de la cognición.

Uno de sus sistemas, que todavía está en fase beta, puede ayudar a los científicos a determinar si tienen suficientes datos para responder a una pregunta causal. Richard McElreath, antropólogo del Instituto Max Planck de Antropología Evolutiva, está utilizando el software para guiar la investigación sobre por qué los humanos pasan por la menopausia (somos los únicos simios que la pasan).

La hipótesis es que la disminución de la fertilidad en las mujeres mayores benefició a las sociedades humanas tempranas porque las mujeres que se esforzaron más en cuidar a los nietos finalmente tuvieron más descendientes. Pero, ¿qué evidencia podría existir hoy para apoyar la afirmación de que a los niños les va mejor con los abuelos cerca? Los antropólogos no pueden simplemente comparar los resultados educativos o médicos de los niños que han vivido con sus abuelos y los que no. Hay lo que los estadísticos llaman factores de confusión: es más probable que las abuelas vivan con los nietos que necesitan más ayuda. El software de Bareinboim puede ayudar a McElreath a discernir qué estudios sobre niños que crecieron con sus abuelos están menos plagados de factores de confusión y podrían ser valiosos para responder a su pregunta causal. Es un gran paso adelante, dice McElreath.

la ultima milla

Bareinboim habla rápido y, a menudo, gesticula con las dos manos en el aire, como si estuviera tratando de equilibrar los dos lados de una ecuación mental. Estaba a mitad del semestre cuando lo visité en Columbia en octubre, pero parecía como si apenas se hubiera mudado a su oficina: casi nada en las paredes, ni libros en los estantes, solo una elegante computadora Mac y una pizarra blanca tan densa. con ecuaciones y diagramas que parecían un detalle de una caricatura sobre un profesor loco.

Se encogió de hombros ante el estado provisional de la sala, diciendo que había estado muy ocupado dando charlas sobre ambos lados de la revolución causal. Bareinboim cree que un trabajo como el suyo ofrece la oportunidad no solo de incorporar el pensamiento causal en las máquinas, sino también de mejorarlo en los humanos.

Hacer que la gente piense más detenidamente sobre la causalidad no es necesariamente mucho más fácil que enseñárselo a las máquinas, dice. Los investigadores de una amplia gama de disciplinas, desde la biología molecular hasta las políticas públicas, a veces se contentan con descubrir correlaciones que en realidad no están arraigadas en relaciones causales. Por ejemplo, algunos estudios sugieren que beber alcohol lo matará temprano, mientras que otros indican que el consumo moderado está bien e incluso es beneficioso, y otras investigaciones han encontrado que los bebedores empedernidos sobreviven a los no bebedores. Este fenómeno, conocido como crisis de la reproducibilidad, surge no solo en medicina y nutrición, sino también en psicología y economía. Puedes ver la fragilidad de todas estas inferencias, dice Bareinboim. Cambiamos los resultados cada dos años.

Argumenta que cualquiera que pregunte qué pasaría si (investigadores médicos que preparan ensayos clínicos, científicos sociales que desarrollan programas piloto, incluso editores web que preparan pruebas A/B) debería comenzar no solo por recopilar datos, sino por usar la lógica causal de Pearl y software como el de Bareinboim para determinar si los datos disponibles posiblemente podrían responder a una hipótesis causal. Eventualmente, él imagina que esto conducirá a un software científico automatizado: un humano podría idear una pregunta causal y el software combinaría la teoría de la inferencia causal con técnicas de aprendizaje automático para descartar experimentos que no responderían la pregunta. Eso podría salvar a los científicos de una gran cantidad de costosos callejones sin salida.

Bareinboim describió esta visión mientras estábamos sentados en el vestíbulo de la Sloan School of Management del MIT, después de una charla que dio el otoño pasado. Tenemos un edificio aquí en el MIT con, no sé, 200 personas, dijo. ¿Cómo deciden esos científicos sociales, o cualquier científico en cualquier lugar, qué experimentos realizar y qué puntos de datos recopilar? Siguiendo su intuición: están tratando de ver a dónde conducirán las cosas, según su comprensión actual.

Ese es un enfoque inherentemente limitado, dijo, porque los científicos humanos que diseñan un experimento solo pueden considerar un puñado de variables en sus mentes a la vez. Una computadora, por otro lado, puede ver la interacción de cientos o miles de variables. Codificado con los principios básicos del cálculo causal de Pearl y capaz de calcular lo que podría suceder con nuevos conjuntos de variables, un científico automatizado podría sugerir exactamente en qué experimentos los investigadores humanos deberían dedicar su tiempo. Tal vez alguna política pública que se ha demostrado que funciona solo en Texas podría funcionar en California si se apreciaran mejor algunos factores causalmente relevantes. Los científicos ya no estarían haciendo experimentos en la oscuridad, dijo Bareinboim.

Tampoco cree que esté tan lejos: esta es la última milla antes de la victoria.

¿Y si?

Terminar esa milla probablemente requerirá técnicas que recién comienzan a desarrollarse. Por ejemplo, Yoshua Bengio, un científico informático de la Universidad de Montreal que compartió el Premio Turing 2018 por su trabajo sobre aprendizaje profundo, está tratando de que las redes neuronales, el software en el corazón del aprendizaje profundo, hagan metaaprendizaje y se den cuenta. las causas de las cosas.

Tal como están las cosas ahora, si quisiera una red neuronal para detectar cuando la gente está bailando, le mostraría muchas, muchas imágenes de bailarines. Si quisiera que identificara cuándo corre la gente, le mostraría muchas, muchas imágenes de corredores. El sistema aprendería a distinguir a los corredores de los bailarines al identificar características que tienden a ser diferentes en las imágenes, como las posiciones de las manos y los brazos de una persona. Pero Bengio señala que el conocimiento fundamental sobre el mundo se puede obtener analizando las cosas que son similares o invariantes en los conjuntos de datos. Tal vez una red neuronal podría aprender que los movimientos de las piernas provocan físicamente tanto correr como bailar. Tal vez después de ver estos ejemplos y muchos otros que muestran a las personas a solo unos pies del suelo, una máquina eventualmente entendería algo sobre la gravedad y cómo limita el movimiento humano. Con el tiempo, con suficiente metaaprendizaje sobre variables que son consistentes en todos los conjuntos de datos, una computadora podría obtener conocimiento causal que sería reutilizable en muchos dominios.

Por su parte, Pearl dice que la IA no puede ser verdaderamente inteligente hasta que tenga una rica comprensión de causa y efecto. Aunque el razonamiento causal no sería suficiente para una inteligencia general artificial, es necesario, dice, porque permitiría la introspección que es el núcleo de la cognición. ¿Qué pasa si las preguntas son los componentes básicos de la ciencia, de las actitudes morales, del libre albedrío, de la conciencia?, me dijo Pearl.

No puedes hacer que Pearl prediga cuánto tiempo les tomará a las computadoras obtener poderosas habilidades de razonamiento causal. No soy un futurista, dice. Pero, en cualquier caso, cree que el primer paso debería ser desarrollar herramientas de aprendizaje automático que combinen datos con el conocimiento científico disponible: tenemos mucho conocimiento que reside en el cráneo humano que no se utiliza.

Brian Bergstein, exeditor de MIT Technology Review, es subdirector de opinión del Boston Globe.

esconder