La IA está aprendiendo cuándo debe y no debe ceder ante un humano

Mark Schiefelbein/AP

El contexto: Los estudios muestran que cuando las personas y los sistemas de IA trabajan juntos, pueden superar a cualquiera actuando solo. Los sistemas de diagnóstico médico a menudo son revisados ​​por médicos humanos, y los sistemas de moderación de contenido filtran lo que pueden antes de requerir asistencia humana. Pero los algoritmos rara vez están diseñados para optimizar este traspaso de IA a humano. Si lo fueran, el sistema de IA solo se diferenciaría de su contraparte humana si la persona pudiera tomar una mejor decisión.

La investigación: Investigadores del Laboratorio de Informática e IA del MIT (CSAIL) han ahora desarrollado un sistema de IA para hacer este tipo de optimización basado en las fortalezas y debilidades del colaborador humano. Utiliza dos modelos separados de aprendizaje automático; uno toma la decisión real, ya sea diagnosticar a un paciente o eliminar una publicación en las redes sociales, y otro predice si la IA o el ser humano es el mejor para tomar decisiones.

El último modelo, que los investigadores llaman el rechazador, mejora iterativamente sus predicciones en función del historial de cada tomador de decisiones a lo largo del tiempo. También puede tener en cuenta factores que van más allá del rendimiento, incluidas las limitaciones de tiempo de una persona o el acceso de un médico a información confidencial del paciente que no está disponible para el sistema de IA.

Los resultados: Los investigadores probaron el enfoque híbrido humano-IA en una variedad de escenarios, incluso para tareas de reconocimiento de imágenes y detección de discursos de odio. El sistema de IA pudo adaptarse al comportamiento del experto y ceder ante él cuando correspondía, lo que permitió que los dos tomadores de decisiones alcanzaran rápidamente un nivel combinado de precisión superior al enfoque híbrido humano-IA anterior.

Caso de estudio: Si bien estos experimentos aún son relativamente simples, los investigadores creen que este enfoque podría eventualmente aplicarse a decisiones complejas en el cuidado de la salud y en otros lugares. Considere un sistema de IA que ayude a los médicos a recetar el antibiótico adecuado. Si bien los antibióticos de amplio espectro son altamente efectivos, su uso excesivo puede generar resistencia a los antibióticos. Los antibióticos específicos, por otro lado, evitan ese problema, pero solo deben usarse si tienen muchas posibilidades de funcionar. Dada esta compensación, el sistema de IA podría aprender a adaptarse a varios médicos con diferentes sesgos en sus recetas, y corregir las tendencias a recetar antibióticos de amplio espectro en exceso o en defecto.

esconder