El aprendizaje profundo es una caja negra, pero a la atención médica no le importará

jon han

A principios de 2017, el científico de inteligencia artificial Sebastian Thrun y sus colegas de la Universidad de Stanford demostraron que un algoritmo de aprendizaje profundo era capaz de diagnosticar lesiones cutáneas potencialmente cancerosas con la misma precisión que un dermatólogo certificado.

El hallazgo de cáncer, informado en Naturaleza, fue parte de una serie de informes que ofrecen una visión preliminar de lo que podría ser una nueva era de diagnóstico por software, en la que la inteligencia artificial ayuda a los médicos, o incluso compite con ellos.

Los expertos dicen que las imágenes médicas, como fotografías, rayos X y resonancias magnéticas, son una combinación casi perfecta para las fortalezas del software de aprendizaje profundo, que en los últimos años ha llevado a avances en el reconocimiento de rostros y objetos en imágenes.

Las empresas ya están en la búsqueda. Verily, el brazo de ciencias de la vida de Alphabet, unió fuerzas con nikon el pasado mes de diciembre para desarrollar algoritmos para detectar causas de ceguera en diabéticos. Mientras tanto, el campo de la radiología ha sido apodado el Silicon Valley de la medicina debido a la cantidad de imágenes detalladas que genera.

Medicina de caja negra

Aunque las predicciones del equipo de Thrun fueron muy precisas, nadie estaba seguro de qué características de un lunar usaba el programa de aprendizaje profundo para clasificarlo como canceroso o benigno. El resultado es la versión médica de lo que se ha denominado el problema de la caja negra del aprendizaje profundo.

A diferencia del software de visión más tradicional, donde un programador define las reglas (por ejemplo, una señal de alto tiene ocho lados), en el aprendizaje profundo el algoritmo encuentra las reglas por sí mismo, pero a menudo sin dejar un rastro de auditoría para explicar sus decisiones.

En el caso de la medicina de caja negra, los médicos no pueden saber qué está pasando porque nadie lo sabe; es intrínsecamente opaco, dice Nicholson Price, un erudito legal de la Universidad de Michigan que se enfoca en la ley de salud.

Historia relacionada

Leer siguiente ¿Por qué la mayoría de los pacientes no responden a las curas más recientes?

Sin embargo, Price dice que eso puede no representar un obstáculo serio en el cuidado de la salud. Compara el aprendizaje profundo con medicamentos cuyos beneficios se obtienen por medios desconocidos. El litio es un ejemplo. Aún no se ha dilucidado su mecanismo bioquímico exacto para afectar el estado de ánimo, pero el fármaco aún está aprobado para el tratamiento del trastorno bipolar. El mecanismo detrás de la aspirina, el medicamento más utilizado de todos los tiempos, no se entendió durante 70 años.

Del mismo modo, dice Price, el problema de la caja negra no representará un problema para la Administración de Drogas y Alimentos de EE. UU., que, además de aprobar nuevos medicamentos, también regula el software si su propósito es tratar o prevenir enfermedades.

En un comunicado, la FDA dice que en los últimos 20 años ha aprobado una serie de aplicaciones de análisis de imágenes que se basan en una variedad de técnicas de reconocimiento de patrones, aprendizaje automático y visión por computadora. La agencia confirmó que está viendo más software impulsado por el aprendizaje profundo y señala que las empresas pueden mantener confidenciales los detalles de sus algoritmos.

La FDA ya ha dado luz verde a al menos un algoritmo de aprendizaje profundo. En enero, la FDA autorizó la venta del software desarrollado por Arterys, una empresa privada de imágenes médicas con sede en San Francisco. Su algoritmo, DeepVentricle, analiza imágenes de resonancia magnética de los contornos interiores de las cámaras del corazón y calcula el volumen de sangre que el corazón de un paciente puede contener y bombear. Ese cálculo se completa en menos de 30 segundos, dice Arterys, mientras que los métodos convencionales suelen tardar una hora.

La FDA exigió a Arterys que realizara pruebas exhaustivas para asegurarse de que los resultados de su algoritmo estuvieran a la par con los generados por los médicos. Debe demostrar estadísticamente que su algoritmo sigue el uso previsto o [lo que] las afirmaciones de marketing dicen que está haciendo, dice John Axerio-Cilies, director de tecnología de la compañía.

Gran demanda

Para entrenar su software, el equipo dirigido por Thrun, un exvicepresidente de Google que trabajó allí en autos sin conductor, lo alimentó con 129,405 imágenes de condiciones de la piel evaluadas por expertos. Estos cubrieron 2032 enfermedades diferentes e incluyeron 1942 imágenes de cánceres de piel confirmados.

Historia relacionada

Más sobre Sebastián Thrun Sebastian Thrun ayudó a avivar el revuelo en torno a los cursos universitarios abiertos masivos en línea, pero cambió su propia startup para centrarse en la formación profesional.

Finalmente, el software pudo superar a 21 dermatólogos en la identificación de lunares potencialmente cancerosos.

Cuando los dermatólogos vean el potencial de esta tecnología, creo que la mayoría la aceptará, dice Robert Novoa, dermatólogo de Stanford y autor del estudio. Él y otros miembros del equipo se negaron a decir si planean comercializar el software.

Cualquier preocupación de que los médicos pronto se quedarán sin trabajo también está fuera de lugar, dice Allan Halpern, dermatólogo de Memorial Sloan Kettering y presidente de la Sociedad Internacional de Imágenes Digitales de la Piel. Creo que la amenaza es la contraria, dice. Los algoritmos podrían aumentar drásticamente la demanda de servicios dermatológicos.

Eso se debe a que un resultado positivo en una prueba de detección aún requiere una biopsia. El software de aprendizaje profundo podría encontrar una función en los consultorios de atención primaria, dice Halpern, pero si estuviera disponible como una prueba de detección para toda la población o a través de una aplicación para el consumidor, no habría suficientes dermatólogos para hacer un seguimiento de los clientes potenciales. .

Axerio-Cilies dice que las empresas se verán tentadas a ofrecer herramientas de aprendizaje profundo directamente a los consumidores. Por ejemplo, las personas pueden escanear sus propios lunares para ver si necesitan visitar a un médico. Algunas aplicaciones para teléfonos móviles que no son de IA, como Mapeador de topos , ya permiten a las personas rastrear lunares sospechosos y registrar cualquier cambio a lo largo del tiempo.

Halpern, sin embargo, dice que no cree que los consumidores estén preparados para lidiar con sistemas de diagnóstico que podrían decirles que un lunar tiene una probabilidad del 5 por ciento o del 50 por ciento de ser cáncer.

No somos buenos en el uso de probabilidades, dice.

esconder