La ciencia en pocas palabras

Una ilustración conceptual que muestra una computadora, documentos e IA minji luna

Un equipo de científicos del MIT y otros lugares ha desarrollado una red neuronal que puede leer artículos científicos y generar un breve resumen en lenguaje sencillo. Tal sistema podría ayudar a los editores, escritores y científicos a escanear una gran cantidad de artículos para tener una idea preliminar de lo que tratan. Y el enfoque también podría usarse en traducción automática y reconocimiento de voz.

El profesor de física Marin Soljačić, los estudiantes de posgrado Rumen Dangovski y Li Jing y sus colegas habían estado desarrollando redes neuronales para abordar problemas espinosos en física cuando se dieron cuenta de que podían aplicar parte de su conocimiento de física para mejorar ciertos algoritmos de IA.

Las redes neuronales imitan una forma en que los humanos aprenden: la computadora examina muchos ejemplos diferentes e identifica los patrones subyacentes clave. Si bien se utilizan ampliamente para el reconocimiento de patrones, estos sistemas a menudo tienen dificultades para correlacionar la información de una larga cadena de datos, como un trabajo de investigación. Otras técnicas utilizadas para mejorar esta capacidad, incluida una llamada memoria a corto plazo (LSTM), no pueden manejar tareas de procesamiento de lenguaje natural que realmente requieren memoria a largo plazo.

Si bien las redes neuronales suelen basarse en la multiplicación de matrices, el equipo de Soljačić desarrolló una basada en vectores que giran en un espacio multidimensional. Utiliza lo que ellos llaman una unidad rotacional de memoria (RUM), que se les ocurrió para ayudar con ciertos problemas físicos difíciles, como el comportamiento de la luz en materiales de ingeniería complejos. Luego lo adaptaron al procesamiento del lenguaje natural para ayudar con la memorización y el recuerdo.

Esencialmente, cada palabra en el texto está representada por un vector. Cada palabra subsiguiente hace oscilar este vector en alguna dirección, representado en un espacio teórico que, en última instancia, puede tener miles de dimensiones. Al final del proceso, el vector o conjunto de vectores final se vuelve a traducir a su correspondiente cadena de palabras.

Cuando el equipo envió el mismo comunicado de prensa sobre un trabajo de investigación a través de una red neuronal convencional basada en LSTM y a través del sistema basado en RUM, el sistema LSTM produjo este resumen repetitivo y bastante técnico: Baylisascariasis, mata ratones, ha puesto en peligro a la rata de bosque allegheny y ha causado enfermedades como ceguera o consecuencias graves. Esta infección, denominada baylisascariasis, mata a los ratones, ha puesto en peligro a la rata de bosque allegheny y ha causado enfermedades como la ceguera o consecuencias graves. Esta infección, denominada baylisascariasis, mata a los ratones y ha puesto en peligro a la rata de bosque allegheny.

El sistema RUM produjo un resumen mucho más legible: Los mapaches urbanos pueden infectar a las personas más de lo que se suponía anteriormente. El 7 por ciento de las personas encuestadas dieron positivo para los anticuerpos del gusano redondo del mapache. Más del 90 por ciento de los mapaches en Santa Bárbara albergan este parásito.

Desde entonces, los investigadores han ampliado el sistema para que pueda resumir artículos completos, no solo comunicados de prensa.

esconder