Una IA te ayuda a resumir lo último en IA

Sra. Tecnología | howadesign/Sustantivo Proyecto

Las noticias: Un nuevo modelo de IA para resumir la literatura científica ahora puede ayudar a los investigadores a navegar e identificar los últimos artículos de vanguardia que quieren leer. El 16 de noviembre, el Instituto Allen de Inteligencia Artificial (AI2) implementó el modelo en su producto estrella, Académico semántico , un motor de búsqueda de artículos científicos impulsado por IA. Proporciona un resumen tl;dr (demasiado largo; no leído) de una oración debajo de cada artículo de informática (por ahora) cuando los usuarios usan la función de búsqueda o van a la página de un autor. El trabajo también fue aceptado en la conferencia Empirical Methods for Natural Language Processing esta semana.

Una captura de pantalla de la función tl;dr en Semantic Scholar.

AI2

El contexto: En una era de sobrecarga de información, el uso de IA para resumir texto ha sido un problema popular de procesamiento de lenguaje natural (NLP). Hay dos enfoques generales para esta tarea. Uno se llama extractivo, que busca encontrar una oración o conjunto de oraciones del texto palabra por palabra que capte su esencia. El otro se llama abstractivo, que consiste en generar nuevas oraciones. Si bien las técnicas extractivas solían ser más populares debido a las limitaciones de los sistemas de PNL, los avances en la generación de lenguaje natural en los últimos años han hecho que el abstracto sea mucho mejor.

Cómo lo hicieron: El modelo abstracto de AI2 utiliza lo que se conoce como un transformador, un tipo de arquitectura de red neuronal inventada por primera vez en 2017 que desde entonces ha impulsado todos los grandes avances en la PNL, incluidos GPT-3 de OpenAI . Los investigadores primero entrenaron al transformador en un corpus genérico de texto para establecer su familiaridad básica con el idioma inglés. Este proceso se conoce como capacitación previa y es parte de lo que hace que los transformadores sean tan poderosos. Luego ajustaron el modelo, en otras palabras, lo entrenaron más, en la tarea específica de resumen.

Los datos de ajuste: Los investigadores primero crearon un conjunto de datos llamado SciTldr, que contiene aproximadamente 5400 pares de artículos científicos y los correspondientes resúmenes de una sola oración. Para encontrar estos resúmenes de alta calidad, primero los buscaron en OpenReview, una plataforma pública de envío de trabajos para conferencias donde los investigadores suelen publicar su propia sinopsis de una oración de su trabajo. Esto proporcionó un par de miles de pares. Luego, los investigadores contrataron anotadores para resumir más artículos leyendo y condensando aún más las sinopsis que ya habían sido escritas por revisores pares.

Para complementar aún más estos 5.400 pares, los investigadores compilaron un segundo conjunto de datos de 20.000 pares de artículos científicos y sus títulos. Los investigadores intuyeron que debido a que los títulos en sí mismos son una forma de resumen, ayudarían aún más al modelo a mejorar sus resultados. Esto fue confirmado a través de la experimentación.

La función tl; dr es particularmente útil para hojear papeles en dispositivos móviles.

AI2

Resumen extremo: Si bien muchos otros esfuerzos de investigación han abordado la tarea de resumir, este se destaca por el nivel de compresión que puede lograr. Los artículos científicos incluidos en el conjunto de datos de SciTldr tienen un promedio de 5000 palabras. Sus resúmenes de una oración promedian 21. Esto significa que cada artículo se comprime en promedio a 238 veces su tamaño. El siguiente mejor método abstracto está entrenado para comprimir artículos científicos en un promedio de solo 36,5 veces. Durante las pruebas, los revisores humanos también consideraron que los resúmenes del modelo eran más informativos y precisos que los métodos anteriores.

Próximos pasos: Ya hay varias formas en que AI2 está trabajando ahora para mejorar su modelo a corto plazo, dice Daniel Weld, profesor de la Universidad de Washington y gerente del grupo de investigación Semantic Scholar. Por un lado, planean entrenar el modelo para manejar más que solo trabajos de informática. Por otro lado, quizás en parte debido al proceso de capacitación, descubrieron que los resúmenes de tl;dr a veces se superponen demasiado con el título del artículo, lo que disminuye su utilidad general. Planean actualizar el proceso de entrenamiento del modelo para penalizar tal superposición para que aprenda a evitar la repetición con el tiempo.

A largo plazo, el equipo también trabajará resumiendo varios documentos a la vez, lo que podría ser útil para los investigadores que ingresan a un nuevo campo o quizás incluso para los formuladores de políticas que desean ponerse al día rápidamente. Lo que realmente nos emociona hacer es crear resúmenes de investigación personalizados, dice Weld, donde podemos resumir no solo un artículo, sino un conjunto de seis avances recientes en una subárea en particular.

esconder