Rey – Hombre + Mujer = Reina: Las maravillosas matemáticas de la lingüística computacional

La lingüística computacional ha cambiado drásticamente la forma en que los investigadores estudian y entienden el lenguaje. La capacidad de procesar grandes cantidades de palabras por primera vez ha dado lugar a formas completamente nuevas de pensar sobre las palabras y su relación entre sí.

Este cálculo numérico muestra exactamente la frecuencia con la que una palabra aparece cerca de otras palabras, un factor importante en la forma en que se usan. Por lo tanto, la palabra Juegos Olímpicos puede aparecer cerca de palabras como correr, saltar y lanzar, pero con menos frecuencia junto a palabras como electrón o estegosaurio. Este conjunto de relaciones se puede considerar como un vector multidimensional que describe cómo se usa la palabra Olimpiadas dentro de un lenguaje, que a su vez se puede considerar como un espacio vectorial.

Y ahí radica este cambio masivo. Este nuevo enfoque permite tratar los lenguajes como espacios vectoriales con propiedades matemáticas precisas. Ahora el estudio del lenguaje se está convirtiendo en un problema de las matemáticas del espacio vectorial.

Hoy, Timothy Baldwin de la Universidad de Melbourne en Australia y algunos amigos exploran una de las curiosas propiedades matemáticas de este espacio vectorial: que sumar y restar vectores produce otro vector en el mismo espacio.

La pregunta que abordan es esta: ¿qué significan estos vectores compuestos? Y al explorar esta pregunta, descubren que la diferencia entre vectores es una herramienta poderosa para estudiar el lenguaje y la relación entre las palabras.

Primero algunos antecedentes. La forma más fácil de pensar en las palabras y cómo se pueden sumar y restar como vectores es con un ejemplo. El más famoso es el siguiente: rey – hombre + mujer = reina. En otras palabras, sumando los vectores asociados con las palabras Rey y mujer al restar hombre es igual al vector asociado con reina . Esto describe una relación de género.

Otro ejemplo es: parís – francia + polonia = varsovia. En este caso, la diferencia vectorial entre París y Francia capta el concepto de ciudad capital.

Baldwin y compañía preguntan qué tan confiable puede ser este enfoque y qué tan lejos se puede llevar. Para ello, comparan cómo cambian las relaciones vectoriales según el corpus de palabras estudiado. Por ejemplo, ¿funcionan las mismas relaciones vectoriales en el corpus de palabras de Wikipedia que en el corpus de palabras de Google News o Reuters English Newswire?

Para averiguarlo, observan los vectores asociados con una serie de relaciones bien conocidas entre clases de palabras. Estos incluyen la relación entre una entidad y sus partes, por ejemplo, avión y cabina; una acción y el objeto que implica, como la caza y el venado; un sustantivo y su sustantivo colectivo tales hormiga y ejército. También incluyen una variedad de enlaces gramaticales: un sustantivo y su plural, como perro y perros, un verbo y su tiempo pasado, como saber y saber; y un verbo y su tercera persona plural como aceptar y acepta.

Los resultados hacen una lectura interesante. Baldwin y compañía dicen que las sumas de vectores capturadas en estas relaciones generalmente forman grupos compactos en los espacios vectoriales asociados con cada corpus.

Sin embargo, hay algunos valores atípicos interesantes en los que las palabras tienen más de un significado y, por lo tanto, tienen representaciones ambiguas en estos espacios vectoriales. Los ejemplos en el grupo de tercera persona del plural incluyen estudio y estudios, correr y correr, aumentar y aumentar, todas las palabras que pueden ser sustantivos y verbos, lo que distorsiona sus vectores en estos espacios.

Ese es un trabajo interesante que se abre paso a lo largo de este nuevo camino en el estudio de las palabras y sus relaciones entre sí. Este documento es el primero en probar la generalización del enfoque de diferencia vectorial en una amplia gama de relaciones léxicas, dicen.

Una pregunta importante que Baldwin y sus colegas descuidan es cómo se podría usar esta mejor comprensión en el mundo real. Una respuesta obvia es ayudar a las máquinas a comprender el lenguaje humano. Otra es ayudar con la traducción de idiomas.

Vale la pena señalar que uno de los pioneros e impulsores en este campo es Google y su equipo de traducción automática. Estos muchachos han descubierto que una relación vectorial que aparece en inglés generalmente también funciona en español, alemán, vietnamita y, de hecho, en todos los idiomas.

Así es como Google hace su traducción automática. Esencialmente, considera una oración equivalente en dos idiomas si su posición en los espacios vectoriales de cada uno es la misma. Según este enfoque, su significado tradicional es casi irrelevante.

Pero debido a la naturaleza idiosincrásica del lenguaje, existen numerosas excepciones. Son estos los que causan los problemas para los algoritmos de traducción automática.

Por lo tanto, encontrar formas de detectar las ambigüedades puede ser una forma útil de corregir estos problemas.

Ref: arxiv.org/abs/1509.01692 : Take and Took, Gaggle and Goose, Book and Read: Evaluación de la utilidad de las diferencias vectoriales para el aprendizaje de relaciones léxicas

esconder