211service.com
Cómo el juego de rol de un dragón puede enseñarle a una IA a manipular y persuadir
Una IA que completa misiones en un juego de aventuras basado en texto hablando con los personajes ha aprendido no solo cómo hacer las cosas, sino también cómo obtener otros para hacer cosas. El sistema es un paso hacia las máquinas que pueden usar el lenguaje como una forma de lograr sus objetivos.
Prosa sin sentido: Modelos de lenguaje como GPT-3 son brillantes imitando oraciones escritas por humanos, produciendo historias, blogs falsos y publicaciones de Reddit . Pero no tiene mucho sentido esta producción prolífica más allá de la producción del texto mismo. Cuando la gente usa el lenguaje, lo maneja como una herramienta: nuestras palabras convencen, ordenan y manipulan; hacen reír a la gente y hacen llorar a la gente.
Mezclando cosas: Para construir una IA que usara palabras por una razón, los investigadores del Instituto de Tecnología de Georgia en Atlanta y Facebook AI Research combinaron técnicas de procesamiento de lenguaje natural y aprendizaje reforzado, donde los modelos de aprendizaje automático aprenden cómo comportarse para lograr objetivos determinados. Ambos campos han visto un enorme progreso en los últimos años, pero ha habido poca polinización cruzada entre los dos.
Juegos de palabras: Para probar su enfoque, los investigadores entrenaron su sistema en un juego multijugador basado en texto llamado LIGERO , desarrollado por Facebook el año pasado para estudiar la comunicación entre jugadores humanos y de IA. El juego está ambientado en un mundo de fantasía lleno de miles de objetos, personajes y lugares de colaboración colectiva que se describen e interactúan a través del texto en pantalla. Los jugadores (humanos o informáticos) actúan escribiendo comandos como abrazar al mago, golpear al dragón o quitarse el sombrero. También pueden hablar con los personajes controlados por chatbot.
búsqueda del dragón: Para darle a su IA razones para hacer las cosas, los investigadores agregaron alrededor de 7500 misiones colaborativas, no incluidas en la versión original de LIGHT. Finalmente, también crearon un gráfico de conocimiento (una base de datos de relaciones sujeto-verbo-objeto) que le dio a la IA información de sentido común sobre el mundo del juego y las conexiones entre sus personajes, como el principio de que un comerciante solo confiará en un guardia si son amigos. El juego ahora tenía acciones (como Ir a las montañas y Comerse al caballero) para realizar misiones (como Construir el tesoro más grande jamás alcanzado por un dragón).
Conversador agradable: Reuniendo todo esto, entrenaron a la IA para completar misiones simplemente usando el lenguaje. Para realizar acciones, podría escribir el comando para esa acción o lograr el mismo fin hablando con otros personajes. Por ejemplo, si la IA necesitara una espada, podría elegir robar una o convencer a otro personaje para que le entregue una.
Por ahora, el sistema es un juguete. Y su manera puede ser contundente: en un momento, al necesitar un balde, simplemente dice: ¡Dame ese balde o te doy de comer a mi gato! Pero combinar la PNL con el aprendizaje por refuerzo es un paso emocionante que podría conducir no solo a mejores chatbots que puedan argumentar y persuadir, sino también a otros que tengan una comprensión mucho más rica de cómo funciona nuestro mundo lleno de lenguaje.