Una nueva herramienta utiliza IA para detectar texto escrito por IA

Categoría: Inteligencia artificial Al corriente Jul 26

Los algoritmos de IA pueden generar texto lo suficientemente convincente como para engañar al ser humano promedio, lo que podría proporcionar una forma de producir noticias falsas, reseñas falsas y cuentas sociales falsas en masa. Afortunadamente, la IA ahora también se puede usar para identificar texto falso.

Las noticias: Investigadores de Universidad Harvard y el Laboratorio de inteligencia artificial MIT-IBM Watson tener desarrolló una nueva herramienta para detectar texto que se ha generado usando AI. Llamada Sala de prueba del modelo de lenguaje gigante (GLTR), explota el hecho de que los generadores de texto de IA se basan en patrones estadísticos en el texto, a diferencia del significado real de palabras y oraciones. En otras palabras, la herramienta puede decir si las palabras que está leyendo parecen demasiado predecibles para haber sido escritas por una mano humana.

El contexto: La desinformación se está automatizando cada vez más, y la tecnología necesaria para generar texto e imágenes falsos avanza rápidamente. Las herramientas impulsadas por IA como esta pueden convertirse en armas valiosas en la lucha para detectar noticias falsas, falsificaciones profundas y bots de Twitter.

Fingiéndolo: Los investigadores de OpenAI demostraron recientemente un algoritmo capaz de inventar pasajes sorprendentemente realistas . Introducieron enormes cantidades de texto en un gran modelo de aprendizaje automático, que aprendió a captar patrones estadísticos en esas palabras. El equipo de Harvard desarrolló su herramienta utilizando una versión del código OpenAI que se hizo pública.

Que predecible: GLTR resalta las palabras que estadísticamente es probable que aparezcan después de la palabra anterior en el texto. Como se muestra en el pasaje anterior (de infinito es) , las palabras más predecibles son verdes; menos predecibles son el amarillo y el rojo; y menos predecibles son de color púrpura. Cuando se prueba en fragmentos de texto escritos por el algoritmo de OpenAI, encuentra mucha previsibilidad. Los artículos de noticias genuinos y los resúmenes científicos contienen más sorpresas.

Mente y máquina: Los investigadores detrás de GLTR también llevaron a cabo otro experimento. Pidieron a los estudiantes de Harvard que identificaran el texto generado por IA, primero sin la herramienta y luego con la ayuda de su resaltado. Los estudiantes pudieron detectar solo la mitad de todas las falsificaciones por sí mismos, pero el 72 % cuando se les proporcionó la herramienta. Nuestro objetivo es crear sistemas de colaboración humanos y de IA, dice Sebastian Gehrmann, estudiante de doctorado involucrado en el trabajo.

Si estás interesado, puedes Pruébelo usted mismo .