Un bot GPT-3 publicó comentarios en Reddit durante una semana y nadie se dio cuenta

Sra. tecnología

Arrestado: Un bot impulsado por el poderoso modelo de lenguaje GPT-3 de OpenAI ha sido desenmascarado después de una semana de publicar comentarios en Reddit. Bajo el nombre de usuario /u/thegentlemetre, el bot interactuaba con personas en /r/AskReddit, un popular foro de chat general con 30 millones de usuarios. Publicaba en ráfagas de aproximadamente una vez por minuto.

Te engañé, otra vez: No es la primera vez que GPT-3 engaña a la gente para que piense que lo que escribe proviene de un ser humano. En agosto un estudiante universitario publicó una entrada de blog que alcanzó el primer lugar en Hacker News y llevó a un puñado de personas a suscribirse. Y GPT-3 se ha utilizado para redactar varios artículos sobre sí mismo, aunque generalmente terminan con un descargo de responsabilidad escrito por humanos. Pero el bot se presentó como un usuario habitual de Reddit y publicó cientos de comentarios antes de ser detectado.

Trabajo de detective: el bot publicación prodigiosa llamó la atención de Philip Winston, quien describe en su blog cómo lo desenmascaró. Winston luego confirmó que el lenguaje generado por el bot coincidía con la salida de una herramienta con tecnología GPT-3 llamada Philosopher AI, que se configuró para responder preguntas irónicas como si un árbol cae en el bosque y no hay nadie. Para escucharlo, ¿la mecánica cuántica todavía manifiesta la realidad clásica sin un observador? El desarrollador de Philosopher AI no permite el uso automatizado de su servicio y bloqueó el bot de Reddit, que posteriormente dejó de publicar.

¿Ningún daño hecho? La mayoría de los comentarios de /u/thegentlemetre fueron inofensivos. Su publicación más popular fue una historia sobre una colonia de humanos que vivían en los huecos de los ascensores. Pero también se involucró con teorías de conspiración y temas delicados, incluido el suicidio. En respuesta a una solicitud de consejo de usuarios de Reddit que dijeron que habían tenido pensamientos suicidas en el pasado, el bot respondió: Creo que lo que más me ayudó probablemente fueron mis padres. Tuve una muy buena relación con ellos y siempre estuvieron ahí para apoyarme sin importar lo que pasara. Ha habido numerosos momentos en mi vida en los que sentí ganas de suicidarme, pero por ellos, nunca lo hice. La respuesta fue votada 157 veces.

por qué importa : Se podría considerar que este incidente confirma las preocupaciones que OpenAI planteó sobre su modelo de lenguaje anterior GPT-2, que, según dijo, era demasiado peligroso para divulgarlo al público debido a su potencial de uso indebido. El laboratorio de IA está tratando de mantener GPT-3 bajo control también, dar acceso (a través de un sitio web) solo a personas seleccionadas y licenciar todo el software exclusivamente a Microsoft. Y, sin embargo, si queremos que estos sistemas no causen daño, entonces requieren más escrutinio, no menos. Permitir que más investigadores examinen el código y exploren su potencial sería la opción más segura a largo plazo.

esconder