El blog falso generado por IA de un universitario engañó a decenas de miles. Así lo hizo.

Sra. Tecnología | Getty

Al comienzo de la semana, Liam Porr solo había oído hablar de GPT-3. Al final, el estudiante universitario había usado el modelo de IA para producir un blog completamente falso bajo un nombre falso.

Fue pensado como un experimento divertido. Pero luego una de sus publicaciones alcanzó el puesto número uno en Hacker News. Pocas personas notaron que su blog fue completamente generado por IA. Algunos incluso presionan Suscribirse.

Si bien muchos han especulado sobre cómo GPT-3, la herramienta de IA de generación de lenguaje más poderosa hasta la fecha, podría afectar la producción de contenido, este es uno de los únicos casos conocidos para ilustrar el potencial. Lo que más se destacó de la experiencia, dice Porr, quien estudia ciencias de la computación en la Universidad de California, Berkeley: en realidad fue muy fácil, lo cual fue la parte aterradora.

GPT-3 es de OpenAI AI de lenguaje más reciente y más grande modelo, que el laboratorio de investigación con sede en San Francisco comenzó a administrar por goteo a mediados de julio. En febrero del año pasado, OpenAI apareció en los titulares con GPT-2, una versión anterior del algoritmo, que anunció que sería retener por temor a que se abuse de ella. La decisión provocó inmediatamente una reacción violenta, ya que los investigadores acusaron al laboratorio de hacer un truco. Para noviembre, el laboratorio había invertido la posición y lanzó el modelo , diciendo que hasta el momento no había detectado pruebas sólidas de uso indebido.

El laboratorio adoptó un enfoque diferente con GPT-3; no lo retuvo ni concedió acceso público. En cambio, entregó el algoritmo a investigadores seleccionados que solicitaron una versión beta privada, con el objetivo de recopilar sus comentarios y comercializar la tecnología para fin de año.

Porr presentó una solicitud. Rellenó un formulario con un sencillo cuestionario sobre su uso previsto. Pero tampoco esperó. Después de comunicarse con varios miembros de la comunidad de IA de Berkeley, rápidamente encontró a un estudiante de doctorado que ya tenía acceso. Una vez que el estudiante de posgrado accedió a colaborar, Porr escribió un pequeño guión para que lo ejecutara. Le dio a GPT-3 el título y la introducción de una publicación de blog y escupe varias versiones completas. La primera publicación de Porr (la que apareció en Hacker News), y todas las publicaciones posteriores, se copiaron y pegaron desde una de las salidas con poca o ninguna edición.

Desde el momento en que pensé en la idea y me puse en contacto con el estudiante de doctorado hasta que realmente creé el blog y el primer blog se volvió viral, tomó tal vez un par de horas, dice.

La publicación de blog falsa de Porr, escrita con el nombre falso 'adolos', alcanza el número 1 en Hacker News. Porr dice que usó tres cuentas separadas para enviar y votar sus publicaciones en Hacker News en un intento de impulsarlas más. El administrador dijo que esta estrategia no funciona, pero sus titulares de click-baity sí.

CAPTURA DE PANTALLA / LIAM PORR

El truco para generar contenido sin necesidad de editar mucho fue comprender las fortalezas y debilidades de GPT-3. Es bastante bueno para hacer un lenguaje bonito, y no es muy bueno para ser lógico y racional, dice Porr. Así que eligió una categoría de blog popular que no requiere una lógica rigurosa: productividad y autoayuda.

A partir de ahí, escribió sus titulares siguiendo una fórmula simple: se desplazaría por Medium y Hacker News para ver qué estaba funcionando en esas categorías y armaría algo relativamente similar. ¿Te sientes improductivo? Tal vez deberías dejar de pensar demasiado, escribió para uno. La audacia y la creatividad triunfan sobre la inteligencia, escribió para otro. En algunas ocasiones, los titulares no funcionaron. Pero mientras se mantuviera en los temas correctos, el proceso fue fácil.

Después de dos semanas de publicaciones casi diarias, retiró el proyecto con un mensaje final, críptico y escrito por uno mismo . Titulado Qué haría con GPT-3 si no tuviera ética, describía su proceso como hipotético. El mismo día, también publicó una más confesión directa en su blog real.

Las pocas personas que empezaron a sospechar del blog falso de Porr fueron rechazadas por otros miembros de la comunidad.

CAPTURA DE PANTALLA / LIAM PORR

Porr dice que quería demostrar que GPT-3 podía hacerse pasar por un escritor humano. De hecho, a pesar del patrón de escritura un tanto extraño del algoritmo y los errores ocasionales, solo tres o cuatro de las docenas de personas que comentaron en su publicación principal en Hacker News levantaron sospechas de que podría haber sido generado por un algoritmo. Todos esos comentarios fueron rechazados inmediatamente por otros miembros de la comunidad.

Para los expertos, esta ha sido durante mucho tiempo la preocupación planteada por tales algoritmos generadores de lenguaje. Desde que OpenAI anunció por primera vez GPT-2, la gente ha especulado que era vulnerable al abuso. En su propia publicación de blog, el laboratorio se centró en el potencial de la herramienta de IA para convertirse en un arma. productor masivo de desinformación . Otros se han preguntado si podría usarse para producir publicaciones no deseadas lleno de palabras clave relevantes para el juego de Google.

Porr dice que su experimento también muestra una alternativa más mundana pero aún preocupante: las personas podrían usar la herramienta para generar una gran cantidad de contenido clickbait. Es posible que solo haya una avalancha de contenido de blog mediocre porque ahora la barrera de entrada es muy fácil, dice. Creo que el valor del contenido en línea se reducirá mucho.

Porr planea hacer más experimentos con GPT-3. Pero todavía está esperando obtener acceso desde OpenAI. Es posible que estén molestos porque hice esto, dice. Quiero decir, es un poco tonto.

Actualizar: Se agregaron detalles adicionales al texto y los pies de foto para explicar cómo Liam Porr creó su blog y lo llevó a la cima de Hacker News.

esconder