El nuevo generador de lenguaje GPT-3 de OpenAI es sorprendentemente bueno y completamente insensato

letras que caen

Getty





Jugar con GPT-3 es como ver el futuro, Arram Sabeti, desarrollador y artista de San Francisco, tuiteó la semana pasada . Eso resume bastante bien la respuesta en las redes sociales en los últimos días a la última IA generadora de lenguaje de OpenAI.

OpenAI primero descrito GPT-3 en un artículo de investigación publicado en mayo. Pero la semana pasada comenzó a enviar el software por goteo a personas seleccionadas que solicitaron acceso a una beta privada . Por ahora, OpenAI quiere que los desarrolladores externos lo ayuden a explorar lo que puede hacer GPT-3, pero planea convertir la herramienta en un producto comercial más adelante este año, ofreciendo a las empresas una suscripción paga a la IA a través de la nube.

GPT-3 es el modelo de lenguaje más poderoso que existe. Su antecesor, GPT-2, lanzado el año pasado , ya era capaz de escupir flujos de texto convincentes en una variedad de estilos diferentes cuando se le solicitaba una oración de apertura. Pero GPT-3 es un gran paso adelante. El modelo tiene 175 000 millones de parámetros (los valores que una red neuronal intenta optimizar durante el entrenamiento), en comparación con los 1 500 millones de GPT-2. Y con modelos de lenguaje, el tamaño realmente importa .

Sabeti vinculado a un entrada en el blog donde mostró historias cortas, canciones, comunicados de prensa, manuales técnicos y más que había usado para generar la IA. GPT-3 también puede producir pastiches de escritores particulares. Mario Klingemann, un artista que trabaja con aprendizaje automático, compartió una historia corta llamada La importancia de estar en Twitter, escrita al estilo de Jerome K. Jerome, que comienza: Es un hecho curioso que la última forma de vida social que queda en que sigue interesando a los londinenses es Twitter. Me llamó la atención este hecho curioso cuando fui en una de mis vacaciones periódicas a la orilla del mar y encontré todo el lugar gorjeando como una jaula de estorninos. Klingemann dice que todo lo que le dio a la IA fue el título, el nombre del autor y la inicial It. Incluso hay un artículo razonablemente informativo sobre GPT-3 escrito íntegramente por GPT-3 .

Otros han encontrado que GPT-3 puede generar cualquier tipo de texto, incluyendo tablaturas de guitarra o código de computadora. Por ejemplo, al modificar GPT-3 para que produjera HTML en lugar de lenguaje natural, el desarrollador web Sharif Shameem demostró que podía hacerlo crear diseños de páginas web dándole indicaciones como un botón que parece una sandía o un texto grande en rojo que dice BIENVENIDO A MI BOLETÍN y un botón azul que dice Suscríbete. Incluso el legendario programador John Carmack, que fue pionero en gráficos 3D por computadora en los primeros videojuegos como Doom y ahora es consultor de CTO en Oculus VR, fue desconcertado : El descubrimiento reciente, casi accidental, de que GPT-3 puede escribir código genera un ligero escalofrío.

Sin embargo, a pesar de sus nuevos trucos, GPT-3 todavía es propenso a arrojar un lenguaje sexista y racista lleno de odio. El ajuste fino del modelo ayudó a limitar este tipo de resultados en GPT-2.



Tampoco sorprende que muchos se hayan apresurado a comenzar a hablar de inteligencia. Pero la salida similar a la humana y la sorprendente versatilidad de GPT-3 son el resultado de una ingeniería excelente, no de inteligencia genuina. Por un lado, la IA todavía hace ridículos aulladores que revelan una falta total de sentido común. Pero incluso sus éxitos carecen de profundidad, y se leen más como trabajos de cortar y pegar que como composiciones originales.



Exactamente lo que está pasando dentro de GPT-3 no está claro. Pero en lo que parece ser bueno es en sintetizar texto que ha encontrado en otras partes de Internet, convirtiéndolo en una especie de álbum de recortes vasto y ecléctico creado a partir de millones y millones de fragmentos de texto que luego pega de maneras extrañas y maravillosas a pedido.

Eso no es para minimizar el logro de OpenAI. Y una herramienta como esta tiene muchos usos nuevos, tanto buenos (desde potenciar mejores chatbots hasta ayudar a las personas a programar) como malos (desde potenciar mejores bots de desinformación hasta ayudar a los niños a hacer trampa en sus tareas).

Pero cuando llega un nuevo hito de la IA, con demasiada frecuencia se entierra en la exageración. Incluso Sam Altman, quien cofundó OpenAI con Elon Musk, trató de bajar el tono de las cosas : El bombo GPT-3 es demasiado. Es impresionante (¡gracias por los lindos cumplidos!) pero aún tiene serias debilidades y, a veces, comete errores muy tontos. La IA va a cambiar el mundo, pero GPT-3 es solo un vistazo muy temprano. Todavía tenemos mucho que resolver.

Tenemos una barra baja cuando se trata de detectar inteligencia . Si algo parece inteligente, es fácil engañarnos pensando que lo es. El truco más grande que la IA jamás haya hecho fue convencer al mundo de que existe. GPT-3 es un gran paso adelante, pero sigue siendo una herramienta hecha por humanos, con todos los defectos y limitaciones que ello implica.

esconder