La carrera para comprender el apasionante y peligroso mundo del lenguaje IA

Ariel Davis

El 18 de mayo, el CEO de Google, Sundar Pichai, anunció una nueva herramienta impresionante: un sistema de IA llamado LaMDA que puede chatear con los usuarios sobre cualquier tema.

Para empezar, Google planea integrar LaMDA en su principal portal de búsqueda, su asistente de voz y Workplace, su colección de software de trabajo basado en la nube que incluye Gmail, Docs y Drive. Pero el objetivo final, dijo Pichai, es crear una interfaz conversacional que permita a las personas recuperar cualquier tipo de información (texto, imagen, audio) en todos los productos de Google con solo preguntar.

El lanzamiento de LaMDA señala otra forma en la que las tecnologías del lenguaje se están involucrando en nuestra vida cotidiana. Pero la llamativa presentación de Google desmintió el debate ético que ahora rodea a estos sistemas de vanguardia. LaMDA es lo que se conoce como un modelo de lenguaje grande (LLM), un algoritmo de aprendizaje profundo entrenado en enormes cantidades de datos de texto.

Los estudios ya han demostrado cómo las ideas racistas, sexistas y abusivas están integradas en estos modelos. Asocian categorías como médicos con hombres y enfermeras con mujeres; buenas palabras con los blancos y malas con los negros. Sondéelos con las indicaciones correctas, y también comenzarán a alentar cosas como genocidio , autolesiones , y abuso sexual infantil . Debido a su tamaño, tienen una huella de carbono sorprendentemente alta . Debido a su fluidez, ellos confundir fácilmente a la gente en pensar que un humano escribió sus resultados, que los expertos advierten que podría permitir la producción masiva de información errónea.

En diciembre, Google expulsó a su codirector de inteligencia artificial ética, Timnit Gebru, después de ella se negó a retraer un papel que hizo muchos de estos puntos. Unos meses más tarde, después de una denuncia a gran escala de lo que una carta abierta de los empleados de Google llamaron la censura de investigación sin precedentes de la compañía, también despidió a la coautora y codirectora de Gebru, Margaret Mitchell.

No es solo Google el que está implementando esta tecnología. Los modelos de lenguaje de más alto perfil hasta ahora han sido los de OpenAI GPT-2 y GPT-3 , que arrojan pasajes de texto notablemente convincentes e incluso se pueden reutilizar para terminar composiciones musicales y código de computadora. Microsoft ahora en exclusiva licencias GPT-3 para incorporar en productos aún no anunciados. Facebook ha desarrollado sus propios LLM para traducción y moderación de contenido. Y las nuevas empresas están creando docenas de productos y servicios basados ​​en los modelos de los gigantes tecnológicos. Muy pronto, todas nuestras interacciones digitales, cuando enviamos correos electrónicos, buscamos o publicamos en las redes sociales, se filtrarán a través de LLM.

Desafortunadamente, se está investigando muy poco para comprender cómo las fallas de esta tecnología podrían afectar a las personas en las aplicaciones del mundo real, o para descubrir cómo diseñar mejores LLM que mitiguen estos desafíos. Como subrayó Google en su tratamiento de Gebru y Mitchell, las pocas empresas lo suficientemente ricas como para capacitar y mantener LLM tienen un gran interés financiero en negarse a examinarlos cuidadosamente. En otras palabras, los LLM se integran cada vez más en la infraestructura lingüística de Internet sobre bases científicas inestables.

Más de 500 investigadores de todo el mundo ahora están compitiendo para aprender más sobre las capacidades y limitaciones de estos modelos. Trabajando juntos bajo el proyecto BigScience liderados por Huggingface, una startup que adopta un enfoque de ciencia abierta para comprender el procesamiento del lenguaje natural (NLP), buscan construir un LLM de código abierto que sirva como un recurso compartido para la comunidad científica. El objetivo es generar la mayor cantidad de becas posible dentro de un solo año enfocado. Su pregunta central: ¿Cómo y cuándo deben desarrollarse e implementarse los LLM para obtener sus beneficios sin sus consecuencias dañinas?

Realmente no podemos detener esta locura en torno a modelos de lenguaje grandes, donde todos quieren entrenarlos, dice Thomas Wolf, director científico de Huggingface, quien codirige la iniciativa. Pero lo que podemos hacer es tratar de empujar esto en una dirección que al final sea más beneficiosa.

Loros estocásticos

En el mismo mes en que BigScience inició sus actividades, una startup llamada Cohere salió silenciosamente del sigilo. Iniciado por antiguos investigadores de Google, promete llevar los LLM a cualquier empresa que quiera uno, con una sola línea de código. Ha desarrollado una técnica para entrenar y hospedar su propio modelo con los restos inactivos de recursos computacionales en un centro de datos, lo que mantiene bajos los costos de alquilar el espacio en la nube necesario para el mantenimiento y la implementación.

Entre sus primeros clientes se encuentra la startup Hay soporte , una plataforma para crear chatbots de atención al cliente sin código, que a su vez tiene clientes como Facebook y Zoom. Y la lista de inversores de Cohere incluye algunos de los nombres más importantes en el campo: el pionero de la visión artificial Fei-Fei Li, el ganador del premio Turing Geoffrey Hinton y el jefe de IA de Apple, Ian Goodfellow.

Cohere es una de varias nuevas empresas e iniciativas que ahora buscan llevar LLM a varias industrias. También está Aleph Alpha, una startup con sede en Alemania que busca construir un GPT-3 alemán ; una empresa sin nombre iniciada por varios ex investigadores de OpenAI; y la iniciativa de fuente abierta Eleuther, que recientemente lanzó GPT-Neo , una reproducción gratuita (y algo menos potente) de GPT-3.

Pero es la brecha entre lo que son los LLM y lo que aspiran a ser lo que preocupa a un número creciente de investigadores. Los LLM son efectivamente las tecnologías de autocompletado más poderosas del mundo. Al ingerir millones de oraciones, párrafos e incluso muestras de diálogo, aprenden los patrones estadísticos que rigen cómo se debe ensamblar cada uno de estos elementos en un orden sensato. Esto significa que los LLM pueden mejorar ciertas actividades: por ejemplo, son buenos para crear chatbots más interactivos y fluidos en la conversación. que siguen un guión bien establecido . Pero en realidad no entienden lo que están leyendo o diciendo. Muchas de las capacidades más avanzadas de los LLM en la actualidad también están disponibles solo en inglés.

Historia relacionada

Leímos el artículo que obligó a Timnit Gebru a salir de Google. Esto es lo que dice.

El investigador estrella de ética de la empresa destacó los riesgos de los grandes modelos de lenguaje, que son clave para el negocio de Google.

Entre otras cosas, esto es lo que advirtieron Gebru, Mitchell y otros cinco científicos en su artículo, que llama loros estocásticos a los LLM. La tecnología del lenguaje puede ser muy, muy útil cuando tiene el alcance, la ubicación y el marco apropiados, dice Emily Bender, profesora de lingüística en la Universidad de Washington y una de las coautoras del artículo. Pero la naturaleza de propósito general de los LLM, y la persuasión de su mimetismo, atrae a las empresas a usarlos en áreas para las que no necesariamente están equipadas.

En un discurso de apertura reciente en una de las conferencias de IA más grandes, Gebru vinculó este despliegue apresurado de LLM a las consecuencias que había experimentado en su propia vida. Gebru nació y creció en Etiopía, donde una guerra en escalada ha devastado la región más septentrional de Tigray. Etiopía también es un país en el que se hablan 86 idiomas, casi todos ellos desconocidos en las principales tecnologías lingüísticas.

A pesar de que los LLM tienen estas deficiencias lingüísticas, Facebook depende en gran medida de ellos para automatizar su moderación de contenido a nivel mundial. Cuando estalló la guerra en Tigray por primera vez en noviembre, Gebru vio que la plataforma se tambaleaba para controlar la ráfaga de información errónea. Esto es emblemático de un patrón persistente que los investigadores han observado en la moderación de contenido. Comunidades que hablar idiomas no priorizados por Silicon Valley sufren los entornos digitales más hostiles.

Gebru señaló que aquí tampoco es donde termina el daño. Cuando las noticias falsas, el discurso de odio e incluso las amenazas de muerte no se moderan, se eliminan como datos de capacitación para construir la próxima generación de LLM. Y esos modelos, repitiendo como un loro en lo que fueron entrenados, terminan regurgitando estos patrones lingüísticos tóxicos en Internet.

En muchos casos, los investigadores no han investigado lo suficiente como para saber cómo podría manifestarse esta toxicidad en las aplicaciones posteriores. Pero alguna erudición existe. En su libro de 2018 Algoritmos de opresión , Safiya Noble, profesora asociada de información y estudios afroamericanos en la Universidad de California, Los Ángeles, documentó cómo los prejuicios incrustados en la búsqueda de Google perpetúan el racismo y, en casos extremos, tal vez incluso motivan la violencia racial.

Las consecuencias son bastante graves y significativas, dice ella. Google no es solo el principal portal de conocimiento para los ciudadanos promedio. También proporciona la infraestructura de información para instituciones, universidades y gobiernos estatales y federales.

Google ya utiliza un LLM para optimizar algunos de sus resultados de búsqueda. Con su último anuncio de LaMDA y una propuesta reciente publicó en un documento de preimpresión, la compañía ha dejado en claro que solo aumentará su confianza en la tecnología. A Noble le preocupa que esto pueda empeorar aún más los problemas que descubrió: el hecho de que el equipo de inteligencia artificial ética de Google fuera despedido por plantear preguntas muy importantes sobre los patrones racistas y sexistas de discriminación incrustados en modelos de lenguaje extenso debería haber sido una llamada de atención.

gran ciencia

El proyecto BigScience comenzó como respuesta directa a la creciente necesidad de un escrutinio científico de los LLM. Al observar la rápida proliferación de la tecnología y el intento de censura de Gebru y Mitchell por parte de Google, Wolf y varios colegas se dieron cuenta de que era hora de que la comunidad investigadora tomara el asunto en sus propias manos.

Inspirados por colaboraciones científicas abiertas como CERN en física de partículas, concibieron una idea para un LLM de código abierto que podría usarse para realizar investigaciones críticas independientemente de cualquier empresa. En abril de este año, el grupo recibió una subvención para construirlo utilizando la supercomputadora del gobierno francés.

En las empresas de tecnología, los LLM a menudo son creados por solo media docena de personas que tienen principalmente experiencia técnica. BigScience quería atraer a cientos de investigadores de una amplia gama de países y disciplinas para participar en un proceso de construcción de modelos verdaderamente colaborativo. Wolf, que es francés, se acercó por primera vez a la comunidad francesa de PNL. A partir de ahí, la iniciativa se convirtió en una operación global que abarcó a más de 500 personas.

La colaboración ahora está vagamente organizada en una docena de grupos de trabajo y contando, cada uno de los cuales aborda diferentes aspectos del desarrollo y la investigación del modelo. Un grupo medirá el impacto ambiental del modelo, incluida la huella de carbono de la capacitación y el funcionamiento del LLM y la consideración de los costos del ciclo de vida de la supercomputadora. Otro se centrará en desarrollar formas responsables de obtener los datos de capacitación, buscando alternativas para simplemente extraer datos de la web, como la transcripción de archivos de radio históricos o podcasts. El objetivo aquí es evitar el lenguaje tóxico y la recopilación no consensuada de información privada.

Historia relacionada

Por qué GPT-3 es lo mejor y lo peor de la IA en este momento

El lenguaje de Open AI La IA cautivó al público con su aparente dominio del inglés, pero ¿es todo una ilusión?

Otros grupos de trabajo se dedican a desarrollar y evaluar el multilingüismo del modelo. Para comenzar, BigScience ha seleccionado ocho idiomas o familias de idiomas, incluidos inglés, chino, árabe, índico (incluidos el hindi y el urdu) y bantú (incluido el swahili). El plan es trabajar en estrecha colaboración con cada comunidad lingüística para identificar tantos dialectos regionales como sea posible y garantizar que se respeten sus distintas normas de privacidad de datos. Queremos que las personas tengan voz sobre cómo se usan sus datos, dice Yacine Jernite, investigadora de Huggingface.

El punto no es construir un LLM comercialmente viable para competir con GPT-3 o LaMDA. El modelo será demasiado grande y demasiado lento para ser útil para las empresas, dice Karën Fort, profesora asociada de la Sorbona. En cambio, el recurso está diseñado exclusivamente para la investigación. Cada punto de datos y cada decisión de modelado se documenta de manera cuidadosa y pública, por lo que es más fácil analizar cómo todas las piezas afectan los resultados del modelo. No se trata solo de entregar el producto final, dice Angela Fan, investigadora de Facebook. Visualizamos cada pieza como un punto de entrega, como un artefacto.

Sin duda, el proyecto es ambicioso, más globalmente expansivo y colaborativo que cualquier otro que haya visto antes la comunidad de IA. La logística de coordinar a tantos investigadores es en sí misma un desafío. (De hecho, también hay un grupo de trabajo para eso). Además, cada investigador contribuye de forma voluntaria. La subvención del gobierno francés cubre solo recursos computacionales, no humanos.

Pero los investigadores dicen que la necesidad compartida que unió a la comunidad ha impulsado un nivel impresionante de energía e impulso. Muchos son optimistas de que al final del proyecto, que se extenderá hasta mayo del próximo año, habrán producido no solo una erudición más profunda sobre las limitaciones de los LLM, sino también mejores herramientas y prácticas para construirlos e implementarlos de manera responsable.

Los organizadores esperan que esto inspire a más personas dentro de la industria a incorporar esas prácticas en su propia estrategia LLM, aunque son los primeros en admitir que están siendo idealistas. En todo caso, la gran cantidad de investigadores involucrados, incluidos muchos de los gigantes tecnológicos, ayudará a establecer nuevas normas dentro de la comunidad de PNL.

De alguna manera, las normas ya han cambiado. En respuesta a las conversaciones sobre el despido de Gebru y Mitchell, Cohere escuchó de varios de sus clientes que estaban preocupados por la seguridad de la tecnología. En su sitio incluye una página en su sitio web con el compromiso de invertir continuamente en investigación técnica y no técnica para mitigar los posibles daños de su modelo. Dice que también reunirá un consejo asesor compuesto por expertos externos para ayudarlo a crear políticas sobre el uso permitido de sus tecnologías.

La PNL se encuentra en un punto de inflexión muy importante, dice Fort. Es por eso que BigScience es emocionante. Permite a la comunidad impulsar la investigación y brindar una alternativa esperanzadora al statu quo dentro de la industria: dice: 'Hagamos otro intento'. Hagámoslo juntos, para descubrir todas las formas y todas las cosas que podemos hacer para ayudar a la sociedad”.

Quiero que la PNL ayude a las personas, dice, no que las menosprecie.

Actualizar: Se han aclarado las iniciativas de responsabilidad de Cohere.

esconder