211service.com
Una IA que escribe prosa convincente corre el riesgo de producir noticias falsas en masa
Sra. tecnología
Aquí hay algunas noticias falsas de última hora …
Rusia ha declarado la guerra a Estados Unidos después de que Donald Trump disparara accidentalmente un misil al aire.
Rusia dijo que había identificado la trayectoria del misil y que tomará las medidas necesarias para garantizar la seguridad de la población rusa y las fuerzas nucleares estratégicas del país. La Casa Blanca dijo que estaba extremadamente preocupada por la violación rusa de un tratado que prohíbe los misiles balísticos de alcance intermedio.
Estados Unidos y Rusia han tenido una relación incómoda desde 2014, cuando Moscú se anexó la región ucraniana de Crimea y respaldó a los separatistas en el este de Ucrania.
Esa historia, de hecho, no solo es falsa, sino un ejemplo preocupante de cuán buena es la IA para engañarnos.
Eso es porque no fue escrito por una persona; fue generado automáticamente por un algoritmo alimentado con las palabras Rusia ha declarado la guerra a los Estados Unidos después de que Donald Trump accidentalmente...
El programa inventó el resto de la historia por su cuenta. Y puede crear informes de noticias que parezcan realistas sobre cualquier tema que le brindes. El programa fue desarrollado por un equipo de OpenAI, un instituto de investigación con sede en San Francisco.
Los investigadores se propusieron desarrollar un algoritmo de lenguaje de propósito general, entrenado en una gran cantidad de texto de la web, que sería capaz de traducir texto, responder preguntas y realizar otras tareas útiles. Pero pronto se preocuparon por el potencial de abuso. Comenzamos a probarlo y rápidamente descubrimos que es posible generar contenido malicioso con bastante facilidad, dice Jack Clark, director de políticas de OpenAI.
Clark dice que el programa sugiere cómo se podría usar la IA para automatizar la generación de noticias falsas convincentes, publicaciones en redes sociales u otro contenido de texto. Tal herramienta podría arrojar informes de noticias que niegan el cambio climático o revelaciones escandalosas durante una elección. Las noticias falsas ya son un problema, pero si estuvieran automatizadas, sería más difícil ignorarlas. Tal vez podría optimizarse para datos demográficos particulares, o incluso para individuos.
Clark dice que puede que no pase mucho tiempo antes de que la IA pueda producir historias falsas, tuits falsos o comentarios engañosos que sean aún más convincentes. Está muy claro que si esta tecnología madura, y le daría uno o dos años, podría usarse para desinformación o propaganda, dice. Estamos tratando de adelantarnos a esto.
Dicha tecnología podría tener usos beneficiosos, como resumir texto o mejorar las habilidades de conversación de los chatbots. Clark dice que incluso ha utilizado la herramienta para generar pasajes en historias cortas de ciencia ficción con un éxito sorprendente.
OpenAI realiza investigaciones fundamentales de IA, pero también desempeña un papel activo al resaltar los riesgos potenciales de la inteligencia artificial. La organización participó en un informe de 2018 sobre los riesgos de la IA, incluidas las oportunidades de desinformación (consulte Estos son los escenarios de 'Black Mirror' que están llevando a algunos expertos a pedir secreto sobre la IA).
El algoritmo OpenAI no siempre convence al lector exigente. Muchas veces, cuando se le da una indicación, produce un galimatías o un texto superficialmente coherente que claramente parece haber sido copiado de fuentes de noticias en línea.
Sin embargo, a menudo es notablemente bueno para producir textos realistas y refleja los avances recientes en la aplicación del aprendizaje automático al lenguaje.
OpenAI puso la herramienta de generación de texto a disposición de MIT Technology Review para que la probara, pero, debido a las preocupaciones sobre cómo podría usarse indebidamente la tecnología, solo pondrá a disposición del público una versión simplificada. El instituto está publicando un artículo de investigación que describe el trabajo.
El progreso de la inteligencia artificial está ayudando gradualmente a las máquinas a comprender mejor el lenguaje. El trabajo reciente ha progresado al alimentar algoritmos de aprendizaje automático de uso general con grandes cantidades de texto. El programa OpenAI lleva esto a un nuevo nivel: el sistema recibió 45 millones de páginas de la web, elegidas a través del sitio web Reddit. Y a diferencia de la mayoría de los algoritmos de lenguaje, el programa OpenAI no requiere texto etiquetado o seleccionado. Simplemente aprende a reconocer patrones en los datos que recibe.
Richard Socher , experto en procesamiento de lenguaje natural y científico jefe de Salesforce, dice que el trabajo de OpenAI es un buen ejemplo de un sistema de aprendizaje de idiomas de propósito más general. Creo que estos sistemas generales de aprendizaje son el futuro, escribió en un correo electrónico.
Por otro lado, a Socher le preocupa menos el potencial de engaño y desinformación. No necesitas IA para crear noticias falsas, dice. La gente puede hacerlo fácilmente :)