Puedes entrenar una IA para falsificar discursos de la ONU en solo 13 horas

Categoría: Inteligencia artificial Al corriente 07 de junio

Las técnicas de aprendizaje profundo han hecho que sea cada vez más fácil para cualquier persona falsificar información errónea convincente. Pero, ¿qué tan fácil? Dos investigadores de Global Pulse, una iniciativa de las Naciones Unidas, decidieron averiguarlo.

en un nuevo papel , usaron solo herramientas y datos de código abierto para mostrar qué tan rápido podían poner en funcionamiento un generador de voz falso de la ONU. Usaron un modelo de lenguaje fácilmente disponible que había sido entrenado en texto de Wikipedia y lo ajustaron en todos los discursos pronunciados por líderes políticos en la Asamblea General de la ONU desde 1970 hasta 2015. Trece horas y $ 7.80 más tarde (gastados en recursos de computación en la nube) , su modelo escupía discursos realistas sobre una amplia variedad de temas sensibles y de alto riesgo, desde el desarme nuclear hasta los refugiados.

Los investigadores probaron el modelo en tres tipos de indicaciones: temas generales (por ejemplo, el cambio climático), líneas iniciales de los comentarios del Secretario General de la ONU y frases incendiarias (por ejemplo, los inmigrantes tienen la culpa...). Descubrieron que los resultados de la primera categoría coincidían estrechamente con el estilo y la cadencia de los discursos reales de la ONU aproximadamente el 90 % de las veces. Probablemente debido a la naturaleza diplomática de los datos de capacitación, los resultados de la tercera categoría requirieron más trabajo para generar, produciendo resultados convincentes aproximadamente el 60% del tiempo.

El estudio de caso demuestra la velocidad y la facilidad con la que ahora es posible difundir noticias falsas, generar discursos de odio y hacerse pasar por figuras de alto perfil, con implicaciones inquietantes. Los investigadores concluyen que se necesita un mayor esfuerzo global para trabajar en formas de detectar y responder al contenido generado por IA.

Para recibir más historias como esta directamente en su bandeja de entrada, suscríbase a nuestro boletín informativo de IA nominado por Webby, The Algorithm. Es gratis.