Un nuevo truco puede falsificar una IA de reconocimiento de voz cada vez

Categoría: Inteligencia artificial Al corriente 10 de enero

Dada una forma de onda de audio, los investigadores ahora pueden producir una versión prácticamente idéntica que hace que el software de reconocimiento de voz transcriba algo completamente diferente.

Trasfondo: Los ejemplos contradictorios han engañado a muchos algoritmos de visión por computadora. Si bien todas las redes neuronales son susceptibles a este tipo de ataques, los investigadores han tenido menos éxito con el audio. Los ataques anteriores solo pudieron hacer ajustes sutiles a lo que escucha el software.

Qué hay de nuevo: investigadores de Berkeley presentado que pueden tomar una forma de onda y agregar una capa de ruido que engaña a DeepSpeech, una IA de voz a texto de última generación, en todo momento. La técnica puede hacer que la música suene como un discurso arbitrario para la IA, o voces oscuras para que no se transcriban.

Prepárate para la molestia: Imagina reproducir un video musical de YouTube en tus parlantes y que Alexa escuche un pedido de dos toneladas de crema de maíz . Bienvenido al infierno de los ataques de IA.