El sistema de aprendizaje profundo de Baidu compite con las personas en el reconocimiento de voz

Baidu, la principal empresa de búsqueda en Internet de China, ha desarrollado un sistema de voz que puede reconocer el habla en inglés y mandarín mejor que las personas, en algunos casos.





El nuevo sistema, llamado Habla profunda 2 , es especialmente significativo en la forma en que se basa completamente en el aprendizaje automático para la traducción. Mientras que los sistemas de reconocimiento de voz más antiguos incluyen muchos componentes hechos a mano para ayudar en el procesamiento y la transcripción de audio, el sistema Baidu aprendió a reconocer palabras desde cero, simplemente escuchando miles de horas de audio transcrito.

La tecnología se basa en una poderosa técnica conocida como aprendizaje profundo, que implica entrenar una gran red virtual de neuronas de múltiples capas para reconocer patrones en grandes cantidades de datos. La aplicación de Baidu para teléfonos inteligentes permite a los usuarios buscar por voz y también incluye un asistente personal controlado por voz llamado Duer (ver Baidu's Duer se une a la fiesta de asistentes personales). Las consultas de voz son más populares en China porque lleva más tiempo ingresar texto y porque algunas personas no saben cómo usar Pinyin, el sistema fonético para transcribir mandarín usando caracteres latinos.

Históricamente, las personas veían el chino y el inglés como dos idiomas muy diferentes, por lo que era necesario diseñar características muy diferentes, dice Andrew Ng, ex profesor de Stanford e investigador de Google, y ahora científico jefe de la empresa china. Los algoritmos de aprendizaje ahora son tan generales que simplemente puedes aprender.



El aprendizaje profundo tiene sus raíces en ideas desarrolladas por primera vez hace más de 50 años, pero en los últimos años, las nuevas técnicas matemáticas, combinadas con una mayor potencia informática y grandes cantidades de datos de entrenamiento, han llevado a un progreso notable, especialmente en tareas que requieren algún tipo de aprendizaje. de percepción visual o auditiva. La técnica ya ha mejorado el rendimiento del reconocimiento de voz y el procesamiento de imágenes, y grandes empresas como Google, Facebook y Baidu la están aplicando a los conjuntos de datos masivos que poseen.

El aprendizaje profundo también se está adoptando para cada vez más tareas. Facebook, por ejemplo, utiliza el aprendizaje profundo para encontrar caras en las imágenes que suben sus usuarios. Y, más recientemente, ha progresado en el uso del aprendizaje profundo para analizar texto escrito (ver Enseñar a las máquinas a entendernos). Google ahora usa el aprendizaje profundo en más de 100 proyectos diferentes, desde búsqueda hasta autos sin conductor.

En 2013, Baidu abrió su propio esfuerzo para aprovechar esta nueva tecnología, el Instituto de Aprendizaje Profundo , ubicado en la sede central de la compañía en Beijing y en Silicon Valley. Deep Speech 2 fue desarrollado principalmente por un equipo en California.



Al desarrollar Deep Speech 2, Baidu también creó una nueva arquitectura de hardware para el aprendizaje profundo que se ejecuta siete veces más rápido que la versión anterior. El aprendizaje profundo generalmente se basa en procesadores de gráficos, porque estos son buenos para los cálculos paralelos intensivos involucrados.

La velocidad alcanzada nos permitió experimentar a una escala mucho mayor que la que la gente había logrado anteriormente, dice Jesse Engel , un científico investigador de Baidu y uno de los más de 30 investigadores nombrados en un artículo que describe Deep Speech 2. Pudimos buscar en muchas arquitecturas [de redes neuronales] y reducir la tasa de error de palabras en un 40 por ciento.

Ng agrega que esto ha producido recientemente algunos resultados impresionantes. Para frases cortas, fuera de contexto, parece que estamos superando los niveles humanos de reconocimiento, dice.



Agrega: En mandarín, hay muchos dialectos regionales que hablan poblaciones mucho más pequeñas, por lo que hay muchos menos datos. Esto podría ayudarnos a reconocer mejor los dialectos.

esconder