El procesamiento en el dispositivo y la IA van de la mano

En alianza con Qualcomm

Ya sea que opere un vehículo autónomo, utilice el reconocimiento facial para acceder a su cuenta bancaria o mantenga su dispositivo a salvo de las amenazas de seguridad que cambian rápidamente, la inteligencia artificial (IA) está desempeñando un papel más importante en nuestras vidas. En el pasado, se requería el poder de la nube para este procesamiento, pero los dispositivos periféricos, como los teléfonos inteligentes y los drones, ahora están equipados para ejecutar operaciones de IA con uso intensivo de cómputo. De hecho, en muchos casos, el dispositivo de borde es la plataforma preferida para ejecutar aplicaciones impulsadas por IA.

La realidad es que hoy en día están surgiendo más aplicaciones de IA de lo que la mayoría de nosotros nos damos cuenta. Cuando un dispositivo está equipado con IA, puede expandir y mejorar enormemente nuestras vidas, ya sea capturando imágenes y videos más nítidos, comunicándose con nosotros de manera más natural o percibiendo el entorno y llevándonos de manera autónoma a nuestro destino de manera segura.

AI es un término general diseñado para abarcar cualquier cosa que ayude a un dispositivo a replicar el cerebro humano, dice Gary Brotman, director de gestión de productos de Qualcomm. El aprendizaje automático (ML) es una amplia clase de técnicas y algoritmos para resolver los problemas que hacen posible la IA. La clase en la que nos enfocamos es el aprendizaje profundo (DL) y las redes neuronales recurrentes (RNN), que se ejecutan en el dispositivo real.

La mejora significativa de los algoritmos de IA y el procesamiento en el dispositivo, dos ingredientes cruciales para hacer que la IA sea omnipresente, están dando lugar a experiencias de usuario más fluidas y atractivas. Esto es particularmente cierto a medida que la funcionalidad basada en IA se traslada a vehículos, dispositivos domésticos y sensores de Internet de las cosas (IoT). Las capacidades perceptivas y cognitivas mejoradas debido a las muchas tecnologías bajo el paraguas de IA, como ML, DL y RNN, ahora pueden ejecutarse en dispositivos de borde modernos.

Por ejemplo, la IA en el dispositivo puede mejorar el reconocimiento de imágenes y el procesamiento avanzado de imágenes, como la producción de efectos bokeh (un fondo suave desenfocado) y transferencias de estilo. Los dispositivos equipados con IA también pueden aprender a reconocer palabras clave y voces, mejorando su respuesta al consumidor y ayudando en la traducción de idiomas extranjeros.

Además, la IA puede ayudar a que los dispositivos y las aplicaciones sean más conscientes de las preferencias y el entorno del usuario, comprendan la intención y respondan de manera contextualmente relevante. La IA en su dispositivo da como resultado una experiencia contextualmente más rica, dice Brotman. Y con el tiempo, su dispositivo podrá predecir y tener una comprensión más profunda de lo que va a hacer a continuación.

IA en tu mano

La IA en el dispositivo tiene varios beneficios significativos. El primero es el rendimiento. El procesamiento en el dispositivo es simplemente más rápido, no hay un viaje de ida y vuelta a la nube, dice Brotman. La privacidad es lo siguiente. Las personas se sienten cómodas compartiendo algunos datos personales, pero no todos. Y el tercero es la fiabilidad. Las redes móviles son omnipresentes, pero no hay garantía de que siempre tendrás una conexión.

Rendimiento: Ejecutar algoritmos de IA en el dispositivo, independientemente de la nube, puede mejorar en gran medida el tiempo de respuesta y la eficiencia, ya que no es necesario transferir datos entre la nube y el dispositivo. Esto es importante porque las capacidades de IA móvil tienden a ser sensibles al tiempo para la experiencia del usuario y la toma de decisiones.

Las aplicaciones de IA tienden a ser en tiempo real y de misión crítica, dice Jeff Gehlhaar, vicepresidente de tecnología de Qualcomm. Muchos casos de uso de IA que mejoran una experiencia no pueden permitirse la latencia.

Un vehículo autónomo que necesita aplicar sus frenos, por ejemplo, no puede permitirse ni un milisegundo de latencia que podría resultar del procesamiento en la nube. Las decisiones deben tomarse en una fracción de segundo para que el vehículo funcione de manera segura.

En términos de experiencia de usuario, una interfaz de usuario de voz natural solo puede tolerar cierta latencia. Los usuarios están acostumbrados a respuestas inmediatas cuando utilizan una interfaz de voz de procesamiento de lenguaje natural, y las repercusiones de los retrasos en la red darán lugar a malas experiencias.

Privacidad y seguridad: Mantener sus datos en el dispositivo garantiza la privacidad, y la IA también se utiliza para la autenticación biométrica mediante reconocimiento de voz, huella digital, iris y facial. Usar la cara para desbloquear un dispositivo se está volviendo común, dice Brotman. Y el reconocimiento facial 3D está surgiendo para proporcionar un mayor grado de autenticidad para permitir los pagos móviles.

El procesamiento en el dispositivo de las aplicaciones de IA también puede aumentar tanto la seguridad del dispositivo como la de los datos al mantener un ojo atento al comportamiento aberrante. La IA puede ayudar a detectar malware y comportamientos anómalos, dice Gehlhaar. Podemos entrenar la red neuronal para ver cómo se comportan los malos actores. Y puede detectar esos malos comportamientos, como preguntar: '¿Por qué la aplicación de mi cámara abre mi base de datos de contactos?'

Fiabilidad: Incluso en las áreas más avanzadas del mundo, la cobertura de la red móvil no es ubicua. Sin embargo, cuando se trata de ciertas capacidades impulsadas por IA, no hay lugar para errores. Los vehículos autónomos simplemente no pueden darse el lujo de experimentar una caída de la señal inalámbrica, como podría ocurrir al ingresar a un túnel o estacionamiento. El procesamiento en el dispositivo, además de otras características de redundancia, siempre será un requisito para usos de misión crítica como la conducción autónoma.

Llevando la IA a los dispositivos perimetrales

Si bien estas funciones de IA ahora pueden ejecutarse en el dispositivo, la nube aún tiene un papel, particularmente como complemento del procesamiento en el dispositivo. Las aplicaciones de IA todavía se basan en plataformas en la nube para administrar big data y entrenar los modelos de redes neuronales que impulsan la inferencia de IA.

Los propios dispositivos perimetrales también deben estar equipados para ejecutar cargas de trabajo de IA de manera eficaz. Por ejemplo, el procesamiento debe realizarse dentro de las limitaciones de la plataforma, incluido el consumo de energía y los límites térmicos. Los procesadores de aplicaciones con diversos motores de procesamiento son particularmente adecuados para ejecutar tareas de IA de manera eficiente. La plataforma móvil Qualcomm Snapdragon, por ejemplo, está equipada con tres motores de procesamiento separados: una unidad de procesamiento central (CPU), una unidad de procesamiento de gráficos (GPU) y un procesador de señal digital (DSP) con capacidades de procesamiento de vectores, todos los cuales desempeñan funciones clave. en la IA del dispositivo.

Con la computación heterogénea, hay una variedad de motores diferentes dentro del chip para procesar de manera más eficiente una tarea determinada, dice Pat Lawlor, gerente de personal de marketing técnico de Qualcomm. La CPU, la GPU y el DSP tienen diferentes puntos fuertes y débiles, y pueden funcionar juntos o por separado, según la tarea de IA. Se complementan entre sí y las tareas de IA se ejecutan en los motores apropiados para un alto rendimiento a baja potencia.

La mayor potencia de procesamiento integrada en los conjuntos de chips de los dispositivos de borde modernos los ayuda a manejar el procesamiento intenso. Por ejemplo, Qualcomm Hexagon 685 DSP, Adreno 630 GPU y Kryo 385 CPU en Snapdragon 845 pueden ofrecer un procesamiento de IA hasta dos o tres veces más rápido que la generación anterior. El Hexagon DSP, por ejemplo, se diseñó originalmente para cargas de trabajo intensivas en matemáticas vectoriales, como el procesamiento de audio, y continúa mejorándose para abordar las cargas de trabajo de IA, como la aceleración de redes neuronales durante la inferencia de IA.

¿Qué sigue para la IA móvil?

La IA móvil es un mercado en rápido crecimiento. Con los continuos avances en redes neuronales, algoritmos DL y diseño de hardware, veremos grandes mejoras en precisión y velocidad, además de nuevas experiencias de usuario inmersivas.

En el universo más amplio de la movilidad, las redes inalámbricas 5G también están en el horizonte. AI mejorará y aumentará 5G y viceversa, dice Brotman. 5G permitirá que los dispositivos se comuniquen más libremente entre sí para compartir datos y contexto. Con este desarrollo, experimentaremos un universo completamente conectado de dispositivos de borde inteligentes, lo que facilitará experiencias de usuario más personalizadas y en tiempo real.

Nuestras vidas hoy en día se enriquecen con las capacidades de nuestros dispositivos, y nuestro futuro mejorará cada vez más con los avances que se están realizando en IA. La convergencia de estas dos poderosas tendencias ya está dando forma a experiencias en nuestra vida personal y empresarial.

Para obtener más información sobre la IA en el dispositivo, visite qualcomm.com/artificial-intelligence .

esconder