La infraestructura de aprendizaje automático de alto rendimiento y bajo costo está acelerando la innovación en la nube

Proporcionado por Servicios web de Amazon

La inteligencia artificial y el aprendizaje automático (IA y ML) son tecnologías clave que ayudan a las organizaciones a desarrollar nuevas formas de aumentar las ventas, reducir costos, optimizar los procesos comerciales y comprender mejor a sus clientes. AWS ayuda a los clientes a acelerar su adopción de inteligencia artificial/aprendizaje automático mediante la entrega de computación potente, redes de alta velocidad y opciones de almacenamiento escalables de alto rendimiento bajo demanda para cualquier proyecto de aprendizaje automático. Esto reduce la barrera de entrada para las organizaciones que buscan adoptar la nube para escalar sus aplicaciones de ML.

Los desarrolladores y científicos de datos están ampliando los límites de la tecnología y adoptando cada vez más el aprendizaje profundo, que es un tipo de aprendizaje automático basado en algoritmos de redes neuronales. Estos modelos de aprendizaje profundo son más grandes y sofisticados, lo que genera un aumento de los costos para ejecutar la infraestructura subyacente para entrenar e implementar estos modelos.

Para permitir que los clientes aceleren su transformación de IA/ML, AWS está creando chips de aprendizaje automático de alto rendimiento y bajo costo. AWS Inferentia es el primer chip de aprendizaje automático creado desde cero por AWS para la inferencia de aprendizaje automático de menor costo en la nube. De hecho, las instancias Inf1 de Amazon EC2 con tecnología de Inferentia ofrecen un rendimiento 2,3 veces mayor y hasta un 70 % menos de costo para la inferencia de aprendizaje automático que las instancias EC2 basadas en GPU de la generación actual. AWS Trainium es el segundo chip de aprendizaje automático de AWS diseñado específicamente para entrenar modelos de aprendizaje profundo y estará disponible a finales de 2021.

Los clientes de todas las industrias han implementado sus aplicaciones ML en producción en Inferentia y han visto mejoras significativas en el rendimiento y ahorros de costos. Por ejemplo, la plataforma de atención al cliente de AirBnB permite experiencias de servicio inteligentes, escalables y excepcionales para su comunidad de millones de anfitriones e invitados en todo el mundo. Usó instancias EC2 Inf1 basadas en Inferentia para implementar modelos de procesamiento de lenguaje natural (NLP) compatibles con sus chatbots. Esto condujo a una mejora del doble en el rendimiento desde el primer momento en comparación con las instancias basadas en GPU.

Con estas innovaciones en silicio, AWS permite a los clientes entrenar y ejecutar sus modelos de aprendizaje profundo en producción fácilmente con alto rendimiento y rendimiento a costos significativamente más bajos.

El aprendizaje automático desafía el cambio de velocidad a la infraestructura basada en la nube

El aprendizaje automático es un proceso iterativo que requiere que los equipos creen, entrenen e implementen aplicaciones rápidamente, así como entrenen, vuelvan a entrenar y experimenten con frecuencia para aumentar la precisión de predicción de los modelos. Al implementar modelos entrenados en sus aplicaciones comerciales, las organizaciones también deben escalar sus aplicaciones para servir a nuevos usuarios en todo el mundo. Deben poder atender múltiples solicitudes que ingresan al mismo tiempo con una latencia casi en tiempo real para garantizar una experiencia de usuario superior.

Los casos de uso emergentes, como la detección de objetos, el procesamiento del lenguaje natural (NLP), la clasificación de imágenes, la IA conversacional y los datos de series temporales se basan en la tecnología de aprendizaje profundo. Los modelos de aprendizaje profundo están aumentando exponencialmente en tamaño y complejidad, pasando de tener millones de parámetros a miles de millones en cuestión de un par de años.

La capacitación y el despliegue de estos modelos complejos y sofisticados se traducen en costos de infraestructura significativos. Los costos pueden aumentar rápidamente hasta volverse prohibitivamente altos a medida que las organizaciones escalan sus aplicaciones para brindar experiencias casi en tiempo real a sus usuarios y clientes.

Aquí es donde los servicios de infraestructura de aprendizaje automático basados ​​en la nube pueden ayudar. La nube brinda acceso a pedido a computación, redes de alto rendimiento y gran almacenamiento de datos, combinados a la perfección con operaciones de ML y servicios de IA de nivel superior, para permitir que las organizaciones comiencen de inmediato y amplíen sus iniciativas de IA/ML.

Cómo ayuda AWS a los clientes a acelerar su transformación de IA/ML

AWS Inferentia y AWS Trainium tienen como objetivo democratizar el aprendizaje automático y hacerlo accesible para los desarrolladores, independientemente de la experiencia y el tamaño de la organización. El diseño de Inferentia está optimizado para un alto rendimiento, rendimiento y baja latencia, lo que lo hace ideal para implementar la inferencia ML a escala.

Cada chip de AWS Inferentia contiene cuatro NeuronCores que implementan un motor de multiplicación de matriz de matriz sistólica de alto rendimiento, que acelera enormemente las operaciones típicas de aprendizaje profundo, como la convolución y los transformadores. Los NeuronCores también están equipados con una gran memoria caché en el chip, lo que ayuda a reducir los accesos a la memoria externa, reduce la latencia y aumenta el rendimiento.

AWS Neuron, el kit de desarrollo de software para Inferentia, admite de forma nativa marcos de ML líderes, como TensorFlow y PyTorch. Los desarrolladores pueden continuar usando los mismos marcos y herramientas de desarrollo de ciclo de vida que conocen y aman. Para muchos de sus modelos entrenados, pueden compilarlos e implementarlos en Inferentia cambiando solo una línea de código, sin cambios adicionales en el código de la aplicación.

El resultado es una implementación de inferencia de alto rendimiento, que puede escalar fácilmente mientras mantiene los costos bajo control.

Sprinklr, una empresa de software como servicio, tiene una plataforma de gestión de la experiencia del cliente unificada impulsada por IA que permite a las empresas recopilar y traducir los comentarios de los clientes en tiempo real a través de múltiples canales en información procesable. Esto da como resultado una resolución proactiva de problemas, un mejor desarrollo de productos, un mejor marketing de contenido y un mejor servicio al cliente. Sprinklr usó Inferentia para implementar su NLP y algunos de sus modelos de visión por computadora y vio mejoras significativas en el rendimiento.

Varios servicios de Amazon también implementan sus modelos de aprendizaje automático en Inferentia.

Amazon Prime Video utiliza modelos ML de visión por computadora para analizar la calidad del video de eventos en vivo para garantizar una experiencia de visualización óptima para los miembros de Prime Video. Implementó sus modelos ML de clasificación de imágenes en instancias EC2 Inf1 y vio una mejora de 4 veces en el rendimiento y hasta un 40 % de ahorro en costos en comparación con las instancias basadas en GPU.

Otro ejemplo es la inteligencia basada en IA y ML de Amazon Alexa, impulsada por Amazon Web Services, que está disponible en más de 100 millones de dispositivos en la actualidad. La promesa de Alexa a los clientes es que siempre se está volviendo más inteligente, más conversacional, más proactiva e incluso más encantadora. Cumplir esa promesa requiere mejoras continuas en los tiempos de respuesta y los costos de infraestructura de aprendizaje automático. Al implementar los modelos ML de texto a voz de Alexa en instancias Inf1, pudo reducir la latencia de inferencia en un 25 % y el costo por inferencia en un 30 % para mejorar la experiencia de servicio para decenas de millones de clientes que usan Alexa cada mes.

Liberar nuevas capacidades de aprendizaje automático en la nube

A medida que las empresas compiten para preparar sus negocios para el futuro al habilitar los mejores productos y servicios digitales, ninguna organización puede quedarse atrás en la implementación de modelos sofisticados de aprendizaje automático para ayudar a innovar las experiencias de sus clientes. En los últimos años, ha habido un enorme aumento en la aplicabilidad del aprendizaje automático para una variedad de casos de uso, desde la personalización y la predicción de abandono hasta la detección de fraudes y la previsión de la cadena de suministro.

Afortunadamente, la infraestructura de aprendizaje automático en la nube está liberando nuevas capacidades que antes no eran posibles, lo que las hace mucho más accesibles para los profesionales no expertos. Es por eso que los clientes de AWS ya están utilizando instancias Inf1 de Amazon EC2 con tecnología de Inferentia para proporcionar la inteligencia detrás de sus motores de recomendación y chatbots y para obtener información procesable de los comentarios de los clientes.

Con las opciones de infraestructura de aprendizaje automático basadas en la nube de AWS adecuadas para varios niveles de habilidad, está claro que cualquier organización puede acelerar la innovación y adoptar todo el ciclo de vida del aprendizaje automático a escala. A medida que el aprendizaje automático continúa volviéndose más generalizado, las organizaciones ahora pueden transformar fundamentalmente la experiencia del cliente, y la forma en que hacen negocios, con una infraestructura de aprendizaje automático basada en la nube rentable y de alto rendimiento.

Obtenga más información sobre cómo la plataforma de aprendizaje automático de AWS puede ayudar a su empresa a innovar aquí .

Este contenido fue producido por AWS. No fue escrito por el equipo editorial de MIT Technology Review.

esconder