Programa del Curso
Introducción a Cambricon y la Arquitectura MLU
- Visión general del portafolio de chips AI de Cambricon
- Arquitectura MLU y canal de instrucciones
- Tipo de modelos compatibles y casos de uso
Instalación de la Cadena de Herramientas de Desarrollo
- Instalar BANGPy y Neuware SDK
- Configuración del entorno para Python y C++
- Compatibilidad con modelos y preprocesamiento
Desarrollo de Modelos con BANGPy
- Estructura de tensores y gestión de formas
- Construcción del grafo de cálculo
- Soporte para operaciones personalizadas en BANGPy
Distribución con Neuware Runtime
- Convertir y cargar modelos
- Ejecución y control de inferencia
- Prácticas de implementación en la frontera y centros de datos
Otorgamiento de Rendimiento
- Mapeo de memoria y ajuste de capas
- Rastreo y perfilado de ejecución
- Bloqueos comunes y soluciones
Integración de MLU en Aplicaciones
- Usar APIs Neuware para la integración de aplicaciones
- Soporte para flujo continuo y múltiples modelos
- Casos de inferencia híbrida CPU-MLU
Proyecto Final y Use Case
- Laboratorio: Implementación de un modelo de visión o NLP
- Inferencia en la frontera con integración BANGPy
- Pruebas de precisión y rendimiento
Resumen y Próximos Pasos
Requerimientos
- Comprender la estructura de modelos de aprendizaje automático
- Experiencia con Python y/o C++
- Familiaridad con conceptos de implementación y aceleración de modelos
Público objetivo
- Desarrolladores de IA embebida
- Ingenieros de ML que implementan en el borde o centro de datos
- Desarrolladores trabajando con infraestructura AI china
Introducción a Cambricon y la arquitectura MLU
- Visión general del portafolio de chips AI de Cambricon
- Arquitectura MLU y pipeline de instrucciones
- Tipo de modelos soportados y casos de uso
Instalación de la cadena de herramientas de desarrollo
- Instalar BANGPy y Neuware SDK
- Configuración del entorno para Python y C++
- Compatibilidad del modelo y preprocesamiento
Desarrollo de modelos con BANGPy
- Estructura y gestión de forma de tensores
- Construcción de gráficos computacionales
- Soporte para operaciones personalizadas en BANGPy
Implementación con Neuware Runtime
- Conversión y carga de modelos
- Ejecución y control de inferencia
- Prácticas de implementación en borde y centro de datos
Otorgamiento de rendimiento
- Mapeo de memoria y ajuste de capas
- Rastreo y perfilado de ejecución
- Bloqueos comunes y soluciones
Integración de MLU en aplicaciones
- Uso de APIs Neuware para integración de aplicaciones
- Soporte para flujo continuo y múltiples modelos
- Casos de inferencia híbrida CPU-MLU
Proyecto final y Use Case
- Laboratorio: Implementación de un modelo de visión o NLP
- Inferencia en borde con integración BANGPy
- Pruebas de precisión y rendimiento
Resumen y próximos pasos
Las unidades MLU de Cambricon (Machine Learning Unidades) son chips AI especializados optimizados para inferencia y entrenamiento en escenarios de borde y centro de datos.
Esta formación dirigida por un instructor (en línea o presencial) está destinada a desarrolladores de nivel intermedio que desean construir e implementar modelos AI utilizando el marco BANGPy y SDK Neuware en hardware Cambricon MLU.
Al finalizar esta capacitación, los participantes podrán:
- Configurar y configurar los entornos de desarrollo BANGPy y Neuware.
- Desarrollar y optimizar modelos basados en Python y/o C++ para MLUs Cambricon.
- Implementar modelos en dispositivos de borde o centro de datos que ejecutan el tiempo de ejecución Neuware.
- Integrar flujos de trabajo ML con características específicas de aceleración MLU.
Formato del curso
- Conferencia interactiva y discusión.
- Uso práctico de BANGPy y Neuware para desarrollo e implementación.
- Ejercicios guiados enfocados en optimización, integración y prueba.
Opciones de personalización del curso
- Para solicitar una formación personalizada basada en su modelo de dispositivo Cambricon o caso de uso, por favor contáctenos para organizarlo.