Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Descripción general de las capacidades de optimización de CANN
- Cómo se gestiona el rendimiento de la inferencia en CANN
- Objetivos de optimización para sistemas de IA periféricos e integrados
- Comprensión de la utilización del Núcleo de IA y la asignación de memoria
Uso del Motor de Grafos (Graph Engine) para Análisis
- Introducción al Motor de Grafos y a la canalización de ejecución
- Visualización de grafos de operadores y métricas en tiempo de ejecución
- Modificación de grafos computacionales para la optimización
Herramientas de Perfilado y Métricas de Rendimiento
- Uso de la Herramienta de Perfilado de CANN (profiler) para el análisis de carga de trabajo
- Análisis del tiempo de ejecución de kernels y cuellos de botella
- Perfilado del acceso a memoria y estrategias de división en bloques (tiling)
Desarrollo de Operadores Personalizados con TIK
- Descripción general de TIK y el modelo de programación de operadores
- Implementación de un operador personalizado utilizando el DSL de TIK
- Pruebas y benchmarking del rendimiento del operador
Optimización Avanzada de Operadores con TVM
\r- Introducción a la integración de TVM con CANN
- Estrategias de auto-ajuste (auto-tuning) para grafos computacionales
- Cuándo y cómo alternar entre TVM y TIK
Técnicas de Optimización de Memoria
- Gestión del diseño de memoria y ubicación de buffers
- Técnicas para reducir el consumo de memoria en el chip
- Mejores prácticas para la ejecución asíncrona y reutilización
Implementación del Mundo Real y Estudios de Caso
- Estudio de caso: ajuste de rendimiento para el canal de procesamiento de cámaras de ciudad inteligente
- Estudio de caso: optimización de la pila de inferencia para vehículos autónomos
- Pautas para el perfilado iterativo y la mejora continua
Resumen y Próximos Pasos
Requerimientos
- Sólido entendimiento de las arquitecturas de modelos de aprendizaje profundo y flujos de trabajo de entrenamiento
- Experiencia con la implementación de modelos utilizando CANN, TensorFlow o PyTorch
- Conocimientos en CLI de Linux, scripting de shell y programación en Python
Público Objetivo
- Ingenieros de rendimiento de IA
- Especialistas en optimización de inferencia
- Desarrolladores que trabajan con IA periférica (edge AI) o sistemas en tiempo real
14 Horas