Contacta con nosotros

Temario del curso

Descripción general de las capacidades de optimización de CANN

  • Cómo se gestiona el rendimiento de la inferencia en CANN
  • Objetivos de optimización para sistemas de IA periféricos e integrados
  • Comprensión de la utilización del Núcleo de IA y la asignación de memoria

Uso del Motor de Grafos (Graph Engine) para Análisis

  • Introducción al Motor de Grafos y a la canalización de ejecución
  • Visualización de grafos de operadores y métricas en tiempo de ejecución
  • Modificación de grafos computacionales para la optimización

Herramientas de Perfilado y Métricas de Rendimiento

  • Uso de la Herramienta de Perfilado de CANN (profiler) para el análisis de carga de trabajo
  • Análisis del tiempo de ejecución de kernels y cuellos de botella
  • Perfilado del acceso a memoria y estrategias de división en bloques (tiling)

Desarrollo de Operadores Personalizados con TIK

  • Descripción general de TIK y el modelo de programación de operadores
  • Implementación de un operador personalizado utilizando el DSL de TIK
  • Pruebas y benchmarking del rendimiento del operador

Optimización Avanzada de Operadores con TVM

\r
  • Introducción a la integración de TVM con CANN
  • Estrategias de auto-ajuste (auto-tuning) para grafos computacionales
  • Cuándo y cómo alternar entre TVM y TIK

Técnicas de Optimización de Memoria

  • Gestión del diseño de memoria y ubicación de buffers
  • Técnicas para reducir el consumo de memoria en el chip
  • Mejores prácticas para la ejecución asíncrona y reutilización

Implementación del Mundo Real y Estudios de Caso

  • Estudio de caso: ajuste de rendimiento para el canal de procesamiento de cámaras de ciudad inteligente
  • Estudio de caso: optimización de la pila de inferencia para vehículos autónomos
  • Pautas para el perfilado iterativo y la mejora continua

Resumen y Próximos Pasos

Requerimientos

  • Sólido entendimiento de las arquitecturas de modelos de aprendizaje profundo y flujos de trabajo de entrenamiento
  • Experiencia con la implementación de modelos utilizando CANN, TensorFlow o PyTorch
  • Conocimientos en CLI de Linux, scripting de shell y programación en Python

Público Objetivo

  • Ingenieros de rendimiento de IA
  • Especialistas en optimización de inferencia
  • Desarrolladores que trabajan con IA periférica (edge AI) o sistemas en tiempo real
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas