Contacta con nosotros

Temario del curso

Introducción al desarrollo de operadores personalizados

  • ¿Por qué crear operadores personalizados? Casos de uso y limitaciones.
  • Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
  • Resumen de TBE, TIK y TVM en el ecosistema de IA de Huawei.

Uso de TIK para la programación de operadores de bajo nivel

  • Comprensión del modelo de programación de TIK y las API admitidas.
  • Gestión de memoria y estrategia de descomposición en TIK.
  • Creación, compilación y registro de un operador personalizado con CANN.

Pruebas y validación de operadores personalizados

  • Pruebas unitarias e integradas de operadores en el gráfico.
  • Depuración de problemas de rendimiento a nivel de núcleo.
  • Visualización de la ejecución del operador y el comportamiento del búfer.

Planificación y optimización basada en TVM

  • Resumen de TVM como compilador para operaciones tensoriales.
  • Escritura de una planificación para un operador personalizado en TVM.
  • Ajuste, creación de perfiles y generación de código de TVM para Ascend.

Integración con frameworks y modelos

  • Registro de operadores personalizados para MindSpore y ONNX.
  • Verificación de la integridad del modelo y del comportamiento de fallback.
  • Soporte para gráficos multi-operador con precisión mixta.

Estudios de caso y optimizaciones especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
  • Estudio de caso: optimización del operador de atención consciente de la memoria.
  • Mejores prácticas en el despliegue de operadores personalizados en diferentes dispositivos.

Resumen y próximos pasos

Requerimientos

  • Sólidos conocimientos sobre los mecanismos internos de los modelos de IA y el cálculo a nivel de operador.
  • Experiencia con entornos de desarrollo en Python y Linux.
  • Familiaridad con compiladores de redes neuronales u optimizadores a nivel de gráfico.

Público objetivo

  • Ingenieros de compiladores que trabajan en herramientas de IA.
  • Desarrolladores de sistemas centrados en la optimización de IA de bajo nivel.
  • Desarrolladores que crean operadores personalizados o se dirigen a cargas de trabajo de IA novedosas.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas