Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al desarrollo de operadores personalizados
- ¿Por qué crear operadores personalizados? Casos de uso y limitaciones.
- Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
- Resumen de TBE, TIK y TVM en el ecosistema de IA de Huawei.
Uso de TIK para la programación de operadores de bajo nivel
- Comprensión del modelo de programación de TIK y las API admitidas.
- Gestión de memoria y estrategia de descomposición en TIK.
- Creación, compilación y registro de un operador personalizado con CANN.
Pruebas y validación de operadores personalizados
- Pruebas unitarias e integradas de operadores en el gráfico.
- Depuración de problemas de rendimiento a nivel de núcleo.
- Visualización de la ejecución del operador y el comportamiento del búfer.
Planificación y optimización basada en TVM
- Resumen de TVM como compilador para operaciones tensoriales.
- Escritura de una planificación para un operador personalizado en TVM.
- Ajuste, creación de perfiles y generación de código de TVM para Ascend.
Integración con frameworks y modelos
- Registro de operadores personalizados para MindSpore y ONNX.
- Verificación de la integridad del modelo y del comportamiento de fallback.
- Soporte para gráficos multi-operador con precisión mixta.
Estudios de caso y optimizaciones especializadas
- Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
- Estudio de caso: optimización del operador de atención consciente de la memoria.
- Mejores prácticas en el despliegue de operadores personalizados en diferentes dispositivos.
Resumen y próximos pasos
Requerimientos
- Sólidos conocimientos sobre los mecanismos internos de los modelos de IA y el cálculo a nivel de operador.
- Experiencia con entornos de desarrollo en Python y Linux.
- Familiaridad con compiladores de redes neuronales u optimizadores a nivel de gráfico.
Público objetivo
- Ingenieros de compiladores que trabajan en herramientas de IA.
- Desarrolladores de sistemas centrados en la optimización de IA de bajo nivel.
- Desarrolladores que crean operadores personalizados o se dirigen a cargas de trabajo de IA novedosas.
14 Horas