Temario del curso
Introducción a la contenerización acelerada por GPU
- Entendiendo el uso de la GPU en los flujos de trabajo de aprendizaje profundo
- Cómo Docker soporta las cargas de trabajo basadas en GPU
- Consideraciones clave de rendimiento
Instalación y configuración del Kit de Herramientas de Contenedores de NVIDIA
- Configuración de controladores y compatibilidad con CUDA
- Validación del acceso a la GPU dentro de los contenedores
- Configuración del entorno de tiempo de ejecución
Creación de imágenes de Docker habilitadas para GPU
- Uso de imágenes base de CUDA
- Empaquetado de marcos de IA en contenedores listos para GPU
- Gestión de dependencias para entrenamiento e inferencia
Ejecución de cargas de trabajo de IA aceleradas por GPU
- Ejecución de tareas de entrenamiento utilizando GPUs
- Gestión de cargas de trabajo de GPU múltiple
- Monitoreo del uso de la GPU
Optimización del rendimiento y la asignación de recursos
- Limitación y aislamiento de recursos de GPU
- Optimización de la memoria, tamaños de lote y ubicación del dispositivo
- Ajuste de rendimiento y diagnóstico
Inferencia en contenedores y servicio de modelos
- Creación de contenedores listos para inferencia
- Servicio de cargas de trabajo de alta demanda en GPUs
- Integración de ejecutores de modelos y APIs
Escala de cargas de trabajo de GPU con Docker
- Estrategias para el entrenamiento distribuido de GPU
- Escala de microservicios de inferencia
- Coordinación de sistemas de IA con múltiples contenedores
Seguridad y fiabilidad para contenedores habilitados para GPU
- Garantizar un acceso seguro a la GPU en entornos compartidos
- Endurecimiento de las imágenes de contenedores
- Gestión de actualizaciones, versiones y compatibilidad
Resumen y próximos pasos
Requerimientos
- Comprensión de los fundamentos del aprendizaje profundo
- Experiencia con Python y marcos de IA comunes
- Conocimiento de los conceptos básicos de contenerización
Audiencia
- Ingenieros de aprendizaje profundo
- Equipos de investigación y desarrollo
- Entrenadores de modelos de IA
Reseñas (2)
Como mencioné anteriormente, para una persona como yo (sin experiencia), esto supuso una puerta de entrada para comprender las funciones y características de estos programas, herramientas y demás.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Traducción Automática
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática
