Temario del curso
Fundamentos del despliegue de IA híbrida
- Comprensión de los modelos de despliegue híbridos, en la nube y de borde (edge)
- Características de las cargas de trabajo de IA y restricciones de infraestructura
- Elegir la topología de despliegue adecuada
Contenedorización de cargas de trabajo de IA con Docker
- Construcción de contenedores de inferencia para GPU y CPU
- Gestión de imágenes y registros seguros
- Implementación de entornos reproducibles para IA
Despliegue de servicios de IA en entornos de nube
- Ejecución de inferencias en AWS, Azure y GCP a través de Docker
- Provisionamiento de cómputo en la nube para el servicio de modelos
- Seguridad de puntos finales (endpoints) de IA basados en la nube
Técnicas de despliegue en el borde (edge) y entornos locales (on-premise)
- Ejecución de IA en dispositivos IoT, gateways y microservidores
- Runtime ligeros para entornos de borde (edge)
- Gestión de conectividad intermitente y persistencia local
Redes híbridas y conectividad segura
- Túneles seguros entre el borde (edge) y la nube
- Certificados, secretos y acceso basado en tokens
- Ajuste de rendimiento para inferencia de baja latencia
Orquestación de despliegues de IA distribuidos
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas
- Descubrimiento de servicios y programación de cargas de trabajo
- Automatización de estrategias de despliegue en múltiples ubicaciones
Monitoreo y observabilidad entre entornos
- Seguimiento del rendimiento de inferencias entre ubicaciones
- Registro centralizado (logging) para sistemas de IA híbridos
- Detección de fallas y recuperación automatizada
Escala y optimización de sistemas de IA híbridos
- Escala de clusters de borde (edge) y nodos de nube
- Optimización del uso de ancho de banda y cacheo
- Equilibración de cargas de cómputo entre la nube y el borde (edge)
Resumen y próximos pasos
Requerimientos
- Comprensión de los conceptos de contenedorización
- Experiencia con operaciones de línea de comandos en Linux
- Conocimiento de los flujos de trabajo de despliegue de modelos de IA
Público objetivo
- Arquitectos de infraestructura
- Ingenieros de Confiabilidad del Sitio (SREs)
- Desarrolladores de sistemas Edge e IoT
Reseñas (2)
Como mencioné anteriormente, para una persona como yo (sin experiencia), esto supuso una puerta de entrada para comprender las funciones y características de estos programas, herramientas y demás.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Traducción Automática
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática
