Temario del curso
Fundamentos del Despliegue de IA Híbrida
- Comprensión de los modelos de despliegue híbrido, de nube y de borde.
- Características de las cargas de trabajo de IA y restricciones de infraestructura.
- Selección de la topología de despliegue adecuada.
Contenerización de Cargas de Trabajo de IA con Docker
- Construcción de contenedores de inferencia para GPU y CPU.
- Gestión de imágenes y registros seguros.
- Implementación de entornos reproducibles para IA.
Despliegue de Servicios de IA en Entornos de Nube
- Ejecución de inferencia en AWS, Azure y GCP a través de Docker.
- Aprovisionamiento de cómputo en la nube para el servicio de modelos.
- Seguridad de los puntos finales (endpoints) de IA basados en la nube.
Técnicas de Despliegue en Borde y On-Premise
- Ejecución de IA en dispositivos IoT, gateways (pasarelas) y microserves.
- Entornos de ejecución ligeros para entornos de borde.
- Gestión de conectividad intermitente y persistencia local.
Red Híbrida y Conectividad Segura
- Túneles seguros entre el borde y la nube.
- Certificados, secretos y acceso basado en tokens.
- Ajuste de rendimiento para inferencia de baja latencia.
Orquestación de Despliegues de IA Distribuidos
- Uso de K3s, K8s u orquestación ligera para configuraciones híbridas.
- Descubrimiento de servicios y programación de cargas de trabajo.
- Automatización de estrategias de implementación en múltiples ubicaciones.
Monitoreo y Visibilidad en Todos los Entornos
- Seguimiento del rendimiento de la inferencia en todas las ubicaciones.
- Registro centralizado para sistemas de IA híbridos.
- Detección de fallas y recuperación automatizada.
Escalado y Optimización de Sistemas de IA Híbridos
- Escalado de clústeres de borde y nodos de nube.
- Optimización del uso de ancho de banda y caché.
- Equilibrio de cargas de cómputo entre la nube y el borde.
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los conceptos de contenedores.
- Experiencia con operaciones en la línea de comandos de Linux.
- Familiaridad con los flujos de trabajo de implementación de modelos de IA.
Público Objetivo
- Arquitectos de infraestructura.
- Ingenieros de Confiabilidad del Sitio (SREs).
- Desarrolladores de borde e IoT.
Testimonios (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática