Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Infraestructura como Código de EXO
- Visión general de patrones de despliegue de EXO: nodo único, multi-nodo y clústeres RDMA
- Automatización de la instalación de dependencias (Xcode, uv, Node.js, Rust) con gestión de configuraciones
- Uso de Nix flakes para compilaciones reproducibles de EXO y entornos de desarrollo
- Redacción de playbooks de Ansible o scripts de shell para el aprovisionamiento no supervisado del clúster
Compilaciones Reproducibles e Integración con CI
- Fijar dependencias y compilar el panel de control en pipelines de CI
- Ejecutar pruebas básicas de EXO en runners de GitHub Actions o GitLab CI
- Crear imágenes base y flujos de trabajo de rollback basados en instantáneas para máquinas virtuales macOS y Linux
- Versionar tarjetas de modelos personalizados junto con el código de la aplicación
Descubrimiento y Automatización de Redes del Clúster
- Configuración de mDNS y DNS estático para un descubrimiento fiable de nodos libp2p
- Automatización de la creación de perfiles de red y gestión de puentes Thunderbolt en macOS
- Uso de nombres de espacio personalizados (EXO_LIBP2P_NAMESPACE) para separar clústeres de desarrollo, staging y producción
- Reglas de firewall y segmentación de red para entornos multiinquilino
Gestión del Ciclo de Vida de Almacenamiento y Modelos
- Diseño de estrategias para EXO_MODELS_DIRS y EXO_MODELS_READ_ONLY_DIRS
- Montaje de comparticiones NFS o SAN como repositorios de modelos de solo lectura para un aprovisionamiento rápido
- Limpieza de cachés obsoletas y políticas de retención de pesos versionados
- Automatización de descargas previas de modelos y verificaciones de salud antes de actualizaciones progresivas
Monitoreo y Alertas
- Envío de registros de EXO a registro centralizado (ELK, Loki o Splunk)
- Creación de paneles de Grafana a partir de la salida de EXO_TRACING_ENABLED
- Alertas sobre cambios en la membresía del clúster, eventos OOM y picos de latencia de inferencia
- Correlacionar telemetría de hardware macmon con regresiones en el rendimiento del modelo
Actualización, Rollback y Recuperación ante Desastres
- Preparar actualizaciones de binarios EXO en un nodo canario antes del despliegue a toda la flota
- Rollback a nivel de modelo: cambiar entre versiones cuantizadas sin volver a descargar
- Respaldo y restauración del estado del clúster, nombres de espacio personalizados y pesos en caché
- Documentación de runbooks de recuperación para escenarios de reconstrucción total del clúster
Acondicionamiento de Seguridad y Cumplimiento
- Aplicación de TLS en la capa de proxy inverso (nginx, traefik) para el panel de control y la API
- Implementación de límite de tasa de API y lista blanca de IP para los puntos finales de EXO
- Aislamiento de clústeres con VLANs y políticas de red de confianza cero
- Auditoría del acceso y mantenimiento de un inventario de modelos desplegados y sus versiones
Requerimientos
- Experiencia con prácticas de DevOps (CI/CD, IaC, orquestación de contenedores)
- Conocimiento de la administración de sistemas macOS o Linux y gestión de paquetes
- Comprensión de conceptos de redes, DNS y almacenamiento
Audiencia Objetivo
- Ingenieros de DevOps
- Arquitectos de infraestructura
- SREs responsables de cargas de trabajo de IA on-premise
21 Horas
Reseñas (2)
El conocimiento y experiencia del consultor ya que se abordan los temas teóricos aplicándolos a la realidad de los procesos. El curso contiene un programa de mucho valor en la gestión de las tecnologías de información.
Luis Castro Gamboa - Cooperativa De Ahorro Y Credito Ande No. 1 R.L.
Curso - Site Reliability Engineering (SRE) Foundation®
Que fue muy claro en cada especificación
