Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Despliegue de EXO sin conexión
- Uso de la variable EXO_OFFLINE para impedir el acceso a Internet durante la ejecución.
- Carga previa de modelos en los directorios EXO_MODELS_READ_ONLY_DIRS desde repositorios internos confiables.
- Verificación de la integridad de los pesos del modelo mediante sumas de comprobación SHA-256 y tarjetas de modelo firmadas.
- Ejecución de EXO en redes aisladas (air-gapped) sin dependencias de HuggingFace.
Control de acceso al panel de control y la API
- Instalación y configuración de proxies inversos (nginx, Caddy) con terminación TLS.
- Implementación de control de acceso basado en roles para el panel de EXO y la API REST.
- Uso del llavero de macOS o pass en Linux para almacenar secretos necesarios para la autenticación de la API.
- Restricción de los puntos finales administrativos a rangos específicos de direcciones IP de origen.
Aislamiento de clústeres y seguridad de red
- Segmentación de clústeres EXO mediante EXO_LIBP2P_NAMESPACE y VLANs.
- Configuración de firewalls host (firewall de aplicaciones en macOS, iptables, nftables) para los puertos de EXO.
- Prevención del descubrimiento no autorizado de dispositivos e inyección de nodos maliciosos.
- Cifrado del tráfico libp2p entre nodos cuando no hay disponibilidad de RDMA.
Gobernanza y procedencia de modelos
- Creación de un registro interno de modelos con listas aprobadas y metadatos de modelos.
- Etiquetado y versionado de pesos cuantizados (4 bits, 8 bits) junto con los puntos de control originales.
- Aplicación de la política para cargar únicamente repositorios específicos de HuggingFace o artefactos internos.
- Documentación del linaje de modelos, términos de licencia y políticas de uso aceptable.
Auditoría y registro de cumplimiento
\r- Configuración del envío de registros de EXO a trazas de auditoría inmutables (SIEM, almacenamiento WORM).
- Correlación de registros de llamadas a la API con identidad de usuario y marca de tiempo.
- Registro de eventos de creación, eliminación de instancias de modelos y solicitudes de inferencia.
- Generación de informes periódicos de cumplimiento para auditores internos y externos.
Modelado de amenazas y respuesta a incidentes
- Identificación de amenazas: exfiltración de datos a través de salidas del modelo, inyección de instrucciones (prompts) y fugas por canales laterales.
- Implementación de pipelines de monitoreo de prompts y filtrado de contenido.
- Creación de manuales de respuesta ante incidentes para escenarios de compromiso del clúster.
- Aislamiento de los nodos afectados, preservación de registros forenses y reconstrucción de entornos limpios.
Seguridad física y límites de hardware
- Protección de los puertos Thunderbolt contra conexiones no autorizadas mediante cables RDMA.
- Uso de enclaves seguros y atestación por hardware Apple Silicon cuando corresponda.
- Control del acceso físico a Macs en clústeres y almacenamiento compartido.
- Documentación del ciclo de vida del hardware y procedimientos de baja.
Consideraciones regulatorias
- Mapeo de despliegues EXO a requisitos como GDPR, HIPAA y SOC 2.
- Garantía de residencia de datos manteniendo la inferencia in situ.
- Documentación de riesgos en la cadena de suministro de proveedores (MLX, EXO, pesos del modelo).
- Preparación para marcos de gobernanza de IA, como el Artículo 53 del Reglamento de IA de la UE.
Requerimientos
- Experiencia con EXO u otro tiempo de ejecución local de modelos de lenguaje grandes (LLM).
- Conocimiento sobre permisos del sistema de archivos Unix y listas de control de acceso (ACL) en redes.
- Familiaridad con la gestión de certificados TLS/SSL y los fundamentos de cifrado.
Público objetivo
- Ingenieros de seguridad.
- Oficiales de cumplimiento normativo.
- Administradores de infraestructura de IA que manejan datos sensibles.
14 Horas
Reseñas (1)
El instructor tenía un excelente conocimiento de FortiGate y entregó el contenido muy bien. Muchas gracias a Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curso - FortiGate 7.4 Administration
Traducción Automática
