Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de amenazas para IA agéntica
- Tipos de amenazas agénticas: uso indebido, escalamiento, fuga de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos críticos de control para agentes.
Gobernanza, políticas y gestión de riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puntos de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalamiento, manejo de datos y auditoría.
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías.
Identidad y autenticación no humanas para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida útil corta.
- Patrones de acceso con el menor privilegio posible y credenciamiento just-in-time.
- Estrategias de ciclo de vida, rotación, delegación y revocación de identidades.
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso granular y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes.
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento de agentes: trazado de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alertas y preparación forense.
- Guiones de operación (runbooks) y planes de acción (playbooks) para incidentes relacionados con agentes y contención.
Red-teaming de sistemas agénticos
- Planificación de ejercicios de red-teaming: alcance, reglas de interacción y recuperación segura ante fallos.
- Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación de la cadena de pensamiento y abuso de APIs.
- Realización de ataques controlados y medición de exposición e impacto.
Refuerzo de seguridad y mitigaciones
- Controles de ingeniería: limitación de respuestas, control de capacidades y sandboxes.
- Controles de política y orquestación: flujos de aprobación, intervención humana en el proceso (human-in-the-loop) y ganchos de gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonicación y filtros de salida.
Operacionalización de despliegues seguros de agentes
- Patrones de despliegue: entornos de staging, canary y despliegue progresivo para agentes.
- Control de cambios, tuberías de pruebas y verificaciones de seguridad pre-despliegue.
- Gobernanza interfuncional: planes de acción de seguridad, legal, producto y operaciones.
Proyecto final (Capstone): Ejercicio Red-Team / Blue-Team
- Ejecutar un ataque red-team simulado contra un entorno de agente en sandbox.
- Defender, detectar y remediar como equipo blue-team utilizando controles y telemetría.
- Presentar hallazgos, plan de remediación y actualizaciones de políticas.
Resumen y próximos pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Familiaridad con conceptos de IA/ML y el comportamiento de los grandes modelos de lenguaje (LLM).
- Experiencia en gestión de identidades y acceso (IAM) y diseño de sistemas seguros.
Audiencia
- Ingenieros de seguridad y profesionales de red-teaming.
- Ingenieros de operaciones de IA y de plataformas.
- Oficiales de cumplimiento y gerentes de riesgo.
- Líderes de ingeniería responsables del despliegue de agentes.
21 Horas
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática
