Contacta con nosotros

Temario del curso

Fundamentos: Modelos de Amenaza para IA Agéntica

  • Tipos de amenazas agénticas: uso indebido, escalación, fugas de datos y riesgos en la cadena de suministro
  • Perfiles de adversarios y capacidades de los atacantes específicas para agentes autónomos
  • Mapeo de activos, límites de confianza y puntos críticos de control para agentes

Gobernanza, Políticas y Gestión de Riesgos

  • Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y puntos de aprobación)
  • Diseño de políticas: uso aceptable, reglas de escalación, manejo de datos y capacidad de auditoría
  • Consideraciones de cumplimiento y recolección de evidencias para auditorías

Identidad No Humana y Autenticación para Agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de corta duración
  • Patrones de acceso de mínimo privilegio y acreditación bajo demanda (just-in-time)
  • Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación

Controles de Acceso, Secretos y Protección de Datos

  • Modelos de control de acceso detallado y patrones basados en capacidades para agentes
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
  • Protección de fuentes de conocimiento sensibles e información personal identificable (PII) contra el acceso no autorizado de agentes

Observabilidad, Auditoría y Respuesta a Incidentes

  • Diseño de telemetría para el comportamiento del agente: rastreo de intenciones, registros de comandos y procedencia
  • Integración con SIEM, umbrales de alerta y preparación forense
  • Manuales (runbooks) y planes de juego (playbooks) para incidentes relacionados con agentes y contención

Red-Teaming de Sistemas Agénticos

  • Planificación de ejercicios de red-teaming: alcance, reglas de compromiso y conmutación por error segura
  • Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del pensamiento en cadena (chain-of-thought) y abuso de API
  • Ejecución de ataques controlados y medición de exposición e impacto

endurecimiento (Hardening) y Mitigaciones

  • Controles de ingeniería: limitación de respuestas, gatekeeping de capacidades y sandboxing
  • Controles de políticas y orquestación: flujos de aprobación, intervención humana y ganchos de gobernanza
  • Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida

Operacionalización de Implementaciones Seguras de Agentes

  • Patrones de implementación: entorno de pruebas (staging), canary y lanzamiento progresivo para agentes
  • Control de cambios, pipelines de prueba y verificaciones de seguridad previas a la implementación
  • Gobernanza multidisciplinaria: manuales de juego para seguridad, legal, producto y operaciones

Proyecto Final: Ejercicio Red-Team / Blue-Team

  • Ejecutar un ataque simulado de red-team contra un entorno de agente aislado (sandboxed)
  • Defender, detectar y remediar como el equipo blue-team utilizando controles y telemetría
  • Presentar hallazgos, plan de remediación y actualizaciones de políticas

Resumen y Próximos Pasos

Requerimientos

  • Sólida formación en ingeniería de seguridad, administración de sistemas u operaciones en la nube
  • Familiaridad con conceptos de IA/ML y el comportamiento de modelos de lenguaje grandes (LLM)
  • Experiencia con gestión de identidad y acceso (IAM) y diseño seguro de sistemas

Público Objetivo

  • Ingenieros de seguridad y especialistas en red-teaming
  • Operadores de IA e ingenieros de plataforma
  • Oficiales de cumplimiento y gestores de riesgos
  • Líderes de ingeniería responsables de la implementación de agentes
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas