Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Panorama de amenazas de la IA
- ¿Por qué la seguridad de la IA es diferente?: no determinismo, razonamiento opaco, el prompt como superficie de ataque
- Taxonomía de ataques: en tiempo de entrenamiento vs. en tiempo de inferencia vs. ataques a la cadena de suministro
- Modelo de adversario del ML: quién ataca los sistemas de IA y por qué
OWASP Top 10 para Aplicaciones de LLM
- Inyección de prompts: vectores de ataque directos e indirectos
- Manipulación insegura de salidas y falsificación de solicitudes entre complementos
- Envenenamiento de datos de entrenamiento y vulnerabilidades en la cadena de suministro
- Denegación de servicio del modelo, divulgación de información sensible y exceso de agencia
- Laboratorio práctico: explotación de cada categoría OWASP contra una aplicación de prueba
Evaluación ofensiva de inyección de prompts y jailbreak
- Taxonomía de técnicas de inyección: directa, indirecta, multi-turno y multimodal
- Evaluación ofensiva automatizada con Giskard, Garak y herramientas de fuzzing personalizadas
- Clasificación de jailbreak y evaluación de defensas
- Creación de un entorno de prueba ofensiva para la seguridad continua de LLM
Ataques y defensas a nivel de modelo
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas API
- Inferencia de membresía: determinar si los datos formaban parte del conjunto de entrenamiento
- Ejemplos adversarios: perturbaciones que engañan clasificadores y embeddings
- Envenenamiento de datos: corrupción de datos de entrenamiento para inducir puertas traseras o degradar el rendimiento
Controles de seguridad en la entrada y salida
- Saneamiento de entrada más allá de las defensas web tradicionales
- Filtrado de salidas: toxicidad, filtración de información personal identificable (PII), ejecución de código alucinada
- Guardrails como infraestructura de seguridad: NeMo, Guardrails AI y políticas personalizadas
- Estriccion de salidas estructuradas como límite de seguridad
Seguridad de la cadena de suministro de IA
- Procedencia del modelo: verificación de autenticidad e integridad del modelo
- Análisis de dependencias para marcos de ML y formatos de modelos
- Servicio seguro de modelos: aislamiento de sandbox, aislamiento de red y acceso de mínimo privilegio
- Verificación de modelos ajustados y de la comunidad para malware integrado
Seguridad operacional para sistemas de IA
- Control de acceso a endpoints de modelos, almacenes vectoriales y herramientas de agentes
- Registro de auditoría para cada interacción con el modelo y decisión tomada
- Respuesta a incidentes específicos de IA: cuándo el propio modelo ha sido comprometido
- Pruebas de seguridad continuas en CI/CD para tuberías de ML
Construcción de un programa de seguridad de IA
- Modelo de madurez y hoja de ruta para la seguridad de IA
- Integración de la seguridad de IA en programas existentes de seguridad de aplicaciones (AppSec) y seguridad en la nube
- Marco de gobernanza y normativas emergentes para sistemas de IA
- Creación y mantenimiento del manual organizacional de seguridad de IA
Requerimientos
- Experiencia desplegando modelos de ML o aplicaciones de LLM en producción.
- Familiaridad con conceptos de seguridad, incluidas la autenticación, la autorización y el modelado de amenazas.
- Habilidad en Python para ejercicios de pruebas adversarias.
Público objetivo
- Ingenieros de seguridad que amplían su enfoque a las superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez de los modelos.
- Miembros de equipos de evaluación ofensiva que incorporan sistemas de IA en su ámbito de pruebas.
14 Horas
