Temario del curso
Fundamentos de la gobernanza de seguridad de IA
- Principios básicos de la gobernanza de IA.
- Marcos de seguridad empresarial para IA.
- Roles y responsabilidades de las partes interesadas.
Metodologías de evaluación de riesgos en IA
- Identificación y categorización de riesgos de seguridad de la IA.
- Modelado de amenazas para sistemas habilitados con IA.
- Evaluación del impacto y priorización.
Diseño seguro de sistemas de IA
- Diseño enfocado en confidencialidad, integridad y disponibilidad.
- Implementación de controles de seguridad en las canalizaciones (pipelines) de IA.
- Consideraciones sobre la gestión del ciclo de vida del modelo.
Protección de datos y privacidad en IA
- Gobernanza de datos para el aprendizaje automático.
- Gestión de datos sensibles y regulados.
- Tecnologías que mejoran la privacidad.
Vigilancia y seguridad de las operaciones de IA
- Evaluación continua del comportamiento de la IA.
- Detección de deriva, anomalías y usos indebidos.
- Inteligencia operativa de amenazas para sistemas de IA.
Alineación con requisitos normativos y de cumplimiento
- Estándares globales que afectan la seguridad de la IA.
- Documentación y preparación para auditorías.
- Alineación de la gobernanza con las obligaciones legales.
Gestión de incidentes en sistemas de IA
- Vectorizaciones de ataque e indicadores específicos para IA.
- Flujos de trabajo de respuesta para modelos comprometidos.
- Revisión posterior al incidente y corrección.
Gestión estratégica de la seguridad de IA
- Construcción de capacidades de seguridad de IA a largo plazo.
- Integración del riesgo de IA en la estrategia empresarial.
- Evaluaciones de madurez y mejora continua.
Resumen y próximos pasos
Requerimientos
- Comprensión de los principios de riesgo de ciberseguridad.
- Experiencia con sistemas de IA o basados en datos.
- Familiaridad con la gobernanza de seguridad empresarial.
Público objetivo
- Directores de seguridad que supervisan iniciativas de IA.
- Profesionales de gobernanza y gestión de riesgos.
- Líderes técnicos responsables de la adopción segura de IA.
Testimonios (3)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
La forma de recibir la información del formador
Mohamed Romdhani - Shams Power
Curso - CISM - Certified Information Security Manager
Traducción Automática