Temario del curso
La IA en la Empresa: Perspectivas Estratégicas y Legales
- Adopción de la IA en las funciones comerciales principales: oportunidades y riesgos
- Responsabilidad ejecutiva en la gobernanza de la IA
- Sistemas de IA de alto riesgo y exposición organizacional
Clasificación de Riesgos de la IA y Panorama Regulatorio Global
- Ley de IA de la UE: niveles de riesgo, requisitos e infracciones
- Orden Ejecutiva de EE. UU. sobre IA y normativas federales/estatales emergentes
- Cumplimiento relacionado con la IA dentro del RGPD, HIPAA y otros marcos
- Visión general de la ISO/IEC 42001, NIST AI RMF y los Principios de IA de la OCDE
Seguridad y Supervisión de Sistemas de IA
- Postura de seguridad de la IA: amenazas, vulnerabilidades y salvaguardas
- Respuesta a incidentes y notificación de brechas en flujos de trabajo impulsados por IA
- Auditoría y trazabilidad de las entradas, decisiones y salidas del modelo
Adquisición Responsable de IA y Riesgos de Proveedores
- Debida diligencia al adquirir herramientas de IA (incluyendo LLM y APIs)
- Elementos clave del contrato: propiedad de los datos, explicabilidad del modelo, SLA
- Evaluación de las afirmaciones del proveedor: mitigación de sesgos, garantías de privacidad, seguridad
Marcos de Gobernanza Interna y Controles Organizacionales
- Creación de políticas de uso de la IA en diferentes departamentos
- Comités de ética, juntas de revisión de riesgos y supervisión interfuncional
- Formación, documentación e integración con el cumplimiento normativo
Evaluación de Casos de Uso y Escenarios de Riesgo
- Evaluación de casos de alto impacto (por ejemplo, selección de RRHH, scoring financiero, chatbots de atención al cliente)
- Herramientas y plantillas para evaluaciones de riesgos de IA
- Escenarios: desalineación, deriva (drift), alucinación, discriminación
Tendencias Emergentes y Consideraciones Futuras
- Anticipar la evolución regulatoria y la convergencia global
- Riesgos específicos de la IA generativa y extensiones de gobernanza
- Escalado responsable de las operaciones de IA en la empresa
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los marcos de riesgos empresariales, legales o tecnológicos
- Experiencia en liderazgo ejecutivo, ciberseguridad o supervisión del cumplimiento
- No se requiere conocimiento técnico previo sobre el desarrollo de IA
Público Objetivo
- Directores de Seguridad de la Información (CISO)
- Asesores legales y oficiales de cumplimiento
- Directores de Tecnología (CTO)
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática