Pruebas de penetración en sistemas de IA: Seguridad ofensiva para modelos de aprendizaje automático

El AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta capacitación en vivo impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobernanza para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobernanza para el despliegue responsable de IA.
• Alinear las políticas de seguridad de IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la rendición de cuentas en las operaciones impulsadas por IA.

Formato del curso

• Clases magistrales facilitadas con apoyo de análisis experto.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados que utilizan escenarios reales de gobernanza de IA.

Opciones de personalización del curso

• Para una formación adaptada a la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a directivos empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar los sistemas de IA de manera responsable y conforme a los marcos globales emergentes como la Ley de IA de la UE, el RGPD, la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y regulatorios del uso de la IA en diferentes departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de la IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros y propios.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a la ciberseguridad para las agencias y departamentos gubernamentales.

Esta capacitación en vivo con instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con limitada experiencia previa en IA, que desean comprender cómo evaluar, monitorear y asegurar sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta capacitación, los participantes podrán:

• Interpretar conceptos clave de riesgo relacionados con sistemas de IA, incluyendo sesgo, impredecibilidad y deriva del modelo.
• Aplicar marcos de gobernanza y auditoría específicos para IA, como NIST AI RMF e ISO/IEC 42001.
• Reconocer amenazas de ciberseguridad dirigidas a modelos y tuberías de datos de IA.
• Establecer planes de gestión de riesgo interdepartamentales y alineación de políticas para el despliegue de IA.

Formato del Curso

• Conferencia interactiva y discusión de casos de uso del sector público.
• Ejercicios de marco de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar.

Este curso ofrece una introducción práctica para asegurar aplicaciones modernas impulsadas por IA, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo la seguridad de la IA difiere de la seguridad web tradicional, exploran amenazas comunes específicas de la IA como la inyección de instrucciones, el envenenamiento de RAG y el abuso de agentes, y entienden cómo proteger los sistemas de IA utilizando defensas en capas que incluyen WAFs, AI gateways, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de la IA, asegurar aplicaciones basadas en LLM e implementar defensas efectivas en runtime para entornos de producción.

Esta formación en vivo con instructores en Peru (en línea o presencial) está dirigida a profesionales de TI de nivel principiante e intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta capacitación, los participantes serán capaces de:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
• Identificar y mitigar los riesgos asociados con los sistemas de IA.
• Implementar las mejores prácticas de seguridad para la IA.
• Entender el cumplimiento normativo y las consideraciones éticas para la IA.
• Desarrollar estrategias para una gobernanza y gestión efectivas de la IA.

Esta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones potenciadas por LLM, como la inyección de mensajes (prompt injection), la filtración de datos y las respuestas sin filtrar, al tiempo que incorporan controles de seguridad como validación de entradas, supervisión humana en el proceso y barreras de seguridad en las salidas.

Al finalizar esta formación, los participantes podrán:

• Comprender las vulnerabilidades fundamentales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento (sandboxing), pruebas de penetración interna (red teaming) y revisión humana en procesos de producción.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones con IA seguras por diseño. Los participantes aprenden a proteger chatbots, copilots, pipelines de RAG y agentes de IA contra amenazas específicas de la IA, como inyección de prompts, envenenamiento de datos, abuso de herramientas, fugas de secretos y salida del modelo insegura. El curso cubre el diseño seguro de prompts, seguridad de RAG, acceso de mínimo privilegio, guardrails y pruebas de red-team, ayudando a los desarrolladores a crear funcionalidades de IA que sean seguras, confiables y resilientes en entornos reales.

Esta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a profesionales intermedios de inteligencia artificial y ciberseguridad que desean comprender y abordar las vulnerabilidades de seguridad específicas de los modelos y sistemas de IA, especialmente en industrias altamente reguladas como las finanzas, la gobernanza de datos y la consultoría.

Al finalizar esta formación, los participantes podrán:

• Comprender los tipos de ataques adversarios dirigidos a sistemas de IA y los métodos para defenderse contra ellos.
• Implementar técnicas de endurecimiento del modelo para asegurar los pipelines de aprendizaje automático.
• Garantizar la seguridad e integridad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento normativo relacionados con la seguridad de la IA.

Esta formación presencial impartida por un instructor en Peru (en línea o en las instalaciones) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que desean endurecer los despliegues de EXO, controlar el acceso a modelos y gobernar las cargas de trabajo de inteligencia artificial que operan completamente in situ.

Esta formación en vivo con instructor en Peru (en línea o presencial) está dirigida a profesionales principiantes de TI especializados en seguridad, riesgo y cumplimiento, que desean comprender los conceptos fundamentales de la seguridad en IA, los vectores de amenaza y los marcos globales como el NIST AI RMF y la norma ISO/IEC 42001.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos de seguridad únicos que introducen los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de IA del NIST (NIST AI RMF).
• Alinear el uso de la IA con estándares emergentes, directrices de cumplimiento y principios éticos.

Esta capacitación en vivo con instrucción en Peru (en línea o presencial) está dirigida a ingenieros de seguridad y ML que necesitan identificar, probar y defenderse contra ataques a modelos de IA y aplicaciones impulsadas por LLM.

Basado en la última guía del Proyecto de Seguridad para IA Generativa de OWASP, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo, impartida por un instructor, en Peru (en línea o presencial), está dirigida a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como el aprendizaje federado, la computación segura multipartita, el cifrado homomórfico y la privacidad diferencial en flujos de trabajo reales de aprendizaje automático.

Al finalizar esta formación, los participantes podrán:

• Comprender y comparar las principales técnicas de preservación de la privacidad en ML.
• Implementar sistemas de aprendizaje federado utilizando marcos de código abierto.
• Aplicar privacidad diferencial para el intercambio seguro de datos y el entrenamiento de modelos.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas del modelo.

Esta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a ingenieros y profesionales de la seguridad de nivel intermedio que deseen proteger los modelos de IA implementados en el borde contra amenazas como la manipulación, la filtración de datos, entradas adversarias y ataques físicos.

Al finalizar esta formación, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en implementaciones de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos desplegados en el borde y asegurar las canalizaciones de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y restringidos.

Esta formación en vivo con instructores en Peru (en línea o presencial) está dirigida a profesionales intermedios de aprendizaje automático y ciberseguridad que deseen comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como Adversarial Robustness Toolbox (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas que incluyen entrenamiento adversario, inyección de ruido y técnicas de preservación de la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.