Temario del curso
Fundamentos de la gobernanza de seguridad de IA
- Principios básicos de gobernanza de IA
- Marco de seguridad empresarial para IA
- Roles y responsabilidades de las partes interesadas
Metodologías de evaluación de riesgos en IA
- Identificación y clasificación de riesgos de seguridad en IA
- Modelado de amenazas para sistemas habilitados con IA
- Evaluación del impacto y priorización de riesgos
Diseño seguro de sistemas de IA
- Diseño enfocado en confidencialidad, integridad y disponibilidad
- Implementación de controles de seguridad en flujos de trabajo de IA
- Consideraciones sobre la gestión del ciclo de vida de modelos
Protección y privacidad de datos en IA
- Gobernanza de datos para aprendizaje automático
- Gestión de datos sensibles y regulados
- Tecnologías que mejoran la privacidad
Monitoreo y seguridad de las operaciones de IA
- Evaluación continua del comportamiento de la IA
- Detección de deriva, anomalías y uso indebido
- Inteligencia operativa sobre amenazas para sistemas de IA
Alineamiento regulatorio y cumplimiento
- Normativas globales que impactan la seguridad en IA
- Documentación y preparación ante auditorías
- Alineación de gobernanza con obligaciones legales
Respuesta a incidentes en sistemas de IA
- Vectores de ataque e indicadores específicos de la IA
- Flujos de trabajo de respuesta para modelos comprometidos
- Revisión posterior al incidente y remediación
Gestión estratégica de la seguridad de IA
- Desarrollo de capacidades a largo plazo en seguridad de IA
- Integración del riesgo de IA en la estrategia empresarial
- Evaluaciones de madurez y mejora continua
Resumen y próximos pasos
Requerimientos
- Comprensión de los principios de riesgo en ciberseguridad
- Experiencia con sistemas de IA o basados en datos
- Conocimiento de la gobernanza de seguridad empresarial
Audiencia objetivo
- Gestores de seguridad que supervisan iniciativas de IA
- Profesionales de gobernanza y gestión de riesgos
- Líderes técnicos responsables de la adopción segura de IA
Testimonios (3)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
La forma de recibir la información del formador
Mohamed Romdhani - Shams Power
Curso - CISM - Certified Information Security Manager
Traducción Automática