Temario del curso
Introducción al Red Teaming en IA
- Comprensión del panorama de amenazas de la IA.
- Roles de los equipos ofensivos (red teams) en la seguridad de la IA.
- Consideraciones éticas y legales.
Aprendizaje automático adversario
- Tipos de ataques: evasión, envenenamiento, extracción e inferencia.
- Generación de ejemplos adversarios (por ejemplo, FGSM, PGD).
- Ataques dirigidos vs. no dirigidos y métricas de éxito.
Prueba de robustez del modelo
- Evaluación de la robustez bajo perturbaciones.
- Exploración de puntos ciegos y modos de fallo del modelo.
- Pruebas de estrés a modelos de clasificación, visión por computadora y PLN (Procesamiento de Lenguaje Natural).
Red Teaming de pipelines de IA
- Superficie de ataque de los pipelines de IA: datos, modelo y despliegue.
- Explotación de APIs y endpoints inseguros de modelos.
- Ingeniería inversa del comportamiento y las salidas del modelo.
Simulación y herramientas
- Uso de la Adversarial Robustness Toolbox (ART).
- Red teaming con herramientas como TextAttack e IBM ART.
- Herramientas de sandboxing, monitoreo y observabilidad.
Estrategia del equipo ofensivo en IA y colaboración en defensa
- Desarrollo de ejercicios y objetivos del red teaming.
- Comunicación de hallazgos a los equipos defensivos (blue teams).
- Integración del red teaming en la gestión de riesgos de la IA.
Resumen y próximos pasos
Requerimientos
- Comprensión de arquitecturas de aprendizaje automático y aprendizaje profundo.
- Experiencia con Python y frameworks de ML (por ejemplo, TensorFlow, PyTorch).
- Familiaridad con conceptos de ciberseguridad o técnicas de seguridad ofensiva.
Público objetivo
- Investigadores de seguridad.
- Equipos de seguridad ofensiva.
- Profesionales de aseguramiento y red teaming de IA.
Reseñas (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
