Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de Amenaza para IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalación, filtración de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades de ataque específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes.
Gobernanza, Política y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y puertas de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalación, manejo de datos y auditabilidad.
- Consideraciones de cumplimiento y recopilación de evidencias para auditorías.
Identidad No Humana y Autenticación para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de vida corta.
- Patrones de acceso de mínimo privilegio y provisión de credenciales bajo demanda (just-in-time).
- Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación.
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso de granularidad fina y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensible y datos personales (PII) contra el acceso no autorizado por agentes.
Observabilidad, Auditoría y Respuesta a Incidentes
- Diseño de telemetría para el comportamiento del agente: seguimiento de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alerta y preparación forense.
- Libros de ejecución (runbooks) y protocolos para incidentes relacionados con agentes y su contención.
Pruebas de Intrucción en Sistemas Agénticos
- Planificación de ejercicios de red-team: alcance, reglas de compromiso y conmutación por error segura.
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del razonamiento paso a paso y abuso de API.
- Realización de ataques controlados y medición de exposición e impacto.
endurecimiento (Hardening) y Mitigaciones
- Controles de ingeniería: limitación de respuestas, barreras de capacidades y aislamiento en sandbox.
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y ganchos de gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonicización y filtros de salida.
Puesta en Producción de Despliegues Seguros de Agentes
- Patrones de despliegue: etapas (staging), canarios y lanzamiento progresivo para agentes.
- Control de cambios, pipelines de pruebas y verificaciones de seguridad previas al despliegue.
- Gobernanza multidisciplinaria: protocolos de seguridad, legal, producto y operaciones.
Proyecto Final: Ejercicio de Equipo Rojo / Equipo Azul
- Ejecutar un ataque simulado de red-team contra un entorno de agente aislado.
- Defender, detectar y remediación como el equipo azul utilizando controles y telemetría.
- Presentar hallazgos, plan de remediación y actualizaciones de políticas.
Resumen y Próximos Pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM).
- Experiencia en gestión de identidad y acceso (IAM) y diseño de sistemas seguros.
Público Objetivo
- Ingenieros de seguridad y miembros de equipos de pruebas de intrucción (red-teamers).
- Ingenieros de operaciones de IA y de plataformas.
- Oficiales de cumplimiento y gestores de riesgos.
- Líderes de ingeniería responsables de los despliegues de agentes.
21 Horas
