Temario del curso
Día 1
Anatomía de un Agente IA Moderno
Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y acción
Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos
Componentes esenciales: percepción, planificación, memoria, uso de herramientas y acción
Compensaciones (tradeoffs) en el diseño entre sistemas de un solo agente y múltiples agentes
Frameworks para Agentes y el Stack Moderno
LangChain, LlamaIndex, AutoGen, CrewAI y sus respectivas compensaciones
Comparación con frameworks clásicos como JADE y SPADE
Cómo elegir un framework basado en los requisitos de producción
Llamadas a herramientas (tool calling), llamadas a funciones (function calling) y salidas estructuradas
Práctica: creación de la estructura básica de un agente único en Python con llamadas a herramientas
Arquitecturas de Sistemas Multi-Agente
>Diseños centralizados, descentralizados, híbridos y en capas para sistemas multi-agente (MAS)
FIPA ACL, paso de mensajes y equivalentes modernos
>Patrones de coordinación: planificación, negociación y sincronización
>Comportamiento emergente y auto-organización en poblaciones de agentes
Toma de Decisiones y Aprendizaje en Agentes
>Teoría de juegos para interacciones cooperativas y competitivas entre agentes
>Aprendizaje por refuerzo en entornos multi-agente
>Aprendizaje por transferencia e intercambio de conocimientos entre agentes
>Resolución de conflictos y confianza entre agentes coordinados
Día 2
Fundamentos Multimodales para Agentes
>IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video
>Principales modelos multimodales: GPT-4 Vision, Gemini, Claude, Whisper
>Técnicas de fusión para combinar distintas modalidades dentro del ciclo de razonamiento del agente
>Compensaciones en latencia, costo y precisión en pipelines multimodales
Construcción de la Capa de Percepción
>Procesamiento de imágenes para agentes: clasificación, descripción de imágenes (captioning) y detección de objetos
>Reconocimiento de voz con Whisper ASR y transcripción en streaming
>Síntesis de texto a voz e interacción con voz natural
>Conexión de las salidas perceptivas al razonamiento impulsado por LLM y la selección de herramientas
Práctica - Construcción de un Agente Multimodal en Python
>Definición de la tarea del agente, ventana de contexto e inventario de herramientas
>Integración end-to-end de las APIs de GPT-4 Vision y Whisper
>Implementación de gestión de memoria, estado y conversación
>Añadido de llamadas a herramientas que producen efectos secundarios reales de manera segura
Práctica - Orquestación de un Sistema Multi-Agente
>Composición de agentes especializados con AutoGen o CrewAI
>Definición de roles, responsabilidades y protocolos de comunicación entre agentes
>Asignación de recursos y coordinación en un entorno simulado
>Registro del razonamiento del agente, llamadas a herramientas y decisiones para inspección y auditoría
Día 3
Superficie de Amenaza de los Agentes IA en Producción
>Qué hace que la IA agéntica sea única en cuanto a vulnerabilidad comparada con el software tradicional
>Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz
>Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas
>Comparación de prácticas de ciberseguridad para IA frente a la ciberseguridad tradicional
Práctica: Ataques Adversarios
>Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool
>Escenarios de ataques white-box versus black-box
>Ataques de inversión de modelos e inferencia de membresía (membership inference)
>Envenenamiento de datos e inyección de puertas traseras durante el entrenamiento
>Inyección de prompts, jailbreaking y mal uso de herramientas en agentes basados en LLM
Técnicas Defensivas y Endurecimiento del Modelo (Hardening)
>Estrategias de entrenamiento adversario y aumento de datos
>Distilación defensiva y otras técnicas de robustez
>Preprocesamiento de entradas, enmascaramiento de gradientes y regularización
>Privacidad diferencial, inyección de ruido y presupuestos de privacidad
>Aprendizaje federado y agregación segura para entrenamiento distribuido
Práctica con Adversarial Robustness Toolbox
>Simulación de ataques contra el agente multimodal construido en el Día 2
>Medición de la robustez ante perturbaciones y cuantificación de la degradación
>Aplicación iterativa de defensas y reevaluación de las tasas de éxito del ataque
>Pruuebas de estrés en los flujos de llamada a herramientas y vectores de inyección de prompts
Día 4
Marco de Gestión de Riesgos para IA
>NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar
>ISO/IEC 42001 y estándares emergentes específicos para IA
>Mapeo de riesgos de IA a marcos existentes de GRC empresarial
>Requisitos de responsabilidad (accountability), auditabilidad y documentación de la IA
Cumplimiento Regulatorio para Sistemas Agénticos
>Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo
>Implicaciones de GDPR y CCPA para los pipelines de datos de agentes
>Orden Ejecutiva de EE. UU. sobre una IA Segura, Segura y Confiable
>Orientaciones específicas por sector para finanzas, salud y servicios públicos
>Gestión de riesgos de terceros y uso de herramientas de IA de proveedores
Ética, Sesgo y Explicabilidad
>Detección y mitigación de sesgos en la percepción y el razonamiento del agente
>Explicabilidad y transparencia como propiedades relevantes para la seguridad
>Justicia, daños derivados y despliegue responsable
>Diseño de comportamientos de agentes inclusivos y auditables
Despliegue en Producción, Monitoreo y Respuesta a Incidentes
>Patrones de despliegue seguro para sistemas de un solo y múltiples agentes
>Monitoreo continuo de deriva (drift), anomalías y abusos
>Registros, rastros de auditoría y preparación forense para las acciones del agente
>Libretos de respuesta a incidentes de seguridad de IA y recuperación
>Casos de estudio de brechas reales de IA y lecciones aprendidas
Síntesis Final y Capstone
>Revisión del sistema multi-agente multimodal construido a lo largo del curso
>Revisión end-to-end del pipeline: diseño, construcción, seguridad, gobernanza y despliegue
>Autoevaluación del sistema contra las funciones del NIST AI RMF
>Perspectiva futura sobre tendencias emergentes en IA agéntica y seguridad de la IA
Resumen y Próximos Pasos
Requerimientos
Público Objetivo
Ingenieros y arquitectos de IA que desarrollan sistemas agénticos para uso en producción. Profesionales de ciberseguridad, riesgos y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multi-agente en plataformas empresariales.
Reseñas (3)
El instructor es paciente y muy útil. Conoce bien el tema.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curso - Agentic AI for Business Automation: Use Cases & Integration
Traducción Automática
Buena mezcla de conocimiento y práctica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Agentic AI for Enterprise Applications
Traducción Automática
La mezcla de teoría y práctica, así como de perspectivas de alto y bajo nivel
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Autonomous Decision-Making with Agentic AI
Traducción Automática
