Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Programa del Curso
Resumen de la Arquitectura y Superficie de Ataque de LLM
- Cómo se construyen, implementan y acceden a los LLM mediante APIs
- Componentes clave en las pilas de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, APIs)
- Dónde y cómo surgen problemas de seguridad en el uso real
Inyección de Prompts y Ataques de Escape
- Qué es la inyección de prompts y por qué es peligrosa
- Casos directos e indirectos de inyección de prompts
- Técnicas de escape para eludir filtros de seguridad
- Estrategias de detección y mitigación
Fugas de Datos y Riesgos de Privacidad
- Exposición accidental de datos a través de respuestas
- Fugas de PII y mal uso de la memoria del modelo
- Diseño de prompts conscientes de la privacidad y generación aumentada con recuperación (RAG)
Filtrado y Protección de Salida de LLM
- Uso de Guardrails AI para el filtrado y validación del contenido
- Definición de esquemas de salida y restricciones
- Monitoreo y registro de salidas inseguras
Enfoques con Supervisión Humana en Bucle y Flujos de Trabajo
- Dónde y cuándo introducir la supervisión humana
- Colas de aprobación, umbrales de puntuación, manejo de respaldos
- Calibración de confianza y rol de la explicabilidad
Aplicación Segura LLM Design Patterns
- Mínimos privilegios y aislamiento para llamadas API y agentes
- Límites de velocidad, limitación y detección de abuso
- Cadenas robustas con LangChain y aislamiento de prompts
Compliance, Registro e Governance
- Asegurar la auditoría de las salidas de LLM
- Mantener trazabilidad y control de versión del prompt
- Alinear con políticas internas de seguridad y necesidades regulatorias
Resumen y Próximos Pasos
Requerimientos
- Una comprensión de los modelos de lenguaje grandes y las interfaces basadas en prompts
- Experiencia en la construcción de aplicaciones LLM utilizando Python
- Familiaridad con integraciones API y despliegues basados en la nube
Público objetivo
- Desarrolladores de IA
- Arquitectos de aplicaciones y soluciones
- Gestores técnicos de productos que trabajan con herramientas LLM
14 Horas