Construcción de aplicaciones de LLM seguras y responsables

Descripción general de la arquitectura de LLM y superficie de ataque

• Cómo se construyen, implementan y acceden a los LLM a través de API.
• Componentes clave en las pilas de aplicaciones de LLM (por ejemplo, indicaciones, agentes, memoria, API).
• Dónde y cómo surgen los problemas de seguridad en el uso del mundo real.

Inyección de indicaciones y ataques de jailbreak

• Qué es la inyección de indicaciones y por qué es peligrosa.
• Escenarios de inyección directa e indirecta de indicaciones.
• Técnicas de jailbreak para eludir los filtros de seguridad.
• Estrategias de detección y mitigación.

Filtración de datos y riesgos de privacidad

• Exposición accidental de datos a través de respuestas.
• Filtraciones de información personal identificable (PII) y mal uso de la memoria del modelo.
• Diseño de indicaciones conscientes de la privacidad y generación aumentada por recuperación (RAG).

Filtrado y protección de la salida de LLM

• Uso de Guardrails AI para el filtrado de contenido y validación.
• Definición de esquemas y restricciones de salida.
• Monitoreo y registro de salidas inseguras.

Enfoques de ciclo humano y flujo de trabajo

• Dónde y cuándo introducir la supervisión humana.
• Colas de aprobación, umbrales de puntuación, manejo de casos fallback.
• Calibración de confianza y el papel de la explicabilidad.

Patrones de diseño seguro para aplicaciones de LLM

• Privilegio mínimo y aislamiento de entornos (sandboxing) para llamadas de API y agentes.
• Limitación de velocidad, throttleo y detección de abuso.
• Cadenas robustas con LangChain y aislamiento de indicaciones.

Cumplimiento, registro y gobernanza

• Asegurar la auditoría de las salidas de LLM.
• Mantener la trazabilidad y el control de versiones de indicaciones.
• Alinear con políticas de seguridad interna y necesidades regulatorias.

Resumen y próximos pasos