Ajuste fino de modelos de lenguaje grandes (LLM) de código abierto (LLaMA, Mistral, Qwen, etc.)

Introducción a los LLM de código abierto

• ¿Qué son los modelos de pesos abiertos y por qué son importantes?
• Resumen de LLaMA, Mistral, Qwen y otros modelos comunitarios.
• Casos de uso para implementaciones privadas, locales o seguras.

Configuración del entorno y herramientas

• Instalación y configuración de las bibliotecas Transformers, Datasets y PEFT.
• Selección del hardware adecuado para el ajuste fino.
• Carga de modelos preentrenados desde Hugging Face u otros repositorios.

Preparación y preprocesamiento de datos

• Formatos de conjuntos de datos (ajuste por instrucciones, datos de chat, solo texto).
• Tokenización y gestión de secuencias.
• Creación de conjuntos de datos personalizados y cargadores de datos.

Técnicas de ajuste fino

• Ajuste fino completo estándar frente a métodos eficientes en parámetros.
• Aplicación de LoRA y QLoRA para un ajuste fino eficiente.
• Uso de la API Trainer para experimentación rápida.

Evaluación y optimización del modelo

• Evaluar los modelos ajustados mediante métricas de generación y precisión.
• Gestión del sobreajuste, la generalización y los conjuntos de validación.
• Consejos de ajuste de rendimiento y registro (logging).

Implementación y uso privado

• Guardar y cargar modelos para inferencia.
• Implementar los modelos ajustados en entornos empresariales seguros.
• Estrategias de implementación local versus en la nube.

Casos de estudio y usos prácticos

• Ejemplos de uso empresarial de LLaMA, Mistral y Qwen.
• Gestión del ajuste fino multilingüe y específico de dominio.
• Discusión: compromisos entre modelos abiertos y cerrados.

Resumen y próximos pasos