Contacta con nosotros

Temario del curso

Introducción al Ajuste Fino Eficiente en Parámetros (PEFT)

  • Motivación y limitaciones del ajuste fino completo
  • Visión general de PEFT: objetivos y beneficios
  • Aplicaciones y casos de uso en la industria

LoRA (Ajuste de Baja Rango)

  • Concepto e intuición detrás de LoRA
  • Implementación de LoRA usando Hugging Face y PyTorch
  • Práctica: Ajuste fino de un modelo con LoRA

Adapter Tuning

  • Cómo funcionan los módulos adaptador
  • Integración con modelos basados en transformadores
  • Práctica: Aplicar Adapter Tuning a un modelo transformer

Prefix Tuning

  • Uso de prompts suaves para el ajuste fino
  • Ventajas y limitaciones comparadas con LoRA y adaptadores
  • Práctica: Prefix Tuning en una tarea LLM

Evaluación y Comparación de Métodos PEFT

  • Métricas para evaluar rendimiento y eficiencia
  • Compensaciones en velocidad de entrenamiento, uso de memoria y precisión
  • Experimentos de benchmarking e interpretación de resultados

Despliegue de Modelos Ajustados Finamente

  • Guardar y cargar modelos ajustados finamente
  • Consideraciones de despliegue para modelos basados en PEFT
  • Integración en aplicaciones y pipelines

Mejores Prácticas y Extensiones

  • Combinar PEFT con cuantización y destilación
  • Uso en entornos de bajo recurso y multilingües
  • Direcciones futuras y áreas de investigación activa

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático
  • Experiencia trabajando con modelos de lenguaje grandes (LLMs)
  • Familiaridad con Python y PyTorch

Público Objetivo

  • Científicos de datos
  • Ingenieros de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas