Contacta con nosotros

Temario del curso

Introducción a la optimización de modelos grandes

  • Visión general de las arquitecturas de modelos grandes
  • Desafíos en el ajuste fino de modelos grandes
  • Importancia de la optimización rentable

Técnicas de entrenamiento distribuido

  • Introducción a la paralelización de datos y modelos
  • Frameworks para entrenamiento distribuido: PyTorch y TensorFlow
  • Escalar entre múltiples GPUs y nodos

Cuantificación y poda de modelos

  • Comprensión de las técnicas de cuantificación
  • Aplicación de la poda para reducir el tamaño del modelo
  • Compensaciones entre precisión y eficiencia

Optimización de hardware

  • Selección del hardware adecuado para tareas de ajuste fino
  • Optimización del uso de GPUs y TPUs
  • Uso de aceleradores especializados para modelos grandes

Gestión eficiente de datos

  • Estrategias para gestionar grandes conjuntos de datos
  • Preprocesamiento y agrupación (batching) para mejorar el rendimiento
  • Técnicas de aumento de datos

Despliegue de modelos optimizados

  • Técnicas para desplegar modelos ajustados
  • Monitoreo y mantenimiento del rendimiento del modelo
  • Ejemplos del mundo real de despliegue de modelos optimizados

Técnicas avanzadas de optimización

  • Exploración de la adaptación de bajo rango (LoRA)
  • Uso de adaptadores para un ajuste fino modular
  • Tendencias futuras en la optimización de modelos

Resumen y próximos pasos

Requerimientos

  • Experiencia con frameworks de aprendizaje profundo como PyTorch o TensorFlow
  • Familiaridad con modelos de lenguaje grandes y sus aplicaciones
  • Comprensión de los conceptos de computación distribuida

Audiencia

  • Ingenieros de machine learning
  • Especialistas en IA en la nube
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas