Contacta con nosotros

Temario del curso

Introducción a Ollama para el despliegue de LLMs

  • Vista general de las capacidades de Ollama
  • Ventajas del despliegue local de modelos de IA
  • Comparación con soluciones de alojamiento de IA basadas en la nube

Configuración del entorno de despliegue

  • Instalación de Ollama y las dependencias requeridas
  • Configuración de hardware y aceleración con GPU
  • Contenedorización de Ollama para despliegues escalables

Despliegue de LLMs con Ollama

  • Carga y gestión de modelos de IA
  • Despliegue de Llama 3, DeepSeek, Mistral y otros modelos
  • Creación de APIs y puntos de acceso para el acceso a los modelos de IA

Optimización del rendimiento de LLMs

  • Afinado (fine-tuning) de modelos para mayor eficiencia
  • Reducción de latencia y mejora de los tiempos de respuesta
  • Gestión de la memoria y la asignación de recursos

Integración de Ollama en flujos de trabajo de IA

  • Conexión de Ollama a aplicaciones y servicios
  • Automatización de procesos impulsados por IA
  • Uso de Ollama en entornos de computación en el borde (edge computing)

Monitoreo y mantenimiento

  • Seguimiento del rendimiento y depuración de problemas
  • Actualización y gestión de modelos de IA
  • Aseguramiento de la seguridad y el cumplimiento normativo en los despliegues de IA

Escalar los despliegues de modelos de IA

  • Mejores prácticas para manejar cargas de trabajo elevadas
  • Escalar Ollama para casos de uso empresariales
  • Avances futuros en el despliegue local de modelos de IA

Resumen y próximos pasos

Requerimientos

  • Experiencia básica con aprendizaje automático y modelos de IA
  • Familiaridad con interfaces de línea de comandos y scripting
  • Comprensión de entornos de despliegue (local, edge, nube)

Público objetivo

  • Ingenieros de IA que optimizan despliegues de IA locales y basados en la nube
  • Profesionales de ML que despliegan y afinan LLMs
  • Especialistas en DevOps que gestionan la integración de modelos de IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas