Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo que las organizaciones alojen sus propios LLM como Llama, Mistral y Qwen sin enviar prompts ni datos a OpenAI, Anthropic o Google.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA y operadores de plataformas intermedios que desean utilizar Ollama para reemplazar las APIs de LLM en la nube con inferencia de modelos de lenguaje autoalojada y soberana.
Al finalizar esta formación, los participantes podrán:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Extraer, cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Construir Modelfiles personalizados con prompts del sistema y ajuste de parámetros.
- Integrar LLM locales con aplicaciones mediante la API compatible con OpenAI.
- Optimizar el rendimiento de la inferencia para configuraciones solo con CPU y con múltiples GPUs.
Formato del curso
- Clase interactiva y discusión.
- Muchas ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para organizarla.
Temario del curso
Soberanía de IA y despliegue local de LLM
- Riesgos de los LLM en la nube: retención de datos, entrenamiento con entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licencias de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y configuración de hardware
- Instalación de Ollama en Linux con soporte para CUDA y ROCm.
- Fallback solo con CPU y optimización AVX/AVX2.
- Despliegue con Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de modelos
- Extracción de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Niveles de cuantización: compensaciones entre Q4_K_M, Q5_K_M y Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Modelfiles personalizados
- Sintaxis para escribir Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería del prompt del sistema para comportamiento específico por rol.
- Creación y publicación de modelos personalizados en el registro local.
Integración con API
- Endpoint compatible con OpenAI /v1/chat/completions.
- Respuestas en streaming y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y limitación de tasa con proxy inverso.
Optimización del rendimiento
- Tamaño de la ventana de contexto y gestión de caché KV.
- Inferencia por lotes y manejo de solicitudes paralelas.
- Asignación de hilos de CPU y conciencia de NUMA.
- Monitoreo del uso de GPU y presión de memoria.
Seguridad y cumplimiento
- Aislamiento de red para endpoints de servicio de modelos.
- Pipelines de filtrado de entrada y moderación de salida.
- Registro de auditoría de prompts y completados.
- Procedencia del modelo y verificación por hash.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión a alto nivel de modelos de aprendizaje automático y transformadores.
- Familiaridad con APIs REST y JSON.
Audiencia
- Ingenieros de IA y desarrolladores que reemplazan APIs de LLM en la nube.
- Organizaciones con sensibilidad de datos que impiden el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados de la red (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y Evaluación Avanzada de Modelos Ollama
35 HorasLa depuración y evaluación avanzada de modelos Ollama es un curso en profundidad centrado en el diagnóstico, la prueba y la medición del comportamiento de los modelos al ejecutar implementaciones locales o privadas de Ollama.
Esta formación dirigida por instructores (en línea o presencial) está dirigida a ingenieros de IA avanzados, profesionales de ML Ops y especialistas en QA que deseen garantizar la confiabilidad, la fidelidad y la preparación operativa de los modelos basados en Ollama en producción.
Al finalizar esta formación, los participantes serán capaces de:
- Realizar una depuración sistemática de los modelos alojados en Ollama y reproducir los modos de fallo de manera fiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, trazas y métricas) para monitorizar la salud del modelo y su deriva.
- Automatizar pruebas, validaciones y comprobaciones de regresión integradas en pipelines CI/CD.
Formato del curso
- Clase interactiva y debate.
- Laboratorios prácticos y ejercicios de depuración con implementaciones de Ollama.
- Estudios de caso, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para coordinarlo.
Construcción de Flujos de Trabajo de IA Privada con Ollama
14 HorasEsta capacitación en vivo impartida por un instructor en Chile (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Desplegar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA in situ (on-premise).
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Despliegue y optimización de modelos de lenguaje grande (LLM) con Ollama
14 HorasEsta formación en vivo con instructor en Chile (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean desplegar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Configurar y desplegar LLMs usando Ollama.
- Optimizar modelos de IA para mejorar el rendimiento y la eficiencia.
- Aprovechar la aceleración con GPU para obtener velocidades de inferencia más rápidas.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el desempeño de los modelos de IA a lo largo del tiempo.
EXO: Despliegue de un clúster de IA local de extremo a extremo
21 HorasEsta formación en vivo y dirigida por instructores en Chile (en línea o presencial) está orientada a administradores de sistemas e ingenieros de DevOps que deseen desplegar, configurar y administrar clústeres EXO para inferencia privada de LLMs a través de múltiples nodos con Apple Silicon o Linux.
EXO para DevOps: Construcción de Infraestructura de IA Privada
21 HorasEsta capacitación en vivo con instructores en Chile (en línea o presencial) está dirigida a ingenieros de DevOps y arquitectos de infraestructura que deseen automatizar el aprovisionamiento, monitoreo y gestión del ciclo de vida de clústeres de IA privados construidos sobre EXO.
Seguridad y Gobernanza de EXO: Gestión de Modelos Offline
14 HorasEsta formación presencial impartida por un instructor en Chile (online o in situ) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer las implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en instalaciones propias.
Afinación y personalización de modelos de IA en Ollama
14 HorasEsta capacitación en vivo impartida por un instructor en Chile (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean afinar y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicaciones específicas del dominio.
Al finalizar esta capacitación, los participantes podrán:
- Configurar un entorno eficiente para la afinación de modelos de IA en Ollama.
- Preparar conjuntos de datos para la afinación supervisada y el aprendizaje por refuerzo.
- Optimizar los modelos de IA en términos de rendimiento, precisión y eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
IA Agentica Local Segura: Desarrollo On-Prem con Ollama para Industrias Reguladas
21 HorasEste entrenamiento en vivo dirigido por instructores en Chile (en línea o presencial) está dirigido a desarrolladores y equipos técnicos que desean usar Ollama y modelos de código abierto para construir y ejecutar soluciones de IA agente privadas en infraestructura interna.
Al finalizar este entrenamiento, los participantes serán capaces de: instalar y configurar Ollama, evaluar y ejecutar modelos locales, crear flujos de trabajo agente y basados en recuperación simples, y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar a medida modelos de lenguaje grandes y multimodales de forma local.
Esta formación impartida por un instructor en vivo (en línea o presencial) está dirigida a ingenieros de ML de nivel avanzado, investigadores de IA y desarrolladores de productos que deseen construir y desplegar aplicaciones multimodales con Ollama.
Al finalizar esta formación, los participantes podrán:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones reales.
- Construir sistemas de comprensión de documentos y preguntas visuales (VQA).
- Desarrollar agentes multimodales capaces de razonar entre diferentes modalidades.
Formato del curso
- Conferencias interactivas y discusión.
- Práctica manual con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de flujos de trabajo multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para organizarla.
Inicio con Ollama: Ejecución de Modelos de IA Locales
7 HorasEsta capacitación en vivo con instructor en Chile (en línea o presencial) está dirigida a profesionales principiantes que desean instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus equipos locales.
Al finalizar esta capacitación, los participantes serán capaces de:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLMs usando Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguros
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande (LLM) y multimodales de forma local, al tiempo que ofrece soporte para estrategias de despliegue seguras.
Esta formación en vivo impartida por un instructor (online o presencial) está dirigida a profesionales de nivel intermedio que deseen desplegar Ollama con fuertes medidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes serán capaces de:
- Desplegar Ollama de forma segura en entornos contenerizados e on-premise (locales).
- Aplicar técnicas de privacidad diferencial para salvaguardar datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos alineado con los requisitos de cumplimiento.
Formato del curso
- Clase magistral interactiva y discusión en grupo.
- Laboratorios prácticos con patrones de despliegue seguros.
- Estudios de caso centrados en el cumplimiento normativo y ejercicios prácticos.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar los detalles.
Aplicaciones de Ollama en el sector financiero
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación práctica, impartida por un instructor (en línea o presencial), está dirigida a profesionales del sector financiero y al personal de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta formación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para un uso seguro en operaciones financieras.
- Integrar LLMs locales en flujos de trabajo analíticos y de generación de informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y sesiones de discusión.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios centrados en el sector financiero.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de forma local.
Esta formación práctica, impartida por un instructor (en línea o presencial), está dirigida a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y poner en producción soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al finalizar esta formación, los participantes serán capaces de:
- Instalar y configurar Ollama para su uso seguro en entornos de salud.
- Integrar modelos de lenguaje grandes (LLM) locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar los modelos para terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en materia de privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Clases interactivas y discusión.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de salud con aislamiento de sandbox.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
Ollama para una IA responsable y gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales localmente, que admite prácticas de gobernanza e IA responsable.
Esta capacitación en vivo con instrucción presencial (en línea o in situ) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y responsabilidad en aplicaciones impulsadas por Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Aplicar principios de IA responsable en despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación y auditablez de la IA.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del curso
- Ponencias interactivas y discusión.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Casos de estudio y ejercicios centrados en el cumplimiento.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.
IA soberana para organizaciones reguladas: Control de datos, modelos y entornos de inferencia
7 HorasEsta formación en vivo impartida por un instructor en Chile (en línea o presencial) está dirigida a líderes de TI de nivel intermedio, profesionales del cumplimiento, equipos de seguridad y arquitectos empresariales que desean utilizar principios e prácticas de gobernanza de IA soberana para diseñar entornos de IA que protejan datos sensibles, cumplan con los requisitos de localización y reduzcan la dependencia de proveedores.
Al finalizar esta formación, los participantes podrán: explicar conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para instrucciones (prompts) y registros, y crear una hoja de ruta práctica de adopción.
