Contacta con nosotros

Temario del curso

Conceptos y Métricas de Rendimiento

  • Latencia, throughput, consumo de energía, utilización de recursos
  • Cuellos de botella a nivel de sistema vs. modelo
  • Perfilado para inferencia frente a entrenamiento

Perfilado en Huawei Ascend

  • Uso de CANN Profiler y MindInsight
  • Diagnóstico de kernels y operadores
  • Patrones de descargo (offload) y asignación de memoria

Perfilado en GPU Biren

  • Funciones de monitoreo de rendimiento del SDK de Biren
  • Fusión de kernels, alineación de memoria y colas de ejecución
  • Perfilado consciente del consumo energético y temperatura

Perfilado en Cambricon MLU

  • Herramientas de rendimiento BANGPy y Neuware
  • Visibilidad a nivel de kernel e interpretación de registros (logs)
  • Integración del perfilador MLU con marcos de despliegue

Optimización a Nivel de Grafo y Modelo

  • Estrategias de poda de grafos y cuantización
  • Fusión de operadores y reestructuración del grafo computacional
  • Estandarización del tamaño de entrada y ajuste del batch

Optimización de Memoria y Kernel

  • Optimización del diseño de memoria y reutilización
  • Gestión eficiente de buffers entre diferentes chipsets
  • Técnicas de ajuste a nivel de kernel por plataforma

Mejores Prácticas Multi-Plataforma

  • Portabilidad del rendimiento: estrategias de abstracción
  • Construcción de flujos de trabajo compartidos de ajuste para entornos multi-chip
  • Ejemplo: ajuste de un modelo de detección de objetos entre Ascend, Biren y MLU

Resumen y Próximos Pasos

Requerimientos

  • Experiencia trabajando con flujos de trabajo de entrenamiento o despliegue de modelos de IA
  • Comprensión de los principios de cómputo GPU/MLU y optimización de modelos
  • Familiaridad básica con herramientas y métricas de perfilado de rendimiento

Público Objetivo

  • Ingenieros de rendimiento
  • Equipos de infraestructura de aprendizaje automático
  • Arquitectos de sistemas de IA
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas