Ciberseguridad en Sistemas de IA

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Este entrenamiento en vivo impartido por un instructor (en línea o presencial) está dirigido a profesionales de nivel avanzado que desean implementar controles de seguridad efectivos y prácticas de gobernanza para entornos corporativos de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas en la industria.
• Implementar modelos de gobernanza para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la rendición de cuentas dentro de las operaciones impulsadas por IA.

Formato del curso

• Lecciones facilitadas respaldadas por análisis expertos.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados que utilizan escenarios reales de gobernanza de IA.

Opciones de personalización del curso

• Para capacitación personalizada alineada con la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta formación en vivo con instructor en Chile (en línea o presencial) está dirigida a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar los sistemas de IA de manera responsable y conforme a marcos globales emergentes como el Reglamento de IA de la UE, el RGPD, la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y regulatorios del uso de IA en diferentes departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de IA (Reglamento de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros y desarrollados internamente.

La inteligencia artificial (IA) introduce nuevas dimensiones de riesgos operativos, desafíos de gobernanza y exposición a la ciberseguridad para las agencias y departamentos gubernamentales.

Esta formación en vivo con instructores (en línea o presencial) está dirigida a profesionales del sector tecnológico y de riesgos del sector público con limitada experiencia previa en IA que deseen comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta formación, los participantes podrán:

• Interpretar conceptos clave de riesgos relacionados con sistemas de IA, incluido el sesgo, la imprevisibilidad y la deriva de modelos.
• Aplicar marcos de gobernanza y auditoría específicos de la IA, como NIST AI RMF e ISO/IEC 42001.
• Identificar amenazas cibernéticas dirigidas a modelos de IA y tuberías de datos (data pipelines).
• Establecer planes de gestión de riesgos interdepartamentales y alineación de políticas para el despliegue de IA.

Formato del Curso

• Conferencia interactiva y discusión de casos de uso del sector público.
• Ejercicios de marco de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.

Este curso proporciona una introducción práctica a la seguridad de aplicaciones modernas impulsadas por IA, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo difiere la seguridad de IA de la seguridad web tradicional, exploran amenazas comunes específicas de la IA como la inyección de indicaciones, el envenenamiento de RAG y el abuso de agentes, y entienden cómo proteger los sistemas de IA utilizando defensas en capas que incluyen WAFs, gateways de IA, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de IA, asegurar aplicaciones basadas en LLM y implementar defensas efectivas en runtime para entornos de producción.

Esta formación en vivo impartida por un instructor en Chile (en línea o presencial) está dirigida a profesionales de TI de nivel principiante e intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta capacitación, los participantes serán capaces de:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
• Identificar y mitigar los riesgos asociados con los sistemas de IA.
• Implementar las mejores prácticas de seguridad para IA.
• Comprender el cumplimiento normativo y las consideraciones éticas en IA.
• Desarrollar estrategias para una gobernanza y gestión efectivas de la IA.

Esta formación en vivo dirigida por un instructor en Chile (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de indicaciones, la filtración de datos y las salidas sin filtrar, mientras incorporan controles de seguridad como la validación de entrada, la supervisión humana en el ciclo y las barreras de salida.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender las vulnerabilidades centrales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones de LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento de entornos (sandboxing), pruebas de penetración (red teaming) y revisión humana en el ciclo dentro de pipelines de nivel de producción.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones potenciadas por IA de manera segura por diseño. Los participantes aprenden a proteger chatsbots, copilotos, pipelines RAG y agentes de IA contra amenazas específicas de la IA como inyección de prompts, envenenamiento de datos, abuso de herramientas, fuga de secretos e inseguridad en la salida del modelo. El curso cubre el diseño seguro de prompts, seguridad RAG, acceso de menor privilegio, barreras de contención (guardrails) y pruebas de equipo rojo (red-teaming), ayudando a los desarrolladores a crear funciones de IA que sean seguras, confiables y resistentes en entornos del mundo real.

Esta formación presencial impartida por un instructor en Chile (online o in situ) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer las implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en instalaciones propias.

Esta formación en vivo con instructores en Chile (en línea o presencial) está dirigida a profesionales principiantes de TI en seguridad, riesgos y cumplimiento que deseen comprender los conceptos fundamentales de la seguridad en IA, los vectores de amenaza y los marcos globales como el NIST AI RMF e ISO/IEC 42001.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los riesgos de seguridad únicos introducidos por los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de IA de NIST (NIST AI RMF).
• Alinear el uso de la IA con normas emergentes, pautas de cumplimiento y principios éticos.

Esta formación en vivo con instructores en Chile (en línea o presencial) está dirigida a ingenieros de seguridad y de ML que necesitan identificar, probar y defenderse contra ataques a modelos de ML y aplicaciones potenciadas por LLM.

Basado en las últimas directrices del Proyecto de Seguridad de OWASP para IA Generativa, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo, impartida por un instructor en Chile (en línea o presencial), está dirigida a profesionales de nivel avanzado que desean implementar y evaluar técnicas como aprendizaje federado, computación segura multipartita, cifrado homomórfico y privacidad diferencial en pipelines de aprendizaje automático del mundo real.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender y comparar las principales técnicas de preservación de la privacidad en el ML.
• Implementar sistemas de aprendizaje federado utilizando frameworks de código abierto.
• Aplicar la privacidad diferencial para compartir datos y entrenar modelos de forma segura.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas del modelo.

Esta capacitación en vivo con instrucción directa en Chile (en línea o presencial) está dirigida a profesionales de la seguridad avanzados y especialistas en ML que deseen simular ataques contra sistemas IA, descubrir vulnerabilidades y mejorar la robustez de los modelos IA desplegados.

Al finalizar esta capacitación, los participantes podrán:

• Simular amenazas del mundo real a modelos de aprendizaje automático.
• Generar ejemplos adversarios para probar la robustez del modelo.
• Evaluar la superficie de ataque de las APIs y los pipelines de IA.
• Diseñar estrategias de red teaming para entornos de despliegue de IA.

Esta capacitación en vivo impartida por un instructor en Chile (en línea o presencial) está dirigida a ingenieros y profesionales de seguridad de nivel intermedio que desean proteger los modelos de IA implementados en el borde contra amenazas como manipulación, filtración de datos, entradas adversarias y ataques físicos.

Al finalizar esta capacitación, los participantes serán capaces de:

• Identificar y evaluar riesgos de seguridad en implementaciones de IA de borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• endurecer modelos desplegados en el borde y asegurar los canales de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y con restricciones.

Esta formación en vivo impartida por un instructor en <ubic> (en línea o presencial) está dirigida a profesionales de nivel intermedio en aprendizaje automático y ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes podrán:

• Identificar y clasificar amenazas específicas de IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como la Adversarial Robustness Toolbox (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas, incluido el entrenamiento adversario, la inyección de ruido y técnicas que preservan la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.