Seguridad en Sistemas de IA: Arquitectura e Infraestructura

Este curso está diseñado para aprender a diseñar, desplegar y operar sistemas de Inteligencia Artificial de forma segura, incluso si partes desde cero. El enfoque no se limita al modelo de IA, sino que cubre todo el sistema como un conjunto interconectado: datos, modelos, código, despliegue, infraestructura, operación y gobierno.

A lo largo del curso entenderás las diferencias clave entre Machine Learning (aprendizaje automático) y sistemas basados en Large Language Models (modelos de lenguaje de gran tamaño), y por qué esas diferencias cambian por completo el perfil de riesgo. Analizaremos arquitecturas modernas con prompts, RAG (generación aumentada por recuperación), agentes y herramientas externas, identificando qué puede salir mal y cómo prevenirlo desde el diseño.

Aprenderás a reconocer fallos comunes como inyección de instrucciones, fugas de información por contexto, envenenamiento de datos y embeddings, abuso de herramientas, exposición de modelos, problemas de cadena de suministro, errores de configuración en la nube y pérdida de control operativo. Cada riesgo se traduce en decisiones prácticas de arquitectura, controles técnicos y medidas operativas aplicables en entornos reales.

El curso utiliza marcos de referencia reconocidos —como OWASP para sistemas con LLM, NIST AI RMF, Google SAIF, MITRE ATLAS y NIST SSDF— no para memorizar listas, sino para guiar decisiones claras y accionables. Incluye threat modeling, pruebas de seguridad, observabilidad, respuesta a incidentes y un caso final integrador con RAG, panel interno y API pública.

Al finalizar, tendrás criterio para priorizar riesgos, comunicar decisiones y construir sistemas de IA seguros de extremo a extremo.