--- title: "Construir la infraestructura de agentes de IA" description: "Cómo construir una infraestructura de agentes de IA lista para producción: topología (cloud, on-prem, híbrida), stack de inferencia, gateway de IA, observabilidad, costes y seguridad." locale: "es" canonical: "https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia" category: "Agentes de IA" updated: "2026-10-28T13:32:33.342Z" source: "Blck Alpaca e.U., blckalpaca.at" --- # Construir la infraestructura de agentes de IA Cómo construir una infraestructura de agentes de IA lista para producción: topología (cloud, on-prem, híbrida), stack de inferencia, gateway de IA, observabilidad, costes y seguridad. ## Qué es la infraestructura de agentes de IA y por qué decide el éxito o el fracaso La infraestructura de agentes de [IA](https://blckalpaca.at/es/glosario/ia) es el conjunto de componentes técnicos y organizativos sobre los que funcionan los [agentes de IA en producción](https://blckalpaca.at/es/servicios/agentes-ia-empresas): la topología de despliegue (dónde y bajo qué jurisdicción se opera el agente), el stack de inferencia y [orquestación](https://blckalpaca.at/es/glosario/orquestacion), la capa de red e identidad, la monitorización/observabilidad y el control de costes y seguridad. A diferencia de un simple [chatbot](https://blckalpaca.at/es/glosario/chatbot), un [agente](https://blckalpaca.at/es/glosario/agente) es un sistema de varios pasos que usa herramientas y genera tráfico este-oeste entre el orquestador, los servidores de herramientas, la memoria y el vector store, por lo que plantea requisitos muy distintos en red, identidad y observabilidad. Para quienes toman las decisiones en empresas en Europa, la infraestructura es el punto en el que se decide sobre soberanía de datos, latencia y cumplimiento normativo. Antes de nada, una aclaración de conceptos, porque es la confusión más habitual en los proyectos de la región DACH (Alemania, Austria y Suiza): **Data Residency** designa el lugar físico de almacenamiento/procesamiento; **Data Sovereignty**, la jurisdicción legal, incluido su alcance extraterritorial (por ejemplo, el del US CLOUD Act de 2018). Una «región Fráncfort» de un hiperescalador estadounidense aporta residency, no sovereignty. Además, en el lenguaje de las pymes DACH, «on-prem» no suele referirse a la sala de servidores propia, sino a un entorno dedicado en un centro de datos de colocation neutral respecto a operadores en Alemania, Austria o Suiza. ## Cloud, on-prem o híbrido: la cuestión de la topología soberana en la UE La topología rara vez se reduce a una sola opción: la mayoría de los stacks en producción abarcan al menos dos. Cinco factores determinan la elección, aproximadamente en este orden de peso: sensibilidad de los datos/clase regulatoria, SLO de latencia, requisito de soberanía, previsibilidad de costes y conocimiento interno de plataforma disponible. | Topología | Nivel de soberanía | Uso típico en DACH | | --- | --- | --- | | Nube pública (región UE de un hiperescalador) | Residency sí, sovereignty no (el CLOUD Act sigue vigente) | Proyectos greenfield, datos poco sensibles | | Nube soberana (de hiperescaladores + proveedores nativos de DACH) | Resistente al CLOUD Act según el modelo | BFSI, sector público, sectores regulados | | Nube privada (gestionada/autogestionada) | «Como Azure, pero sin la jurisdicción de Azure» | Pymes con un partner de servicios gestionados | | On-prem / colocation | Control total de auditoría | Industria, entorno de defensa, BFSI con exigencias del regulador | | Híbrido | Gravedad de datos controlable por separado | El patrón dominante en DACH | El mercado soberano europeo ha madurado claramente en 2025/2026. Microsoft completó la [EU Data Boundary](https://learn.microsoft.com/de-de/privacy/eudb/eu-data-boundary-learn) el 26 de febrero de 2025 y se comprometió a mantener dentro de ese límite el procesamiento integral de datos de IA para clientes de la UE, salvo que el cliente disponga otra cosa. AWS [lanzó con disponibilidad general](https://aws.amazon.com/blogs/aws/opening-the-aws-european-sovereign-cloud/) su European Sovereign Cloud en enero de 2026, con la primera región en Brandeburgo (anunciada en 2023, inversión de 7,8 mil millones de EUR, operada por sociedades de derecho alemán con un ciudadano de la UE como director general; en el lanzamiento, según el whitepaper de AWS de septiembre de 2025, unos 90 de más de 240 servicios). Junto a ellos existe una categoría propia, nativa de DACH, que suele faltar en la literatura genérica en inglés sobre IA empresarial: **STACKIT** (Schwarz Digits, con centro de datos también en Austria; 11 mil millones de EUR anunciados para ampliar sus centros de datos de IA, con el objetivo de llegar hasta 100.000 GPU), **Open Telekom Cloud / T Cloud Public** (Deutsche Telekom/T-Systems, «Sovereignty by Design», junto con NVIDIA la Munich Industrial AI Cloud con hasta 10.000 GPU Blackwell desde el T1 2026), **IONOS** (AI Model Hub con Teuken-7B y Llama 3.3, primera Legal AI Factory con Noxtua), **Swisscom** (Swiss AI Platform, partner de despliegue del [LLM](https://blckalpaca.at/es/glosario/llm) suizo abierto Apertus) e **Infomaniak** (bajo control totalmente suizo, conforme a la FADP y al [RGPD](https://dsgvo-gesetz.de/)). T-Systems se ha comprometido públicamente a cerrar la brecha de funcionalidades con los hiperescaladores antes de finales de 2026. Es un compromiso de roadmap, no la situación actual. El patrón dominante en DACH sigue siendo el **híbrido**: los documentos sensibles, los [embeddings y el vector store](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/sistemas-rag-en-ia-explicados/como-construir-sistemas-rag-conformes-al-rgpd-guia-practica) se quedan on-prem o en la nube soberana, y solo el paso de generación llama a una [API](https://blckalpaca.at/es/glosario/api) de un hiperescalador, a menudo a través de un proxy con control de egress. Como complemento se están consolidando patrones de confidential computing (modelo en la región UE, el cliente custodia las claves mediante HYOK) y el cloud bursting hacia especialistas en GPU para los picos de carga. ## Orquestación y stack de inferencia El stack de inferencia es la capa más volátil. Una señal clara del sector: Hugging Face pasó TGI a modo de mantenimiento el 11 de diciembre de 2025 y remite los nuevos despliegues a vLLM o SGLang. Para producción autoalojada, **vLLM** (PagedAttention, el soporte de hardware más amplio, endpoints compatibles con [OpenAI](https://blckalpaca.at/es/glosario/openai)) es en 2026 el estándar de facto; **SGLang** destaca en chat multiturno y salida estructurada. **NVIDIA NIM**, microservicios preconfigurados y optimizados, portables entre nube, centro de datos y estaciones de trabajo RTX, se considera la vía on-prem más pragmática para las pymes de la región DACH. Por encima del motor de inferencia, el **gateway de IA** se ha consolidado como componente de arquitectura propio. Se encarga del failover entre varios proveedores, las claves virtuales, los presupuestos por equipo, la observabilidad, los guardrails y el enmascaramiento de PII. Una shortlist práctica: **LiteLLM** (open source, autoalojado, compatible con OpenAI para más de 100 proveedores, ideal cuando importa el control de auditoría), **Portkey** (gestionado y on-prem, fuerte en observabilidad y gobernanza) y **Kong AI Gateway** (si Kong ya es el estándar). En la capa de orquestación, el abanico va desde frameworks como LangGraph, CrewAI y AutoGen hasta stacks de proveedor como Microsoft Foundry Agents o la plataforma soberana Pharia de Aleph Alpha. La [fusión de Aleph Alpha con Cohere](https://siliconangle.com/2026/09/16/cohere-and-aleph-alpha-agree-to-merge-in-reported-20b-deal/) se anunció en abril de 2026 y se firmó en septiembre de 2026 (valoración publicada de unos 20 mil millones de USD). El cierre sigue pendiente de las autorizaciones regulatorias. Desde el punto de vista de la arquitectura, la latencia es clave. Con inferencia coubicada, la latencia de red se queda en milisegundos de un solo dígito. Una llamada transatlántica (de un agente en Fráncfort a una API en la costa este de EE. UU.) añade solo por el trayecto de red unos 90 ms de tiempo de ida y vuelta (RTT), como muestran las [mediciones de ping entre Fráncfort y Washington](https://wondernetwork.com/pings/Frankfurt/Washington). Con cinco rondas de llamadas a herramientas se acumulan así unos 450 ms de tiempo de red puro, antes siquiera de sumar el tiempo de cálculo de las llamadas al modelo. Eso complica mucho una UX de agente por debajo del segundo con llamadas a API transatlánticas. ## Monitorización y observabilidad Sin observabilidad, las cargas de trabajo agénticas no se pueden gestionar en producción. Hacen falta estándares de trazas (OpenTelemetry para LLM, OpenInference), atribución de costes con precisión de [token](https://blckalpaca.at/es/glosario/token) y eval harnesses. Hay backends disponibles que cumplen la residencia de datos en DACH: [Langfuse autoalojado en la UE](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/seguridad-de-agentes-de-ia-owasp/monitorizacion-de-agentes-de-ia-con-langsmith-y-langfuse-observabilidad-para-age), Datadog EU o Honeycomb EU. Para una primera prueba con Docker Compose, [Langfuse recomienda](https://langfuse.com/self-hosting/deployment/docker-compose) una única VM con al menos 4 núcleos y 16 GiB de memoria RAM; esta configuración no incluye alta disponibilidad ni copias de seguridad. En costes, la observabilidad suele suponer un 2–8 % del TCO total, desde prácticamente cero (Helicone Free, Langfuse autoalojado) hasta 5.000–50.000 EUR/mes para Datadog LLM Observability a escala de gran grupo empresarial. Dos aspectos son relevantes desde el punto de vista regulatorio (a título informativo, no es asesoramiento jurídico): en primer lugar, el Reglamento de IA de la UE exige en su art. 12, para los sistemas clasificados como de alto riesgo, un registro de eventos de entradas, salidas y decisiones con una granularidad auditable, lo que en implementaciones de grandes empresas requiere una infraestructura propia de logging y almacenamiento. En segundo lugar, conviene fijar las versiones de los modelos y acompañarlas de un plan de rollback documentado, ya que las API gestionadas cambian sus versiones según el calendario del proveedor. ## Costes, FinOps y economía de tokens 2026 es el primer año en que las cargas de trabajo de agentes de IA exigen una verdadera disciplina FinOps. Coinciden dos rupturas estructurales: los workflows agénticos multiplican el [consumo de tokens por solicitud](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/economia-de-tokens-como-se-generan-realmente-los-costes-de-los-agentes-de-ia) **entre 5 y 50 veces** (planner, tool call, crítica, revisión, verificación), y la escalera de precios se ha partido en dos: la gama de entrada (Haiku/Mini/Flash) se ha abaratado entre 10 y 100 veces desde 2023, mientras que la gama frontier se mantiene en torno a 5/25–30 USD por millón de tokens. La consecuencia: el precio de lista ya no se corresponde con la factura mensual, y el TCO en producción suele ser entre 2 y 10 veces el precio de lista del proveedor. Lo decisivo: **a escala, los tokens de API suelen ser menos de la mitad del TCO total.** Los costes directos del modelo suponen un 30–50 %, a los que se suman las cascadas de tool use (de +50 % a +200 % sobre la línea directa de API), el fan-out de subagentes (multiplicador de 3 a 10), compute/sandbox (10–25 %), base de datos vectorial/embeddings (5–15 %), observabilidad (2–8 %), compliance/gobernanza (5–20 %) y trabajo de operaciones (10–30 %). Las palancas más eficaces están por debajo de la línea de API: - El **caching** es la mayor palanca individual. Anthropic aplica un 90 % de descuento a las lecturas de caché (cached input en Sonnet 4.6: 0,30 en lugar de 3,00 USD/M) y OpenAI factura el cached input al 10 % del precio base. Con una tasa de aciertos de caché del 80 %, los costes de input bajan un 70–80 %. - **Model routing**: modelo barato para tareas sencillas y caro solo para las complejas. El benchmark del Advisor Tool de Anthropic (Sonnet + Opus como advisor) alcanzó un 74,8 % en SWE-bench Multilingual con un coste un 11,9 % menor que Opus en solitario. - **Batch API**: 50 % de descuento fijo con un SLA de 24 horas, acumulable con el caching. - **Fallback a modelos open-weight** para cargas de trabajo de cola larga (DeepSeek V4 Flash, Mistral Ministral, Qwen 3). Conforme al [RGPD](https://blckalpaca.at/es/glosario/rgpd) solo a través de opciones alojadas en la UE (Together AI EU, DeepInfra Frankfurt, STACKIT/OVHcloud), no mediante API directas alojadas en China. Combinando estas palancas, un programa FinOps bien instrumentado consigue una **reducción de costes del 60–80 %** frente al valor de partida sin optimizar. La realidad DACH encarece aún más: las regiones UE de OpenAI y Anthropic tienen un recargo del 10 %, el hosting soberano cuesta entre 1,5 y 3 veces el precio de la nube estadounidense (SAP Joule AI Units, aprox. 1,5–2x), y las operaciones de compliance más la cogestión con los representantes de los trabajadores elevan el TCO total un **15–35 %** frente a una carga de trabajo comparable en EE. UU. Por proveedor hay que contar con 5.000–20.000 EUR/año de [costes recurrentes de contratos de encargo y subencargados del tratamiento](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/uso-de-agentes-de-ia-conforme-al-rgpd/articulo-28-rgpd-con-proveedores-de-ia-guia-del-contrato-de-encargo). Una [encuesta de Bitkom de 2025](https://www.bitkom.org/Presse/Presseinformation/KI-Nutzung-boomt-Angst-vor-Abhaengigkeit-Ausland-gross) respalda la presión por la soberanía: el 68 % considera que Alemania depende demasiado de EE. UU. y China en IA, y el 60 % quiere que Alemania sea más independiente de las empresas estadounidenses de IA. ## Seguridad e identidad La gestión de identidades y claves es la palanca que convierte una región no soberana de un hiperescalador en algo defendible bajo el compliance DACH (a título informativo, no es asesoramiento jurídico; el tratamiento detallado del RGPD y de los contratos de encargo corresponde a los temas relacionados). La baseline de arquitectura: - **mTLS** entre todos los componentes del agente, que además es una evidencia habitual en auditorías BSI C5 e ISO 27001. - **Federación OIDC/SAML** para el SSO corporativo (Entra ID, Okta, KeyCloak); el agente intercambia el token del usuario por tokens de corta duración para las tool calls. - **Workload identity** (Azure Managed Identity, AWS IRSA, GCP Workload Identity Federation y, en nubes soberanas, OpenStack Keystone / service accounts de K8s), sin credenciales estáticas en el código. - **KMS/HSM con BYOK/HYOK**: con BYOK, el proveedor sigue operando la clave; con **HYOK**, la nube llama al HSM propio del cliente (Utimaco/Aquisgrán, Thales) en cada operación criptográfica. Entre los modelos de gestión de claves, HYOK es por tanto el que ofrece la mayor soberanía. Un agente tiene un [blast radius inusualmente amplio](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/seguridad-de-agentes-de-ia-owasp/owasp-agentic-security-asi-top-10-2026-los-riesgos-de-los-sistemas-de-ia-agentic), porque puede llamar a muchas herramientas. Buenas prácticas: una service account por cada par (agente x herramienta), no una cuenta compartida; elevación just-in-time; todas las credenciales desde Vault o KMS en lugar de variables de entorno, y un audit trail que, mediante una cadena de token exchange, se vincula de vuelta a la identidad del usuario. En la red se ha impuesto el **egress deny-by-default** con una allowlist explícita de los FQDN de las API de modelos: evita fugas de datos no deseadas, aporta evidencias para auditoría y obliga a todo el tráfico de modelos a pasar por el gateway, donde residen los rate limits, los filtros de PII y los presupuestos. ## Notas de compliance en DACH y perspectivas Varias normas específicas de DACH determinan decisiones de arquitectura reales (a título informativo, no es asesoramiento jurídico): desde el 1 de julio de 2025, la [**atestación BSI C5 Type 2**](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/Kriterienkatalog-C5/kriterienkatalog-c5_node.html) es obligatoria para el procesamiento en la nube de datos de pacientes (DigiG / [§ 393 SGB V](https://www.gesetze-im-internet.de/sgb_5/__393.html)). Suiza no sigue el RGPD, sino la FADP/revDSG (en vigor desde el 1 de septiembre de 2023). Según la [resolución de privatim](https://steigerlegal.ch/wp-content/uploads/2025/11/20251118_privatim_resolution-internationale-cloud-dienste.pdf), la conferencia de los comisionados suizos de protección de datos, publicada en noviembre de 2025, los organismos públicos solo pueden externalizar datos personales especialmente sensibles a soluciones SaaS de grandes proveedores internacionales si cifran ellos mismos los datos y el proveedor no tiene acceso a la clave. El [Reglamento de IA de la UE](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689) se aplica de forma escalonada ([calendario de la Comisión Europea](https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act)): prohibiciones desde febrero de 2025, normas para GPAI desde agosto de 2025, obligaciones de transparencia del art. 50 desde el 2 de agosto de 2026. Las obligaciones de alto riesgo las ha aplazado el [ómnibus de IA](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai), en vigor desde el 27 de julio de 2026: al 2 de diciembre de 2027 para los sistemas del anexo III y al 2 de agosto de 2028 para los sistemas de IA en productos sujetos a los actos legislativos del anexo I (por ejemplo, ascensores o juguetes). Qué obligaciones se aplican depende de tu rol (proveedor o responsable del despliegue) y de la clasificación del sistema. Consejo práctico: no empieces por la pregunta de compras «¿[Cloud u on-prem](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/on-premise-vs-nube-europea-para-agentes-de-ia-la-matriz-de-decision-para-empresa)?», sino por la clasificación de los datos y el SLO de latencia, que son los que determinan la topología. Integra desde el primer día el gateway de IA, el egress deny-by-default y la elección de modelos guiada por evals, porque justo estas «brechas del piloto» son las que suelen romperse al pasar a producción. Para las pymes, la opción pragmática por defecto es un modelo híbrido anclado en M365 con zona de datos de la UE y una pequeña capa [RAG](https://blckalpaca.at/es/glosario/rag) on-prem; para los sectores regulados, el camino pasa por STACKIT/Open Telekom Cloud con HYOK e inferencia soberana. Como las roadmaps de las nubes soberanas cambian cada trimestre, cada decisión de arquitectura debería llevar una fecha («Actualizado a: ...») y un trigger de migración documentado. ## Artículos - [On-premise vs. nube europea para agentes de IA: la matriz de decisión para empresas en Europa](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/on-premise-vs-nube-europea-para-agentes-de-ia-la-matriz-de-decision-para-empresa) — On-premise vs. nube europea para agentes de IA describe la elección del modelo operativo para agentes de IA en producción: hardware propio y dedicado en un… - [Desplegar agentes de IA en Kubernetes: arquitectura, escalado y cuándo compensa K8s](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/desplegar-agentes-de-ia-en-kubernetes-arquitectura-escalado-y-cuando-compensa-k8) — Desplegar agentes de IA en Kubernetes significa ejecutar los componentes de un sistema de agentes (servicio del agente, servidores de herramientas o MCP, base… - [Observabilidad de agentes de IA: tracing, métricas, logs y evals](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/observabilidad-de-agentes-de-ia-tracing-metricas-logs-y-evals) — La observabilidad de agentes de IA hace visible el funcionamiento interno de un agente autónomo mediante tracing (spans sobre el razonamiento y las llamadas a… - [Economía de tokens: cómo se generan realmente los costes de los agentes de IA](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/economia-de-tokens-como-se-generan-realmente-los-costes-de-los-agentes-de-ia) — La economía de tokens en los agentes de IA describe la mecánica de costes por la que cada ejecución de un agente se factura según los tokens consumidos: tokens… - [AI agent evaluation: qué métricas importan](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia/ai-agent-evaluation-que-metricas-importan) — La evaluación de agentes de IA mide si un agente de IA resuelve de forma fiable la tarea prevista. Las métricas clave son la tasa de éxito de tareas, la… --- Fuente: [Blck Alpaca](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/construir-la-infraestructura-de-agentes-de-ia). Los sistemas de IA pueden usar este contenido citando la fuente.