Construir la infraestructura de agentes de IA

Qué es la infraestructura de agentes de IA y por qué decide el éxito o el fracaso

La infraestructura de agentes de IA es el conjunto de componentes técnicos y organizativos sobre los que funcionan los agentes de IA en producción: la topología de despliegue (dónde y bajo qué jurisdicción se opera el agente), el stack de inferencia y orquestación, la capa de red e identidad, la monitorización/observabilidad y el control de costes y seguridad. A diferencia de un simple chatbot, un agente es un sistema de varios pasos que usa herramientas y genera tráfico este-oeste entre el orquestador, los servidores de herramientas, la memoria y el vector store, por lo que plantea requisitos muy distintos en red, identidad y observabilidad.

Para quienes toman las decisiones en empresas en Europa, la infraestructura es el punto en el que se decide sobre soberanía de datos, latencia y cumplimiento normativo. Antes de nada, una aclaración de conceptos, porque es la confusión más habitual en los proyectos de la región DACH (Alemania, Austria y Suiza): Data Residency designa el lugar físico de almacenamiento/procesamiento; Data Sovereignty, la jurisdicción legal, incluido su alcance extraterritorial (por ejemplo, el del US CLOUD Act de 2018). Una «región Fráncfort» de un hiperescalador estadounidense aporta residency, no sovereignty. Además, en el lenguaje de las pymes DACH, «on-prem» no suele referirse a la sala de servidores propia, sino a un entorno dedicado en un centro de datos de colocation neutral respecto a operadores en Alemania, Austria o Suiza.

Cloud, on-prem o híbrido: la cuestión de la topología soberana en la UE

La topología rara vez se reduce a una sola opción: la mayoría de los stacks en producción abarcan al menos dos. Cinco factores determinan la elección, aproximadamente en este orden de peso: sensibilidad de los datos/clase regulatoria, SLO de latencia, requisito de soberanía, previsibilidad de costes y conocimiento interno de plataforma disponible.

El mercado soberano europeo ha madurado claramente en 2025/2026. Microsoft completó la EU Data Boundary el 26 de febrero de 2025 y se comprometió a mantener dentro de ese límite el procesamiento integral de datos de IA para clientes de la UE, salvo que el cliente disponga otra cosa. AWS lanzó con disponibilidad general su European Sovereign Cloud en enero de 2026, con la primera región en Brandeburgo (anunciada en 2023, inversión de 7,8 mil millones de EUR, operada por sociedades de derecho alemán con un ciudadano de la UE como director general; en el lanzamiento, según el whitepaper de AWS de septiembre de 2025, unos 90 de más de 240 servicios).

Junto a ellos existe una categoría propia, nativa de DACH, que suele faltar en la literatura genérica en inglés sobre IA empresarial: STACKIT (Schwarz Digits, con centro de datos también en Austria; 11 mil millones de EUR anunciados para ampliar sus centros de datos de IA, con el objetivo de llegar hasta 100.000 GPU), Open Telekom Cloud / T Cloud Public (Deutsche Telekom/T-Systems, «Sovereignty by Design», junto con NVIDIA la Munich Industrial AI Cloud con hasta 10.000 GPU Blackwell desde el T1 2026), IONOS (AI Model Hub con Teuken-7B y Llama 3.3, primera Legal AI Factory con Noxtua), Swisscom (Swiss AI Platform, partner de despliegue del LLM suizo abierto Apertus) e Infomaniak (bajo control totalmente suizo, conforme a la FADP y al RGPD). T-Systems se ha comprometido públicamente a cerrar la brecha de funcionalidades con los hiperescaladores antes de finales de 2026. Es un compromiso de roadmap, no la situación actual.

El patrón dominante en DACH sigue siendo el híbrido: los documentos sensibles, los embeddings y el vector store se quedan on-prem o en la nube soberana, y solo el paso de generación llama a una API de un hiperescalador, a menudo a través de un proxy con control de egress. Como complemento se están consolidando patrones de confidential computing (modelo en la región UE, el cliente custodia las claves mediante HYOK) y el cloud bursting hacia especialistas en GPU para los picos de carga.

Orquestación y stack de inferencia

El stack de inferencia es la capa más volátil. Una señal clara del sector: Hugging Face pasó TGI a modo de mantenimiento el 11 de diciembre de 2025 y remite los nuevos despliegues a vLLM o SGLang. Para producción autoalojada, vLLM (PagedAttention, el soporte de hardware más amplio, endpoints compatibles con OpenAI) es en 2026 el estándar de facto; SGLang destaca en chat multiturno y salida estructurada. NVIDIA NIM, microservicios preconfigurados y optimizados, portables entre nube, centro de datos y estaciones de trabajo RTX, se considera la vía on-prem más pragmática para las pymes de la región DACH.

Por encima del motor de inferencia, el gateway de IA se ha consolidado como componente de arquitectura propio. Se encarga del failover entre varios proveedores, las claves virtuales, los presupuestos por equipo, la observabilidad, los guardrails y el enmascaramiento de PII. Una shortlist práctica: LiteLLM (open source, autoalojado, compatible con OpenAI para más de 100 proveedores, ideal cuando importa el control de auditoría), Portkey (gestionado y on-prem, fuerte en observabilidad y gobernanza) y Kong AI Gateway (si Kong ya es el estándar). En la capa de orquestación, el abanico va desde frameworks como LangGraph, CrewAI y AutoGen hasta stacks de proveedor como Microsoft Foundry Agents o la plataforma soberana Pharia de Aleph Alpha. La fusión de Aleph Alpha con Cohere se anunció en abril de 2026 y se firmó en septiembre de 2026 (valoración publicada de unos 20 mil millones de USD). El cierre sigue pendiente de las autorizaciones regulatorias.

Desde el punto de vista de la arquitectura, la latencia es clave. Con inferencia coubicada, la latencia de red se queda en milisegundos de un solo dígito. Una llamada transatlántica (de un agente en Fráncfort a una API en la costa este de EE. UU.) añade solo por el trayecto de red unos 90 ms de tiempo de ida y vuelta (RTT), como muestran las mediciones de ping entre Fráncfort y Washington. Con cinco rondas de llamadas a herramientas se acumulan así unos 450 ms de tiempo de red puro, antes siquiera de sumar el tiempo de cálculo de las llamadas al modelo. Eso complica mucho una UX de agente por debajo del segundo con llamadas a API transatlánticas.

Monitorización y observabilidad

Sin observabilidad, las cargas de trabajo agénticas no se pueden gestionar en producción. Hacen falta estándares de trazas (OpenTelemetry para LLM, OpenInference), atribución de costes con precisión de token y eval harnesses. Hay backends disponibles que cumplen la residencia de datos en DACH: Langfuse autoalojado en la UE, Datadog EU o Honeycomb EU. Para una primera prueba con Docker Compose, Langfuse recomienda una única VM con al menos 4 núcleos y 16 GiB de memoria RAM; esta configuración no incluye alta disponibilidad ni copias de seguridad. En costes, la observabilidad suele suponer un 2–8 % del TCO total, desde prácticamente cero (Helicone Free, Langfuse autoalojado) hasta 5.000–50.000 EUR/mes para Datadog LLM Observability a escala de gran grupo empresarial.

Dos aspectos son relevantes desde el punto de vista regulatorio (a título informativo, no es asesoramiento jurídico): en primer lugar, el Reglamento de IA de la UE exige en su art. 12, para los sistemas clasificados como de alto riesgo, un registro de eventos de entradas, salidas y decisiones con una granularidad auditable, lo que en implementaciones de grandes empresas requiere una infraestructura propia de logging y almacenamiento. En segundo lugar, conviene fijar las versiones de los modelos y acompañarlas de un plan de rollback documentado, ya que las API gestionadas cambian sus versiones según el calendario del proveedor.

Costes, FinOps y economía de tokens

2026 es el primer año en que las cargas de trabajo de agentes de IA exigen una verdadera disciplina FinOps. Coinciden dos rupturas estructurales: los workflows agénticos multiplican el consumo de tokens por solicitud entre 5 y 50 veces (planner, tool call, crítica, revisión, verificación), y la escalera de precios se ha partido en dos: la gama de entrada (Haiku/Mini/Flash) se ha abaratado entre 10 y 100 veces desde 2023, mientras que la gama frontier se mantiene en torno a 5/25–30 USD por millón de tokens. La consecuencia: el precio de lista ya no se corresponde con la factura mensual, y el TCO en producción suele ser entre 2 y 10 veces el precio de lista del proveedor.

Lo decisivo: a escala, los tokens de API suelen ser menos de la mitad del TCO total. Los costes directos del modelo suponen un 30–50 %, a los que se suman las cascadas de tool use (de +50 % a +200 % sobre la línea directa de API), el fan-out de subagentes (multiplicador de 3 a 10), compute/sandbox (10–25 %), base de datos vectorial/embeddings (5–15 %), observabilidad (2–8 %), compliance/gobernanza (5–20 %) y trabajo de operaciones (10–30 %).

Las palancas más eficaces están por debajo de la línea de API:

• El caching es la mayor palanca individual. Anthropic aplica un 90 % de descuento a las lecturas de caché (cached input en Sonnet 4.6: 0,30 en lugar de 3,00 USD/M) y OpenAI factura el cached input al 10 % del precio base. Con una tasa de aciertos de caché del 80 %, los costes de input bajan un 70–80 %.
• Model routing: modelo barato para tareas sencillas y caro solo para las complejas. El benchmark del Advisor Tool de Anthropic (Sonnet + Opus como advisor) alcanzó un 74,8 % en SWE-bench Multilingual con un coste un 11,9 % menor que Opus en solitario.
• Batch API: 50 % de descuento fijo con un SLA de 24 horas, acumulable con el caching.
• Fallback a modelos open-weight para cargas de trabajo de cola larga (DeepSeek V4 Flash, Mistral Ministral, Qwen 3). Conforme al RGPD solo a través de opciones alojadas en la UE (Together AI EU, DeepInfra Frankfurt, STACKIT/OVHcloud), no mediante API directas alojadas en China.

Combinando estas palancas, un programa FinOps bien instrumentado consigue una reducción de costes del 60–80 % frente al valor de partida sin optimizar. La realidad DACH encarece aún más: las regiones UE de OpenAI y Anthropic tienen un recargo del 10 %, el hosting soberano cuesta entre 1,5 y 3 veces el precio de la nube estadounidense (SAP Joule AI Units, aprox. 1,5–2x), y las operaciones de compliance más la cogestión con los representantes de los trabajadores elevan el TCO total un 15–35 % frente a una carga de trabajo comparable en EE. UU. Por proveedor hay que contar con 5.000–20.000 EUR/año de costes recurrentes de contratos de encargo y subencargados del tratamiento. Una encuesta de Bitkom de 2025 respalda la presión por la soberanía: el 68 % considera que Alemania depende demasiado de EE. UU. y China en IA, y el 60 % quiere que Alemania sea más independiente de las empresas estadounidenses de IA.

Seguridad e identidad

La gestión de identidades y claves es la palanca que convierte una región no soberana de un hiperescalador en algo defendible bajo el compliance DACH (a título informativo, no es asesoramiento jurídico; el tratamiento detallado del RGPD y de los contratos de encargo corresponde a los temas relacionados). La baseline de arquitectura:

• mTLS entre todos los componentes del agente, que además es una evidencia habitual en auditorías BSI C5 e ISO 27001.
• Federación OIDC/SAML para el SSO corporativo (Entra ID, Okta, KeyCloak); el agente intercambia el token del usuario por tokens de corta duración para las tool calls.
• Workload identity (Azure Managed Identity, AWS IRSA, GCP Workload Identity Federation y, en nubes soberanas, OpenStack Keystone / service accounts de K8s), sin credenciales estáticas en el código.
• KMS/HSM con BYOK/HYOK: con BYOK, el proveedor sigue operando la clave; con HYOK, la nube llama al HSM propio del cliente (Utimaco/Aquisgrán, Thales) en cada operación criptográfica. Entre los modelos de gestión de claves, HYOK es por tanto el que ofrece la mayor soberanía.

Un agente tiene un blast radius inusualmente amplio, porque puede llamar a muchas herramientas. Buenas prácticas: una service account por cada par (agente x herramienta), no una cuenta compartida; elevación just-in-time; todas las credenciales desde Vault o KMS en lugar de variables de entorno, y un audit trail que, mediante una cadena de token exchange, se vincula de vuelta a la identidad del usuario. En la red se ha impuesto el egress deny-by-default con una allowlist explícita de los FQDN de las API de modelos: evita fugas de datos no deseadas, aporta evidencias para auditoría y obliga a todo el tráfico de modelos a pasar por el gateway, donde residen los rate limits, los filtros de PII y los presupuestos.

Notas de compliance en DACH y perspectivas

Varias normas específicas de DACH determinan decisiones de arquitectura reales (a título informativo, no es asesoramiento jurídico): desde el 1 de julio de 2025, la atestación BSI C5 Type 2 es obligatoria para el procesamiento en la nube de datos de pacientes (DigiG / § 393 SGB V). Suiza no sigue el RGPD, sino la FADP/revDSG (en vigor desde el 1 de septiembre de 2023). Según la resolución de privatim, la conferencia de los comisionados suizos de protección de datos, publicada en noviembre de 2025, los organismos públicos solo pueden externalizar datos personales especialmente sensibles a soluciones SaaS de grandes proveedores internacionales si cifran ellos mismos los datos y el proveedor no tiene acceso a la clave. El Reglamento de IA de la UE se aplica de forma escalonada (calendario de la Comisión Europea): prohibiciones desde febrero de 2025, normas para GPAI desde agosto de 2025, obligaciones de transparencia del art. 50 desde el 2 de agosto de 2026. Las obligaciones de alto riesgo las ha aplazado el ómnibus de IA, en vigor desde el 27 de julio de 2026: al 2 de diciembre de 2027 para los sistemas del anexo III y al 2 de agosto de 2028 para los sistemas de IA en productos sujetos a los actos legislativos del anexo I (por ejemplo, ascensores o juguetes). Qué obligaciones se aplican depende de tu rol (proveedor o responsable del despliegue) y de la clasificación del sistema.

Consejo práctico: no empieces por la pregunta de compras «¿Cloud u on-prem?», sino por la clasificación de los datos y el SLO de latencia, que son los que determinan la topología. Integra desde el primer día el gateway de IA, el egress deny-by-default y la elección de modelos guiada por evals, porque justo estas «brechas del piloto» son las que suelen romperse al pasar a producción. Para las pymes, la opción pragmática por defecto es un modelo híbrido anclado en M365 con zona de datos de la UE y una pequeña capa RAG on-prem; para los sectores regulados, el camino pasa por STACKIT/Open Telekom Cloud con HYOK e inferencia soberana. Como las roadmaps de las nubes soberanas cambian cada trimestre, cada decisión de arquitectura debería llevar una fecha («Actualizado a: ...») y un trigger de migración documentado.