On-premise vs. cloud v EÚ pre AI agentov: rozhodovacia matica pre DACH
On-premise vs. cloud v EÚ pre AI agentov opisuje voľbu prevádzkového modelu pre produkčných AI agentov: dedikovaný vlastný hardvér v nemeckom, rakúskom alebo švajčiarskom dátovom centre (on-premise), suverénni poskytovatelia cloudu v EÚ alebo hybridná kombinácia. Rozhodujúcich je šesť kritérií: citlivosť dát a compliance, náklady, latencia, škálovanie, prevádzková náročnosť a know-how, ako aj dostupnosť modelov.
Na prvý pohľad
- Región Frankfurt sa nerovná suverenite: lokalita amerického hyperscalera v EÚ poskytuje dátovú rezidenciu (fyzické miesto uloženia), ale nie dátovú suverenitu. Materská spoločnosť zostáva podriadená americkému zákonu CLOUD Act (2018).
- Orientačné pravidlo pre bod zlomu nákladov: pri trvalej inferenčnej záťaži od približne 8-12 ekvivalentov H100 je self-hosting v prepočte na token zvyčajne lacnejší ako managed API, avšak s 6-9 mesiacmi inžinierskej prípravy (stav 2026).
- Pre väčšinu workloadov v regióne DACH je dominantným vzorom hybrid: citlivé dokumenty a vektorové úložisko zostávajú on-premise, iba krok generovania volá región v EÚ alebo suverénny cloud.
- Architektúru určuje regulácia: atestácia BSI C5 typu 2 je od 1. júla 2025 povinná pre spracovanie údajov o pacientoch v cloude (DigiG, § 393 SGB V); BFSI, verejný sektor a obrana často vyžadujú odolnosť voči CLOUD Act.
- Latencia diskvalifikuje transatlantickú cestu: volanie z agenta vo Frankfurte na API na východe USA stojí približne 80-120 ms na jeden round trip. Pri viacerých kolách volaní nástrojov (tool calls) je odozva pod jednu sekundu dosiahnuteľná iba s inferenciou v EÚ v tom istom regióne ako agent.
- Odporúčanie podľa scenára: stredne veľké firmy zvyčajne začínajú hybridom s cloudom v EÚ, regulované odvetvia suverénnym cloudom (STACKIT, Open Telekom Cloud), koncerny multi-cloudom so suverénnou vrstvou.
Šesť kritérií podrobne: citlivosť dát a compliance (GDPR, odvetvové právo), náklady (CapEx/OpEx, ekonomika GPU oproti ekonomike tokenov), latencia, škálovanie, prevádzková náročnosť a know-how, ako aj dostupnosť modelov. Tento článok prináša rozhodovaciu maticu a konkrétne odporúčania pre jednotlivé scenáre.
Dátová rezidencia verzus dátová suverenita: kľúčový rozdiel
Najčastejšia koncepčná zámena v rozhovoroch so zákazníkmi v regióne DACH sa týka dvoch pojmov, ktoré neznamenajú to isté. Dátová rezidencia je fyzické miesto, kde sa dáta ukladajú a spracúvajú. Dátová suverenita je právna jurisdikcia, ktorej dáta podliehajú, vrátane extrateritoriálneho dosahu, aký má americký CLOUD Act z roku 2018. Suverénny cloud spĺňa oboje: prevádzkovateľ, infraštruktúra aj právna kontrola sídlia vo zvolenej jurisdikcii. Rezidencia je teda nutná, ale nie postačujúca.
V praxi to znamená: aj keď sú dáta uložené výlučne vo Frankfurte, prevádzkovateľ amerického hyperscalera zostáva americkou právnickou osobou, na ktorú sa vzťahuje CLOUD Act. Suverenita v prísnom zmysle predpokladá jeden z troch modelov: dedikovaný suverénny cloud hyperscalera (napríklad AWS European Sovereign Cloud dostupný od januára 2026 v Brandenbursku alebo Microsoft Sovereign Cloud), stack prevádzkovaný partnerom (T-Systems s Googlom, Bleu s Microsoftom vo Francúzsku) alebo poskytovateľa mimo USA. Suverénne cloudy hyperscalerov presúvajú prevádzku a prístup do EÚ, ich ochrana pred CLOUD Act je však právne sporná. Microsoft France 10. júna 2025 pod prísahou pred francúzskym Senátom priznal, že nedokáže zaručiť, že sa dáta na príkaz nikdy nedostanú k americkým úradom.
K tomu sa pridáva špecifikum regiónu DACH: on-premise pri stredne veľkých firmách len zriedka znamená server v kancelárii. Zvyčajne ide o dedikované prostredie v operátorsky neutrálnom kolokačnom dátovom centre v Nemecku, Rakúsku alebo Švajčiarsku (Equinix Frankfurt, Interxion, Digital Realty Zürich, NTT Vienna). Skutočný bare-metal vo vlastníctve zákazníka zostáva relevantný pre veľké priemyselné skupiny, organizácie blízke obrannému sektoru a zákazníkov z BFSI s výslovným pokynom orgánu dohľadu.
Šesť rozhodovacích kritérií
1. Citlivosť dát a compliance
Kmeňové údaje zákazníkov, údaje zamestnancov, zdravotná dokumentácia alebo duševné vlastníctvo podliehajúce exportnej kontrole posúvajú architektúru smerom k suverénnemu cloudu alebo k on-premise. Popri GDPR a švajčiarskom FADP/revDSG (účinnom od 1. septembra 2023) platia odvetvové pravidlá: BaFin/FINMA pre BFSI, KRITIS/NIS2 pre kritickú infraštruktúru, TISAX pre automobilový priemysel, ako aj DigiG a § 393 SGB V pre zdravotné údaje. Konkrétny záväzný dátum: od 1. júla 2025 je atestácia BSI C5 typu 2 povinná pre spracovanie údajov o pacientoch v cloude. Niektoré služby hyperscalerov túto atestáciu zatiaľ nemajú, čo treba pri obstarávaní preveriť. Táto poznámka nenahrádza právne poradenstvo.
2. Náklady: CapEx/OpEx, GPU oproti tokenom
Pri trvalej záťaži je self-hosting v prepočte na token lacnejší, managed API sú lacnejšie pri nárazových, experimentálnych workloadoch. Nevyužité GPU sú najdrahší CapEx. Hlavnými nákladovými faktormi on-premise sú odpisy GPU serverov (zvyčajne 3-4 roky), elektrina (priemyselné tarify v regióne DACH približne 0,18-0,35 EUR/kWh), chladenie (PUE 1,2-1,4 v moderných dátových centrách v regióne DACH), konektivita, prevádzka a softvérové licencie. Jeden 130 kW rack odoberie pri plnej záťaži rádovo približne 1,1 GWh ročne.
3. Latencia
Inferencia umiestnená v tom istom regióne (engine v rovnakom regióne ako orchestrácia agentov) dosahuje sieťovú latenciu v jednotkách milisekúnd. Transatlantické volania stoja približne 80-120 ms na round trip (cesta tam a späť) plus TLS handshake a pri viacstupňových agentoch, ktorí volajú nástroje, sa to násobí. Pre porovnanie: Microsoft uvádza medzi regiónmi Germany West Central (Frankfurt) a East US za 30 dní do 30. júla 2026 medián 94 ms na round trip (štatistika latencie Azure). Pre odozvu pod jednu sekundu s viacerými kolami volaní nástrojov sú transatlantické volania nepoužiteľné.
Cesta | Približná latencia (round trip) |
|---|---|
Azure Amsterdam ↔ Azure Frankfurt | 8-12 ms |
Azure Frankfurt ↔ Azure Zürich | 9-10 ms |
AWS Frankfurt ↔ AWS Zürich (eu-central-2) | 8-15 ms |
Agent vo Frankfurte → OpenAI API (východ USA) | 80-110 ms |
Agent vo Frankfurte → Anthropic API (východ USA) | 85-120 ms |
On-prem rack → používateľ v tom istom areáli | < 2 ms |
4. Škálovanie
Managed API sa škálujú elasticky bez plánovania kapacity. Self-hosted stacky potrebujú rezervnú kapacitu: potrebný hardvér sa odvíja od výpočtu pamäte GPU. Model so 70 mld. parametrov (70B) potrebuje pri BF16 približne 140 GB len na váhy, pri FP8 približne 70 GB, pri AWQ-INT4 približne 35 GB. Pri nízkej súbežnosti (concurrency) stačí 1x H200 (141 GB); pre produkčné veľkosti dávok sú zvyčajne potrebné 2x H100 alebo 2x MI300X. Modely triedy 405B vyžadujú tenzorovú paralelizáciu na viacerých GPU (napríklad 8x H200 alebo jeden uzol GB200 NVL72). Modely s biliónmi parametrov sú mimo možností takmer všetkých stredne veľkých firiem v regióne DACH, tu vedie cesta cez managed API alebo suverénny GPU bursting.
5. Prevádzková náročnosť a know-how
Prevádzka vLLM, SGLang, Triton alebo NVIDIA NIM v produkčnom rozsahu si vyžaduje hlboké znalosti platform engineeringu, ktoré väčšina stredne veľkých firiem v regióne DACH nemá interne. Pohotovostný tím 24x7, ktorý zvláda zaseknutia NCCL (NCCL stalls) a režimy zlyhania GPU, je v regióne DACH vzácny. Poznámka k výberu inferenčného enginu: Hugging Face 11. decembra 2025 presunul TGI do režimu údržby (maintenance mode) a pri nových nasadeniach odkazuje na vLLM alebo SGLang (stav 2026).
6. Dostupnosť modelov
Managed API vyhrávajú, keď je rozhodujúca šírka ponuky modelov. Len Azure AI Foundry v roku 2025 pridal okrem iného DeepSeek R1, GPT-4.1, Mistral Large 3, Claude Opus 4.5 a Llama 4. Suverénne API (IONOS AI Model Hub, Open Telekom Cloud AI Foundation Services, Swisscom Swiss AI Platform, Infomaniak) ponúkajú open-source modely ako Teuken-7B, Llama 3/4, Mistral, DeepSeek a otvorený švajčiarsky model Apertus (EPFL/ETH/CSCS, zverejnený 2. septembra 2025). Kto potrebuje konkrétny model s permisívnou licenciou open weight, môže ho prevádzkovať identicky cez kontajnery NIM alebo OCI naprieč cloudmi aj on-premise.
Rozhodovacia matica: kritérium oproti prevádzkovému modelu
Kritérium | On-premise | Cloud v EÚ (suverénny/región) | Hybrid |
|---|---|---|---|
Citlivosť dát | Najvyššia trieda, kritická z hľadiska IP alebo regulácie | Nízka až stredná (región), resp. vysoká (suverénny) | Citlivé dáta zostávajú lokálne, zvyšok v cloude |
Suverenita dát (GDPR) | Maximálna, odolná voči CLOUD Act | Suverénny cloud: silná; región hyperscalera: iba rezidencia | Suverénne jadro plus generovanie v EÚ |
Nákladový profil | Vysoký CapEx, výhodný pri vysokej trvalej záťaži | OpEx, výhodný pri nárazovej záťaži | Zmiešaný, dá sa optimalizovať |
Latencia | < 2 ms v areáli | 8-15 ms v rámci EÚ | Nízka pre lokálnu časť |
Škálovanie | Plánované vopred, viazané na GPU | Elastické | Ustálená záťaž lokálne, špičky cez bursting |
Prevádzková náročnosť | Vysoká, potrebný platformový tím | Nízka až stredná | Vysoká, treba prevádzkovať dva svety |
Dostupnosť modelov | Obmedzená (1-2 otvorené modely) | Vysoká (frontier aj špecializované modely) | Frontier v cloude, otvorené modely lokálne |
Time-to-value | 6-18 mesiacov | Týždne | Stredný |
Doplňujúca heuristika pre podrobnejšie rozhodnutie: v prospech managed API hovoria verejné/interné dáta, nárazová záťaž, veľká rôznorodosť modelov a chýbajúci platformový tím. V prospech self-hostingu hovoria dôverné/regulované dáta, vysoká trvalá záťaž, tail latencia pod 500 ms a prísna suverenita.
Konkrétny príklad výpočtu: bod zlomu nákladov
Orientačné pravidlo, ktoré koluje medzi platformovými tímami v regióne DACH, robí rozhodnutie hmatateľným (stav 2026): pri trvalej inferenčnej záťaži od približne 8-12 ekvivalentov H100 je self-hosting v suverénnom cloude alebo on-premise v prepočte na token zvyčajne lacnejší ako ekonomika managed API. Nad približne 30 ekvivalentmi H100 sa rozdiel rýchlo zväčšuje.
Migrácia z managed API na self-hosting má zmysel, ak platia aspoň dve z nasledujúcich podmienok:
- Mesačné výdavky na managed API prevyšujú priebežné náklady (run-rate) približne 10 H100 v suverénnom cloude.
- Nový pokyn orgánu dohľadu (BaFin/FINMA/BSI) vyžaduje preukázateľnú, nedelegovateľnú kontrolu.
- Model, na ktorom je postavený tvoj agent, bude dostupný ako permisívny open-weight model (Llama, Mistral, Apertus).
- Roadmapa si vyžaduje fine-tuning, ktorý na managed API nie je možný.
- Právne posúdenie vyhodnotí poskytovateľa ako koncentračné riziko (DORA).
Migráciu potom naplánuj s predstihom približne 6-9 mesiacov.
Pod bodom zlomu 8-12 H100 sú managed API z hľadiska TCO výhodnejšie. Konkrétne ceny tokenov a porovnanie H100 vs. H200 vs. B200 patria do samostatnej FinOps analýzy.
Odporúčanie pre jednotlivé scenáre
Stredne veľké firmy (200-2 000 zamestnancov, zmiešaná citlivosť dát, prostredie M365, žiadny ML platformový tím): Hybridný model podľa skúseností pokrýva viac ako 70 percent greenfield projektov stredne veľkých firiem v regióne DACH. Odporúčanie: Azure West Europe alebo Germany West Central s Azure OpenAI v nasadení Data Zone EUR, on-prem alebo kolokačná RAG vrstva s vektorovou databázou pre dôverné dokumenty, pripojená cez ExpressRoute a Private Endpoint. Dôverné časti dokumentov (chunky) nikdy neopustia Nemecko, súčasťou LLM promptu sa stanú iba úryvky, z ktorých už boli odstránené dôverné údaje. Vrstva LiteLLM gateway hostovaná vo vlastnej réžii riadi rozpočty a umožňuje fallback na platformu v EÚ, napríklad Mistral La Plateforme. Tento model nie je vhodný pre kľúčové systémy BFSI, klasifikované duševné vlastníctvo ani údaje o pacientoch po 1. júli 2025.
Regulované odvetvie (BFSI, zdravotníctvo, verejný sektor, oblasť blízka obrane, plná suverenita): suverénny cloud ako primárna cesta. Odporúčanie: STACKIT alebo Open Telekom Cloud / T Cloud Public so zmluvou s nemeckým právnym subjektom a kontrolou prevádzkovateľa. LLM cez PhariaAI-as-a-Service na STACKIT alebo otvorené modely (Llama 3/4, Mistral, Teuken-7B, Apertus) cez vLLM/NIM na dedikovaných GPU inštanciách. Vektorová databáza (Weaviate, Qdrant, pgvector) v tom istom suverénnom cloude, secrets v HashiCorp Vault s HSM seal cez Utimaco HSM, egress deny-by-default s allowlistom. Pre najvyššiu triedu dát voliteľne on-prem inferencia cez NVIDIA NIM na Red Hat OpenShift AI v dátovom centre zákazníka. Reálny kompromis: pretrvávajúci rozdiel vo funkciách oproti hyperscalerom, ktorý chce T-Systems odstrániť do konca roka 2026 (prísľub z roadmapy).
Koncern (DAX 40, SMI 20, ATX prime, formálna cloud exit policy podľa DORA/MaRisk/FINMA): odolnosť cez multi-cloud so suverénnou vrstvou. Primárny cloud (Azure Germany/EU) pre väčšinu záťaže, sekundárny cloud (AWS alebo Google) pre odolnosť, API modelov abstrahované cez AI gateway. Prenositeľnosť modelov zabezpečujú otvorené modely (Llama 4, Mistral, Apertus, Teuken) ako kontajnery NIM/OCI, ktoré bežia identicky vo všetkých cloudoch aj on-premise. Voliteľná suverénna vrstva (STACKIT alebo T Cloud Public) pre najcitlivejšie workloady so zdokumentovanými migračnými cestami. Najvyššia nákladová trieda; pre stredne veľké firmy je toto nastavenie takmer vždy nevhodné.
Poznámka k Švajčiarsku: FADP/revDSG nie je GDPR a nesmie sa s ním zamieňať. Sprísnenie zo strany švajčiarskych dozorných orgánov z novembra 2025 („privatim“) odporúča verejným inštitúciám používať medzinárodné SaaS pre citlivé dáta iba s end-to-end šifrovaním a kľúčmi v držbe zákazníka. Pri amerických poskytovateľoch zostáva riziko podľa CLOUD Act aj pri švajčiarskej dátovej rezidencii.
Pre agentúry a manažérov s rozhodovacou právomocou v B2B
Voľba medzi on-premise, cloudom v EÚ a hybridom nie je čisto IT otázka. Je to obchodné a compliance rozhodnutie, ktoré padá na začiatku projektu a na roky určuje architektúru, náklady a predajnosť riešenia. Pre agentúry, ktoré vyvíjajú AI agentov pre zákazníkov v regióne DACH, je jasné oddelenie dátovej rezidencie od dátovej suverenity najsilnejším argumentom pri rokovaní s nákupom a právnym oddelením.
Blck Alpaca sprevádza B2B firmy v regióne DACH od rozhodovacej matice až po produkčný stack s dátovou rezidenciou v EÚ a preukázateľnou suverenitou. V kompaktnom proof of concept na tvojom reálnom prípade použitia ujasníme triedy dát, latenčný rozpočet, bod zlomu nákladov a vhodný prevádzkový model, skôr než investuješ do infraštruktúry. Ozvi sa nám a dohodneme B2B PoC.
Otvorí chat s pripraveným promptom.
Často kladené otázky
Stačí región hyperscalera vo Frankfurte pre AI agentov v súlade s GDPR?
Kedy sa on-premise oplatí viac ako API v cloude EÚ?
Aký je rozdiel medzi dátovou rezidenciou a dátovou suverenitou?
Ktorí suverénni poskytovatelia cloudu v EÚ sú vhodní pre AI agentov v regióne DACH?
Čo konkrétne znamená on-premise pri stredne veľkých firmách v regióne DACH?
Ísť hlbšie?
Získajte nové analýzy priamo do schránky, alebo sa pozrite, ako tieto poznatky nasadzujeme pre firmy.