LLM-router: Kedy veľký frontier model, kedy malý, kedy open source?

LLM router je smerovacia logika, ktorá každý krok AI agenta automaticky priradí vhodnému modelu. Veľké frontier modely preberajú komplexné uvažovanie a orchestráciu nástrojov, malé lacné modely vybavujú jednoduché kroky ako klasifikácia alebo extrakcia a open-weight modely znižujú náklady a pri prevádzke na suverénnom hostingu v EÚ alebo on-prem pokrývajú aj požiadavky na suverenitu. Namiesto jednorazového rozhodnutia „aký model použijeme?“ sa tak výber modelu stáva priebežným priraďovaním úloh k modelom podľa štyroch kritérií: kvalita, náklady, latencia a compliance.

Kľúčový poznatok pre rok 2026: otázka „veľký alebo malý model, proprietárny alebo open source?“ podľa podkladovej analýzy už nie je binárnym rozhodnutím, ale alokáciou portfólia. Produkčný agent zriedka beží na jedinom modeli.

Tri rýchle odpovede

• Kedy veľký model (uzavretý frontier)? Pri komplexnom uvažovaní, agentickom programovaní na najvyššej úrovni, úlohách s veľmi dlhým kontextom, prémiových multimodálnych úlohách a zriedkavých, hodnotných analytických krokoch. Táto kategória v koncernoch regiónu DACH zvyčajne tvorí 15-35 % objemu tokenov, nesie však 60-80 % vnímanej strategickej hodnoty.
• Kedy malý model (pracovný alebo rýchly)? Pri jednoduchých, častých a dobre definovaných krokoch: klasifikácia, extrakcia, sumarizácia, samotné rozhodnutia o smerovaní, štandardné formátovanie. Tu už príplatok za frontier model podľa analýzy nie je ekonomicky nevyhnutný.
• Kedy open source alebo suverénny hosting v EÚ? Keď prevažuje suverenita, rezidencia dát, kontrola nákladov pri vysokom objeme alebo požiadavky na spolurozhodovanie zamestnancov, najmä pri agentoch, ktorí ovplyvňujú prácu zamestnancov, a pri agentoch spracúvajúcich zákaznícke údaje.

Prečo binárna otázka výberu modelu v roku 2026 už neplatí

Odstup v schopnostiach medzi najlepšími open-weight modelmi a uzavretými frontier modelmi sa podľa analýzy zúžil z 12-18 mesiacov (2024) na 3-6 mesiacov (2026); pri niektorých typoch úloh je nulový alebo dokonca záporný. Konkrétne, stav apríl až máj 2026: Kimi K2.6 (1T parametrov, Modified MIT, open-weight) bol v indexe Artificial Analysis Intelligence Index celkovo na 4. mieste, len za modelmi od Anthropic, Google a OpenAI, a na SWE-Bench Pro dosiahol s 58,6 % paritu s GPT-5.5. DeepSeek V4 Pro dosiahol na SWE-Bench Verified 80,6 % a rating Codeforces 3 206. Vyššie bol Gemini 3 Deep Think, pre ktorý Google vo februári 2026 uviedol rating Codeforces 3 455.

Zároveň v rovnakom období zostal náskok frontier modelov pri určitých krokoch reálny a nezanedbateľný: na FrontierMath dosiahol GPT-5.5 Pro najlepší verejne známy matematický výsledok, na GPQA Diamond viedol Gemini 3.1 Pro s 94,3 % a Claude Opus 4.7 dosiahol na SWE-Bench Verified 87,6 %. Pri zriedkavých a hodnotných úlohách náročných na uvažovanie, ako je právna rešerš, tvorba vedeckých hypotéz alebo komplexná finančná analýza, boli uzavreté frontier modely teda citeľne lepšie.

Pre výber modelu to znamená: poctivá otázka neznie „open alebo closed?“, ale „ktorý krok patrí na akú úroveň?“.

Nákladová páka: prečo sa smerovanie oplatí

Ekonomickým motorom LLM smerovania je cenový rozptyl. Uzavreté frontier modely sú podľa analýzy pri výstupe 8-100x drahšie než lacné open-weight modely. Kto posiela každý krok agenta, aj jednoduchú klasifikáciu e-mailu, na frontier model, platí prémiové ceny za kvalitu, ktorú daný krok vôbec nepotrebuje.

Nasledujúci prehľad ukazuje reprezentatívne cenníkové ceny (USD za milión tokenov, vstup/výstup). Nové generácie modelov vychádzajú s odstupom niekoľkých mesiacov. Ceny a verzie si preto over pred každým viacročným záväzkom.

Rozptyl je drastický: v typickom porovnaní sa ceny za výstup líšia 8- až 100-násobne; pri porovnaní najdrahšieho frontier modelu s najlacnejším pracovným modelom stojí GPT-5.5 Pro pri výstupe dokonca približne 640-násobok ceny DeepSeek V4 Flash. Práve táto medzera robí zo smerovania ekonomický štandard.

Princíp routera: priradenie úlohy k modelu

LLM router zaradí prichádzajúce kroky do triedy podľa zložitosti a požiadaviek na compliance a vyberie najlacnejší model, ktorý požiadavku splní. V praxi často samotnú klasifikáciu úlohy robí malý, rýchly model a až potom ide vlastná práca na vhodný cieľový model. Srdcom je smerovacia tabuľka:

Štyri dimenzie kompromisov

Analýza štruktúruje výber modelu podľa štyroch dimenzií, ktoré dobrý router zohľadňuje spoločne:

• Kvalita (kontrola nad váhami a schopnosti): Koľko hĺbky uvažovania krok naozaj potrebuje? A kto model kontroluje: závisí ako uzavreté API výlučne od roadmapy dodávateľa, alebo ho ako open-weight model môžeš preniesť k inému poskytovateľovi inferencie či na vlastný hosting?
• Náklady (nákladový profil): Uzavreté modely s platbou za token (prémiové, plne variabilné), open-weight modely s platbou za token cez poskytovateľa inferencie (stredná úroveň) alebo vlastný hosting (fixné náklady, hraničné náklady na token pri vysokom vyťažení takmer nulové). Vlastný hosting sa podľa analýzy stáva naozaj atraktívnym až pri stálom objeme 5-50 mil. tokenov denne a len s existujúcou kapacitou MLOps.
• Latencia: Špecialisti na rýchlosť ako Groq (LPU) a Cerebras (wafer-scale) dosahujú pri vybraných modeloch time-to-first-token pod jednu sekundu. To rozhoduje pri interaktívnych agentoch, pri nočnom dávkovom spracovaní nie.
• Compliance (suverenita hostingu): Región EÚ u amerického hyperscalera podľa analýzy nie je to isté ako suverénna infraštruktúra v EÚ. Znižuje latenciu a trenie s GDPR, neodstraňuje však jurisdikciu USA (CLOUD Act, OFAC). Štrukturálne mimo dosahu USA sú len suverénne európske platformy (STACKIT, OVHcloud, T-Systems Open Telekom Cloud, IONOS, Hetzner) a on-prem.

Open source vs. proprietárne modely: triezve zváženie

Tu sa oplatí pozorný pohľad, pretože „open“ má viac rozmerov. Open-weight znamená, že váhy sa dajú stiahnuť, nie automaticky, že licencia je bez obmedzení. Mistral Large 3 (Apache 2.0, suverénny v EÚ) a Phi-4 (MIT) sú permisívne. Llama 4 naopak podlieha licencii Llama Community License s prahom 700 mil. MAU a s obmedzením pre multimodálne modely v EÚ. Meta vylúčenie multimodálnych modelov Llama z EÚ v júli 2024 zdôvodnila nepredvídateľným európskym regulačným prostredím. Podľa správ išlo o neistý výklad GDPR pri trénovaní na údajoch používateľov z EÚ, nie o AI Act. OSI výslovne neuznáva Llama ako open source.

Čínske open-weight modely (DeepSeek V4 pod licenciou odvodenou od MIT, Kimi K2.6 pod Modified MIT, Qwen 3.6-27B pod Apache 2.0) sú licenčne skutočne permisívne, permisívnejšie než Llama. Jurisdikciu pôvodu však podľa analýzy permisívna licencia nevyváži. Pre koncerny z regiónu DACH s americkou dcérskou spoločnosťou, so záväzkami voči americkým zmluvným partnerom alebo s kritickou infraštruktúrou nesie táto možnosť neurčité geopolitické chvostové riziko (exportné kontroly, reputačné riziko), ktoré treba výslovne obmedziť pre každý typ úlohy. Prijateľné je to napríklad pri agentoch na programovanie nad verejným kódom alebo pri dávkovej klasifikácii verejne dostupných textov, problematické pri citlivých zákazníckych údajoch.

Suverenita je v roku 2026 navyše merateľným kritériom pri obstarávaní: podľa Bitkomu (november 2025) sa 89 % nemeckých firiem, ktoré dovážajú digitálne tovary alebo služby, považuje za závislé od tohto dovozu. V prieskume Bitkomu zverejnenom v máji 2025 považuje 68 % obyvateľov Nemecko v oblasti AI za príliš závislé od USA a Číny. V rokovaniach so zamestnaneckou radou spôsobuje suverénna infraštruktúra v EÚ štrukturálne menej trenia, pretože audítorské práva, rezidencia dát a jurisdikcia dodávateľa sa dajú dohodnúť jednoduchšie.

Nenápadné, ale dôležité upozornenie: vyjadrenia o compliance a licenciách tu nie sú právnym poradenstvom. Pre smerovanie je relevantná jedna hranica z analýzy: kto open-weight model podstatne dolaďuje (orientačný prah podľa EU AI Act: viac než tretina výpočtového výkonu pôvodného pretrainingu, predvolene 3,33 × 10²² FLOPs), môže sa sám stať poskytovateľom modelu GPAI. LoRA/QLoRA je zvyčajne hlboko pod touto hranicou; pokračujúci pretraining (continued pretraining) ju takmer vždy prekročí. To je argument staviť pri prispôsobovaní modelu na RAG a prompt engineering namiesto náročného fine-tuningu a zároveň dôvod dať konkrétne právne posúdenie odborne preveriť.

Praktický príklad: agent zákazníckej podpory so zmiešaným smerovaním

Agent zákazníckeho servisu spracuje denne 100 000 požiadaviek. Bez routera beží všetko na Claude Opus 4.7 (5/25 USD za mil. tokenov). S routerom vyzerá priradenie takto:

• Krok 1: klasifikácia zámeru (70 % záťaže): Rýchly open-weight model ako Ministral 3 (0,15/0,40 USD) klasifikuje požiadavku a pri výstupe je približne 60-krát lacnejší než Opus. Suverénny je tento krok len vtedy, keď model beží na suverénnej platforme v EÚ alebo on-prem. Región EÚ amerického poskytovateľa inferencie znižuje trenie s GDPR, neodstraňuje však jurisdikciu USA.
• Krok 2: štandardná odpoveď zo znalostnej bázy (20 % záťaže): Európsky pracovný model ako Mistral Large 3 (0,50/1,50 USD, Apache 2.0, suverénny v EÚ) vygeneruje odpoveď cez RAG, so silným výkonom v nemčine a s rezidenciou dát v EÚ.
• Krok 3: eskalácia s komplexným uvažovaním nad zmluvami (10 % záťaže): Tu nastupuje frontier model (Claude Opus 4.7), pretože kvalita odpovede je obchodne kritická a príplatok sa oplatí.

Výsledok: drahá frontier cesta nesie už len desatinu záťaže, prevažná časť beží na lacných open-weight modeloch od Mistralu, ktoré sú pri suverénnom hostingu v EÚ aj suverénne. Pseudokód rozhodnutia o smerovaní:

```
intent = classify(poziadavka) # Ministral 3, suverénna platforma v EÚ
if intent in JEDNODUCHE:
return mistral_large_3(rag(poziadavka)) # suverénny pracovný model z EÚ
elif intent == ZMLUVA_KOMPLEX:
return claude_opus_47(poziadavka) # frontier len tam, kde treba
```

Aby sa smerovanie nestalo pascou závislosti od dodávateľa, analýza odporúča vrstvu prenositeľnosti (napríklad LiteLLM alebo OpenRouter na smerovanie medzi viacerými poskytovateľmi) a aspoň jednu tenkú migračnú cestu na open-weight modely pre najdôležitejšie úlohy, k tomu priebežné vyhodnocovanie na odloženej testovacej množine (held-out), pretože aktualizácie uzavretých API prebiehajú automaticky a tiché zhoršenia schopností sú viackrát zdokumentované.

Pre agentúry a B2B rozhodovateľov

Premyslený LLM router nie je v roku 2026 voliteľný doplnok, ale páka, od ktorej zároveň závisia náklady, kvalita odpovedí a súlad agenta s GDPR. Správna architektúra je takmer vždy hybridná. Skutočná práca spočíva v tom, pre každý typ úlohy čisto rozhodnúť, ktorý krok potrebuje kvalitu frontier modelu, ktorý môže bežať na lacnom európskom modeli a kde je suverenita záväzná. Práve takúto smerovaciu logiku, prenositeľnosť medzi dodávateľmi a vhodný mix suverénnej infraštruktúry v EÚ a uzavretých frontier modelov navrhuje Blck Alpaca ako viedenská agentúra pre AI agentov spolu s firmami z regiónu DACH. Ak chceš vedieť, aký mix modelov sedí k tvojim úlohám, tvojmu profilu compliance a tvojmu rozpočtu, ozvi sa nám.