Základy LLM pre AI agentov

Čo znamená „LLM ako reasoning engine“?

AI agent je viac než chatbot: sleduje cieľ v niekoľkých krokoch, volá nástroje, pozoruje výsledky a rozhoduje, čo urobí ďalej. V strede tejto slučky stojí veľký jazykový model (Large Language Model, LLM) ako reasoning engine, teda inštancia, ktorá plánuje, zvažuje, vyberá nástroje a interpretuje výsledky.

Metafora, ktorá výrazne ovplyvnila prax, pochádza od Andreja Karpathyho (jún 2025): LLM je procesor (CPU), kontextové okno operačná pamäť (RAM) a inžinier preberá úlohu operačného systému, ktorý pamäť v každom kroku naplní správnymi informáciami. Z toho vyplýva hlavný poznatok pre rok 2026: agenti v produkcii takmer nikdy nezlyhávajú preto, že je model „príliš malý“. Zlyhávajú preto, že je kontext chybne zostavený. Tím Applied AI spoločnosti Anthropic opisuje context engineering ako prirodzený vývoj prompt engineeringu: ide o výber tokenov, ktoré sa dostanú do obmedzeného kontextového okna. Od tohto výberu závisí, či agent beží spoľahlivo.

Ak staviaš agentov, potrebuješ preto pevný základ v štyroch oblastiach: tokeny, kontextové okno, function calling a voľba modelu (open source vs. proprietárne modely). Táto prehľadová stránka zhŕňa základy. Hlbšie témy (context engineering, RAG, FinOps, compliance) majú vlastné stavebné bloky.

Tokeny: jednotka spracovania a nákladov

LLM nespracúvajú text po slovách, ale po tokenoch, teda podslovných jednotkách (subwords), ktoré z textu vytvára tokenizér. Tokeny sú zároveň jednotkou účtovania: poskytovatelia účtujú vstupné a výstupné tokeny zvlášť, väčšinou za milión tokenov.

Pre región DACH nie je tokenizácia okrajová téma, ale merateľný nákladový faktor. Nemčina vytvára v bežných BPE tokenizéroch o 30-50 % viac tokenov na rovnaký obsah ako angličtina. Príčiny:

• Zložené podstatné mená (compound nouns): „Lebensversicherungsgesellschaftsangestellter“ sa rozpadne na dlhý reťazec podslov, zatiaľ čo „life insurance company employee“ sa rozloží na známe slovné tokeny.
• Flexia: Nemecké pádové a slovesné koncovky vytvárajú morfologické varianty, ktoré tokenizér zachytí ako samostatné podslová.
• Skreslenie tokenizéra (tokenizer bias): Trénovacie dáta bežných tokenizérov sú prevažne anglické, zriedkavé nemecké podslová sa preto rozkladajú jemnejšie.

Z toho vyplývajú tri praktické dôsledky. Po prvé, efektívne kontextové okná pojmú menej obsahu (do okna s veľkosťou 200K sa zmestí len toľko nemeckého obsahu, koľko by v angličtine zabralo približne 130K-150K tokenov). Po druhé, náklady na jedno volanie sú úmerne o 30-50 % vyššie. Po tretie, prompt caching sa pri workloadoch v regióne DACH oplatí ešte viac ako pri anglických, pretože zľava pôsobí na väčší počet tokenov.

Dôležitá poznámka k migrácii modelov: Claude Opus 4.7 prišiel s novým tokenizérom, ktorý pri mnohých vstupoch generuje až o 35 % viac tokenov ako Opus 4.6. Pri rovnakých cenách za token tak môžu efektívne náklady na jednu požiadavku (cost per request) stúpnuť už samotnou zmenou tokenizéra. Pred každou migráciou preto platí: otestuj model na profile vlastného workloadu.

Kontextové okno: nominálne verzus efektívne

Kontextové okno je maximálny počet tokenov, ktoré model pri jednej požiadavke dokáže „vidieť“, teda systémový prompt, definície nástrojov, obsah z retrievalu, históriu konverzácie a miesto na odpoveď dohromady. V roku 2026 sú nominálne veľké okná štandardom: Claude Opus 4.7 a Sonnet 4.6 podporujú 1M tokenov, Gemini 3.1 Pro tiež približne 1M.

Rozhodujúce však je: nominálna kapacita sa nerovná efektívnej. Štúdia „Context Rot“ od spoločnosti Chroma (júl 2025, 18 frontier modelov) empiricky ukázala, že výkon všetkých modelov s rastúcou dĺžkou vstupu klesá. Navzájom sa pritom zosilňujú tri mechanizmy:

1. Lost-in-the-Middle: Modely venujú viac pozornosti začiatku a koncu kontextu, stredu menej.
2. Riedenie pozornosti (attention dilution): Kvadratická zložitosť mechanizmu attention znamená pri 100K tokenoch už približne 10 miliárd párových vzťahov.
3. Rušivé obsahy (distractor interference): Sémanticky podobný, ale irelevantný obsah aktívne zvádza k chybným odpovediam.

Výsledok závisí od typu úlohy: pri jednoduchom vyhľadávaní faktov (factoid retrieval) novšie modely výrazne dobehli, pri viackrokovom uvažovaní (multi-hop reasoning) zostáva efekt štrukturálny. Ako heuristika pre produkciu platí: efektívna pracovná kapacita je 30-50 % nominálnej pri úlohách náročných na reasoning a 60-80 % pri úlohách zameraných na retrieval. Kto naplní 1M okno úplne, plytvá zdrojmi a platí za to nižšou kvalitou.

Praktickou odpoveďou na context rot nie je „napchať tam viac“, ale starostlivý výber: stabilné časti ukladať do cache, dynamický obsah načítavať cielene, starý obsah odstraňovať (pruning) a pri 70-85 % zaplnení okna komprimovať (compaction). Tomu sa venuje stavebný blok context engineering.

Function calling a tool use: LLM ako aktér

Aby sa LLM stal motorom agenta, musí vedieť konať, teda vytvárať štruktúrované volania externých funkcií. Mechanizmom na to je function calling (aj tool use): model dostane definície nástrojov vo formáte JSON Schema a podľa potreby vráti štruktúrované volanie s parametrami, ktoré aplikácia vykoná.

Najdôležitejšie zistenie z praxe v roku 2026: keď agent koná nesprávne, príčina väčšinou nie je v modeli, ale v definícii nástroja. Anthropic formuluje zásadu ostro: ak ľudský inžinier nevie jednoznačne povedať, ktorý nástroj treba v danej situácii použiť, nevie to ani agent. Konkrétne dôsledky:

• Počet nástrojov: Optimálne je 3-7 aktívne načítaných nástrojov, približne od 10 nástrojov začína merateľný pokles kvality. V interných MCP evaluáciách spoločnosti Anthropic stúpla presnosť výberu nástroja (tool selection accuracy) s dynamickým vyhľadávaním nástrojov zo 49 % na 74 % (Opus 4), resp. zo 79,5 % na 88,1 % (Opus 4.5).
• Prekrývanie nástrojov je fatálne: Dva nástroje, ktoré by mohli vierohodne vybaviť tú istú požiadavku, sú jediný problém, ktorý nevyrieši ani najlepší prompt. Jasná klauzula „kedy nepoužívať“ v popise nástroja je najúčinnejšia a často zabúdaná súčasť.
• Štruktúrované výstupy: Pre nadväzujúce (downstream) systémy musia byť výstupy spoľahlivo strojovo čitateľné. Funkcia Structured Outputs od OpenAI (všeobecne dostupná od augusta 2024) dosahuje cez constrained decoding 100 % zhodu so schémou. Anthropic dosahuje to isté cez tool use s JSON Schema, open-weight modely cez dekódovanie obmedzené gramatikou (grammar-constrained decoding: Outlines, jsonformer, vLLM).

Štandardom na pripájanie nástrojov je v roku 2026 Model Context Protocol (MCP), ktorý Anthropic zverejnil v novembri 2024 ako štandard postavený na JSON-RPC. Podľa odvetvových správ stúpol počet stiahnutí SDK z ~100 000 mesačne (nov. 2024) na ~97 mil. mesačne (marec 2026) a MCP prijali OpenAI, Google aj Microsoft. (Tieto čísla stiahnutí pochádzajú zo správ dodávateľov a odvetvia a nie sú nezávisle overené. Samotný trend prijímania sa považuje za nesporný.) Na hodnotenie kvality tool callingu zostáva najrelevantnejším benchmarkom Berkeley Function-Calling Leaderboard (BFCL), s výhradou, že žiadny model nevedie vo všetkých kategóriách a closed-weight modely sú pri zložitom viackolovom používaní nástrojov (multi-turn tool use) stále vpredu.

Open source vs. proprietárne modely: voľba modelu

Voľba základného modelu je strategicky najzávažnejšie rozhodnutie. V roku 2026 už nie je binárnou otázkou, ale alokáciou portfólia. Najprv k pojmom, pretože „otvorený“ má viacero rozmerov:

• Closed/proprietárne: Iba cez API, váhy nie sú dostupné (Claude, GPT-5.5, Gemini).
• Open-weight: Váhy sa dajú stiahnuť, niekedy pod reštriktívnymi licenciami. Llama je open-weight, ale OSI a FSF ju výslovne nezaraďujú medzi open source, okrem iného pre prah 700 mil. aktívnych používateľov mesačne (MAU) a obmedzenie multimodálnych funkcií v EÚ pri Llama 4.
• Open Source AI podľa definície OSI (OSAID 1.0, okt. 2024): navyše vyžaduje otvorený kód na tréning a inferenciu a dostatočnú transparentnosť trénovacích dát. Väčšina modelov predávaných ako „open source“ túto latku nespĺňa.

Hlavný trend: výkonnostný odstup (capability gap) medzi najlepšími open-weight modelmi (DeepSeek V4 Pro, Kimi K2.6, Mistral Large 3, Qwen 3.6, Llama 4 Maverick) a uzavretými frontier modelmi (stav máj 2026: Claude Opus 4.7, GPT-5.5 Pro, Gemini 3.1 Pro) sa zúžil z 12-18 mesiacov (2024) na 3-6 mesiacov (2026). Pri niektorých štandardných workloadoch, ako je rutinné programovanie alebo matematické úlohy pod úrovňou frontier modelov, je prakticky nulový. Kimi K2.6 (1T parametrov, open-weight) je napríklad v rebríčku Artificial Analysis Intelligence Index na 4. mieste (hodnota 54), hneď za Anthropicom, Googlom a OpenAI (všetky tri s hodnotou 57).

Zároveň sú pri prémiových workloadoch (agentické programovanie na najvyššej úrovni, frontier matematika, dlhý kontext, prémiová multimodalita) uzavreté frontier modely reálne lepšie. V mnohých firmách patrí do tejto prémiovej kategórie len malá časť objemu tokenov, ale veľká časť strategickej hodnoty. Hybridný prístup je preto ekonomicky nevyhnutný.

Ceny podľa verejných cenníkov dodávateľov, stav apríl-máj 2026. Pred každým viacročným záväzkom ich over.

Triezva rozhodovacia logika má štyri dimenzie: kontrola nad váhami (kto môže model dodať, kedy a za akých podmienok?), suverenita hostingu (akej jurisdikcii podlieha stack?), cesta prispôsobenia (hotový model, prompt, RAG, LoRA, plný fine-tuning) a nákladový profil (platba za token vs. amortizácia vlastného hostingu). Pri väčšine štandardných workloadov (klasifikácia, extrakcia, znalostní asistenti postavení na RAG, jazykové workflowy v nemčine) už príplatok za uzavreté frontier modely nie je ekonomicky nutný.

Región DACH: suverenita a compliance

V regióne DACH ovplyvňujú voľbu modelu ešte tri ďalšie faktory. Po prvé nálada v prospech suverenity: podľa Bitkomu (štúdia Digitale Souveränität 2025, 603 firiem) sa 89 % firiem, ktoré dovážajú digitálne technológie, považuje za závislé. V prieskume medzi obyvateľmi (8. až 11. kalendárny týždeň 2026) považuje 72 % respondentov Nemecko v oblasti AI za príliš závislé od USA a 67 % by rado používalo nemeckú AI. Komerčne dôveryhodnú suverénnu možnosť v EÚ ponúka Mistral. Druhá by mohla vzniknúť z firiem Cohere a Aleph Alpha: obe spoločnosti v septembri 2026 zmluvne potvrdili svoje spojenie ohlásené v apríli 2026. Pri ohlásení bolo ocenenie podľa tlačových správ približne 20 mld. USD. Výpočtovú kapacitu má dodávať skupina Schwarz cez STACKIT. V septembri 2026 bolo dokončenie transakcie ešte podmienené schválením úradov. Zlúčená firma má pôsobiť pod menom Cohere so sídlami v Toronte a Berlíne. Ide teda o kanadsko-nemeckú, nie čisto európsku možnosť.

Po druhé: región EÚ u amerického hyperscalera (napríklad Claude na AWS Bedrock vo Frankfurte) znižuje latenciu a komplikácie s GDPR, ale neodstraňuje jurisdikciu USA (CLOUD Act). Skutočná suverenita predpokladá suverénny európsky stack (STACKIT, OVHcloud, T-Systems, IONOS) alebo prevádzku on-premise.

Po tretie platia regulačné upozornenia (informatívne, nejde o právne poradenstvo): modely dostupné cez uzavreté API sú GPAI modelmi svojich poskytovateľov. Nasadzujúci subjekt (deployer) v regióne DACH nesie povinnosti nasadzujúceho subjektu. Ak open-weight model podstatne dotrénuješ (fine-tuning), môžeš sa sám stať poskytovateľom GPAI modelu. Usmernenie európskeho Úradu pre AI (AI Office) z júla 2025 uvádza orientačný, nezáväzný prah nad 1/3 výpočtového objemu (compute), ktorý si vyžiadal pretraining základného modelu (ak nie je známy, predvolene 3,33 × 10²² FLOPs). LoRA/QLoRA sú zvyčajne výrazne pod touto hranicou, continued pretraining nad ňou. Povinnosti poskytovateľov GPAI modelov platia od 2. augusta 2025. Od 2. augusta 2026 ich Európska komisia (Úrad pre AI) môže vymáhať aj pokutami (čl. 101 a čl. 113 AI Act). K tomu pribúdajú povinnosti podľa GDPR pre tréningovú pipeline, ak model dotrénuješ na osobných údajoch. Podrobnejšie sa týmto bodom venujú príslušné stavebné bloky o compliance.

Výhľad a poznámka pre prax

Základy LLM nie sú učivo, ktoré sa naučíš raz, ale pohyblivý cieľ: tokenizéry sa menia, kontextové okná rastú, nové modely vychádzajú každý mesiac a výsledky benchmarkov kolíšu podľa testovacieho prostredia (test harness) o 5-10 percentuálnych bodov. Osobitnú pozornosť si zaslúžia tri otvorené otázky na roky 2026/2027: či sa výkonnostný odstup medzi open a closed modelmi bude ďalej zmenšovať, či dlhé kontextové okná splnia sľub „napchaj tam všetko“ (zatiaľ nie, context engineering zostáva potrebný) a či suverénna európska infraštruktúra dosiahne rozsah porovnateľný s americkými hyperscalermi.

Pre prax preto platí jednoduchá disciplína: Nevyberaj podľa marketingového blogu, ale meraj na vlastnej sade evaluácií (eval set). Ak voľbu modelu, rozpočet kontextu a návrh nástrojov overuješ na reálnych záznamoch behov (traces) namiesto intuície, postavíš agentov, ktorí v produkcii obstoja. Zároveň si zachováš strategickú flexibilitu: pri zmene cien, licencií alebo schopností modelov môžeš zmeniť poskytovateľa bez toho, aby si začínal odznova.