Reasoning a plánovanie pri AI agentoch

Definícia: ako AI agenti premýšľajú a plánujú?

Reasoning a plánovanie pri AI agentoch opisujú, ako AI agent premýšľa a koná: iteratívne prechádza slučkou Perceive → Reason → Act → Observe. Vníma svoje okolie, pomocou LLM vyvodzuje závery, samostatne volí ďalší krok alebo nástroj, vykoná ho, pozoruje výsledok a upravuje svoj plán, kým nedosiahne cieľ. Práve toto dynamické riadenie zo strany LLM, a nie pevne zadrôtovaný postup, odlišuje agenta od klasickej automatizácie.

Tri kľúčové odpovede hneď na úvod:

• Reasoning je schopnosť jadra LLM vyvodzovať závery: ktorý krok alebo ktorý nástroj má ako ďalší zmysel? Tu sa rozhoduje, či sa nástroj vôbec použije, a ak áno, ktorý.
• Plánovanie rozkladá cieľ na čiastkové kroky. Môže prebiehať implicitne v LLM alebo byť explicitne modelované ako graf. Plán pritom nie je jednorazový harmonogram. V slučke sa iteratívne upravuje.
• Pravdepodobnostný charakter znamená: výstup nie je deterministicky reprodukovateľný. Ten istý vstup môže viesť k rôznym cestám, preto k tomu nevyhnutne patria tracing a evaluácie (evals).

Slučka reasoningu: Perceive → Reason → Act → Observe

Srdcom každého agenta je iteratívny mechanizmus slučky. Koncepčne vychádza z vzoru ReAct (Yao et al. 2022, arXiv:2210.03629), ktorý spája reasoning a acting v tej istej slučke LLM: agent strieda úvahu a konanie, namiesto toho, aby len premýšľal a odpovedal.

Slučka prebieha v štyroch krokoch:

1. Perceive: Agent vníma vstup a cieľ, aktuálny kontext a svoju pamäť.
2. Reason: LLM plánuje, ktorý nástroj alebo krok má ako ďalší zmysel.
3. Act: Agent vykoná akciu (volanie nástroja, volanie API, spustenie kódu).
4. Observe: Agent načíta výsledok a zapíše ho do pamäte.

Potom agent overí: je cieľ dosiahnutý? Ak nie, slučka začne znova pri Perceive. Bezpečnostné mechanizmy ako limity slučky, tokenové rozpočty a body human-in-the-loop pritom zabraňujú nekonečnému zacykleniu alebo nezvratným chybným krokom.

Konkrétny príklad

Predpokladajme, že agent má odpovedať na otázku: „Aký bol podiel nemeckých firiem využívajúcich AI v roku 2024 v porovnaní s dneškom?“

• Reason: LLM rozpozná, že potrebuje dve hodnoty zo spoľahlivého zdroja a nemal by citovať fakty zo svojich interných znalostí. Naplánuje krok vyhľadávania.
• Act: Zavolá vyhľadávací nástroj (web_search s dopytom „Bitkom využívanie AI nemecké firmy 2024“).
• Observe: Načíta výsledok, napríklad že podľa Bitkomu v roku 2024 využívalo AI ešte len 20 % firiem s 20 a viac zamestnancami, v roku 2026 naproti tomu už 57 %.
• Reason (iterácia 2): LLM zistí, že má obe hodnoty, a namiesto ďalšieho volania nástroja sformuluje odpoveď.

Chatbot by na otázku odpovedal v jednom kroku zo svojich tréningových znalostí, možno so zastaranými alebo vymyslenými číslami. Agent naproti tomu plánuje cestu dynamicky a slučku ukončí až vtedy, keď dosiahne cieľ.

Implicitné vs. explicitné plánovanie

Plánovanie sa dá realizovať dvoma spôsobmi. Voľba určuje, nakoľko je agent kontrolovateľný a sledovateľný.

V praxi leží „optimálna zóna“ pre B2B aplikácie v produkcii medzi L3 a L4: dosť autonómie, aby LLM volil cestu dynamicky, a zároveň dosť štruktúry, aby sa priebeh dal riadiť. Plánovač (planner) rozkladá cieľ, vykonávací komponent (executor) vykonáva volania nástrojov, riadi kolá (turns) aj limity slučky a presadzuje ochranné mantinely (guardrails).

Prečo je výstup pravdepodobnostný a čo to znamená

Agent stavia na (veľkom) jazykovom modeli. LLM generujú svoj výstup pravdepodobnostne: vždy predpovedajú nasledujúci token s určitou pravdepodobnosťou. Z toho vyplýva zásadný, často podceňovaný dôsledok: ten istý vstup môže viesť k rôznym cestám reasoningu a k rôznym výsledkom. Agent nie je deterministická pipeline.

Práve tu leží jedno z najčastejších úskalí: zaobchádzať s agentmi ako s deterministickými systémami. Kto od agenta očakáva reprodukovateľnú spoľahlivosť klasického skriptu, plánuje nesprávne a prekvapia ho odchýlky, chybné rozhodnutia a kolísajúce náklady.

Praktická odpoveď na to má dve časti:

• Tracing zviditeľní každý krok slučky: aké rozhodnutie padlo v kroku Reason, ktorý nástroj sa zavolal, aký výsledok z kroku Observe sa spracoval? Bez tejto sledovateľnosti zostáva agent čiernou skrinkou a príčiny chýb sa nedajú nájsť.
• Evaluácie (evals) systematicky overujú správanie voči očakávaným výsledkom. Namiesto spoliehania sa na výstupy meriaš úspešnosť cez mnoho behov a odhalíš regresie skôr, než napáchajú škody v produkcii.

Viaceré popredné frameworky to riešia priamo: napríklad OpenAI Agents SDK obsahuje tracing ako pevnú súčasť. Observability tak nie je doplnok, ale základný predpoklad pre agentov v produkcii: chýbajúca observability patrí ku klasickým chybám projektov.

Doložené fakty o stupni zrelosti

Stav trhu ukazuje, že architektúry pre reasoning a plánovanie sú ešte mladé a náchylné na chyby:

• Podľa McKinsey State of AI 2025 škáluje aspoň jeden agentický prípad použitia ešte len 23 % firiem, ďalších 39 % experimentuje. V žiadnej jednotlivej funkcii firmy však neuvádza viac ako 10 % respondentov, že ich firma v nej škáluje agentov.
• Gartner (jún 2025) predpovedá, že viac ako 40 % agentických AI projektov bude do konca roka 2027 zrušených, často pre podcenenú komplexnosť a náklady.

Obe čísla ukazujú, prečo o úspechu alebo o „pilot purgatory“ (uviaznutí v pilotnej fáze) rozhodujú spoľahlivý reasoning, kontrolované plánovanie a priebežná observability.

Prax: zabezpečenie slučiek reasoningu

Z toho, ako slučka funguje, vyplývajú konkrétne mantinely pre produkčné nasadenie:

• Nastav limity slučky a tokenové rozpočty, aby si zabránil nekonečným slučkám a explózii nákladov na tokeny.
• Pre všetky nezvratné akcie naplánuj human-in-the-loop: agent plánuje, človek schvaľuje.
• Tracing zabuduj od prvého dňa, nie dodatočne. Len tak vôbec dokážeš diagnostikovať pravdepodobnostné chybné rozhodnutia.
• Evaluácie zaveď ako priebežný test voči výsledkovým KPI, namiesto toho, aby si úspech posudzoval len bodovo.
• Slučku nasaď len tam, kde sa cesta nedá vopred naplánovať. Ak sa priebeh dá úplne namodelovať, je automatizácia workflowu alebo copilot lacnejšia a spoľahlivejšia.

Tak sa z teoreticky mocnej, ale pravdepodobnostnej slučky reasoningu stane riaditeľný a sledovateľný systém: základ toho, aby projekt s agentmi nepatril medzi viac ako 40 % projektov, ktoré podľa Gartnera zlyhajú.