Few-Shot Prompting pre robustné výstupy agentov

Few-Shot Prompting označuje techniku, pri ktorej AI agentovi v prompte poskytneš niekoľko málo príkladov správnych vstupov a výstupov, aby si agent formát, štýl a logiku úlohy osvojil prostredníctvom In-Context Learning bez dotrénovania modelu. Správanie neopisuj v próze, ukáž ho: dva až päť reprezentatívnych prípadov, podľa ktorých sa model riadi v nasledujúcom kroku inferencie. Pre agentov pripravených na produkciu nie je Few-Shot hračka, ale jedna z najúčinnejších pák na spoľahlivé výstupné formáty a správny tool calling.

• Koľko: Dva až päť príkladov pre všeobecný výstup, jedno až tri kanonické volania na nástroj. Viac príkladov len zriedka pomáha lineárne.
• Ktoré: Rôznorodé, reprezentatívne prípady bez duplikátov a bez protirečení. Kvalita a pokrytie prevyšujú kvantitu.
• Kedy nie: Pri jednoduchých úlohách typu Zero-Shot alebo keď sa vyžaduje 100-percentná vernosť formátu, tu je schema-constrained decoding lepšou voľbou.

Few-Shot v kontexte: stavebný prvok Context Engineering

Few-Shot Prompting nie je samostatný postup popri Prompt Engineering, ale subdisciplína v rámci Context Engineering. Andrej Karpathy výslovne uvádza "few-shot examples" ako jeden z vedeckých stavebných prvkov, ktorými sa plní kontextové okno pre nasledujúci krok, popri opisoch úloh, RAG, nástrojoch a stave (state). Mentálny model pre agentov preto znie: príklady sú súčasťou tokenového substrátu, ktorý model vidí v každom kroku, nie jednorazovou inštrukciou.

Toto zaradenie má praktické dôsledky. Príklady súťažia so všetkým ostatným o rozpočet pozornosti a miesto pre tokeny. Kto nasadzuje Few-Shot, musí ho posudzovať v rámci kontextového rozpočtu, nie izolovane.

Zero-Shot, Few-Shot, One-Shot

• Zero-Shot: Iba opis úlohy, žiadne príklady. Rýchle, lacné, ideálne pre jednoduché alebo zrejmé úlohy.
• One-Shot: Presne jeden príklad. Užitočné na ukotvenie jednoznačného formátu bez veľkej záťaže tokenov.
• Few-Shot: Viacero príkladov, ktoré pokrývajú varianty a hraničné prípady (edge cases). Štandard pre výstupy agentov, pri ktorých sú kritické formát a logika.

Výber a reprezentatívnosť: skutočná inžinierska práca

Najčastejšou chybou nie je nesprávny počet, ale nesprávny výber. Typický anti-pattern v systémových promptoch: viacero protirečivých príkladov zvádza model, aby skopíroval ten najbližší. Nápravou sú rôznorodé, kanonické príklady bez duplikátov. Anthropic vo svojom návode na Context Engineering zo septembra 2025 takisto odporúča rôznorodé, kanonické príklady namiesto toho, aby sa každé pravidlo písalo do promptu ako dlhý zoznam hraničných prípadov.

Konkrétne znamená reprezentatívny výber:

• Pokryť varianty, nie ten istý prípad trikrát v miernej obmene. Ak agent spracúva faktúry, dobropisy a storná, patrí do promptu po jednom príklade z každého druhu, nie tri faktúry.
• Vedome ukázať hraničné prípady, napríklad prípad s chýbajúcimi povinnými poľami a správnu reakciu naň. Príklady učia aj správanie pri nejasnostiach.
• Konzistentný formát vo všetkých príkladoch. Odchýlky formátu medzi príkladmi sú jed, model nekonzistentnosť zopakuje.
• Žiadne protirečivé signály. Ak príklad A jedno pole vynechá a príklad B ho vyplní bez toho, aby sa dal rozdiel vysvetliť, model háda.

Vplyv na tool calling a spoľahlivosť výstupu

Tu sa Few-Shot vypláca najviac. Pre definíciu nástroja zaviedol Anthropic v novembri 2025 Tool Use Examples: pole input_examples, ktoré dodáva ukážkové volania priamo vedľa schémy. Anthropic odporúča 1 až 5 realistických príkladov na nástroj, v interných testoch sa tým presnosť pri zložitých parametroch zvýšila zo 72 na 90 percent. Bez príkladov model pri vnorených alebo voliteľných parametroch háda. Ako orientačné pravidlo zvyčajne stačia jedno až tri kanonické volania na nástroj, pretože každý príklad stojí tokeny. Súvislosť so spoľahlivosťou výberu nástrojov (tool selection) je úzka: v tom istom príspevku Anthropic uvádza, že Tool Search Tool pri veľkých knižniciach nástrojov zvyšuje presnosť výberu nástrojov v interných MCP evaluáciách pri modeli Opus 4 zo 49 na 74 percent a pri modeli Opus 4.5 zo 79,5 na 88,1 percenta. Dobré príklady v opise nástroja (tool description) sú súčasťou tej istej disciplíny.

Pre finálny výstup platí dôležité vymedzenie. Tam, kde sa záväzne vyžadujú strojovo spracovateľné štruktúry, samotný Few-Shot nestačí. OpenAI Structured Outputs (GA od augusta 2024, pre GPT-4o-2024-08-06 a novšie modely) vynucuje cez constrained decoding na úrovni tokenov zdokumentovanú 100-percentnú zhodu so schémou (schema adherence). Anthropic dobehol v novembri 2025: Structured Outputs pre Claude boli spustené ako beta verzia a od februára 2026 sú všeobecne dostupné. JSON výstupy idú cez output_config.format, volania nástrojov cez Strict Tool Use so strict: true, oboje pomocou constrained decoding. Skoršie provizórne riešenie, vynútené použitie nástroja s pseudo-nástrojom ako return_structured_result, bez strict nezaručuje zhodu so schémou: podľa dokumentácie Anthropic môže Claude potom vrátiť nesprávne typy alebo vynechať povinné polia. Čisté rozdelenie práce v roku 2026: vynucovanie schémy (schema enforcement) zaručuje štruktúru, Few-Shot formuje štýl, voľbu slov, logiku a zaobchádzanie s hraničnými prípadmi, ktoré žiadna schéma nezachytí.

Kedy Few-Shot, kedy Zero-Shot, kedy Fine-Tuning

Rozhodnutie sa riadi tromi osami: zložitosťou úlohy, objemom a stabilitou požiadaviek.

• Zero-Shot, keď je úloha jednoduchá a formát nekritický. Každý ďalší token príkladu by bol premárnený.
• Few-Shot, hneď ako sa vyžaduje určitý formát, konzistentný štýl alebo netriviálna logika a požiadavky sa ešte menia. Few-Shot sa dá iterovať bez tréningového cyklu, to je jeho najväčšia výhoda.
• Fine-Tuning, až pri veľmi vysokom, stabilnom objeme, keď tokeny príkladov pri každom volaní ekonomicky zavážia alebo sa latencia stane kritickou. Spoločnosť Cognition Labs vytvorila pre Devin vlastný menší model na sumarizáciu, natrénovaný na vlastných záznamoch priebehu (traces), pretože generické prompty strácali príliš veľa detailov, čo je klasický prípad, v ktorom Few-Shot narazil na svoju hranicu.

Zmienku si zaslúži jeden medzistupeň: pri overovaní metódou LLM-as-Judge sú few-shot príklady v prompte hodnotiaceho modelu (pozitívne aj negatívne) štandardom. Hamel Husain odporúča kalibrovať takéto evaluácie s hodnotiacim modelom na viac než 100 označených príkladoch a každý týždeň ich udržiavať. To ukazuje hranicu medzi Few-Shot v prompte (málo príkladov) a dátovou základňou evaluácií (veľa príkladov), ktorá za ním stojí.

Úskalia: overfitting a náklady na tokeny

Overfitting na príklady je najnenápadnejšia pasca. Agent kopíruje povrchové znaky príkladov, napríklad určité poradie alebo formuláciu, namiesto toho, aby zovšeobecnil pravidlo, ktoré za nimi stojí. Symptóm: pri vstupoch podobných príkladom je výstup perfektný, pri odlišných prípadoch sa prudko zhorší. Protiliekom je cielená diverzita príkladov a sada evaluácií (eval set), ktorá preveruje práve nepokryté prípady.

Náklady na tokeny a Context Rot sú druhou pascou. Každý príklad sa posiela pri každom volaní. Štúdia Chroma Context Rot z júla 2025 testovala 18 modelov, medzi nimi GPT-4.1, Claude 4, Gemini 2.5 a Qwen3. Vo všetkých experimentoch výkon s rastúcou dĺžkou vstupu klesal. V kontexte DACH situáciu ďalej zhoršuje, že nemecký text potrebuje o 30 až 50 percent viac tokenov než ekvivalentný anglický. Nemecké few-shot príklady sú teda citeľne drahšie.

Najdôležitejšia ekonomická páka: stabilné bloky príkladov patria do cachovateľného prefixu promptu. Čítanie z cache (cache reads) stojí pri Anthropic približne 10 percent štandardnej vstupnej sadzby (stav 2026), pri Sonnet 4.6 asi 0,30 namiesto 3,00 USD za milión tokenov. Ak svoje few-shot príklady spolu so systémovým promptom a definíciami nástrojov udržiavaš stabilné a dynamickú časť dávaš až na koniec, platíš za tokeny príkladov prevažne sadzbu cache. Každá zmena príkladov cache zneplatní, preto: príklady verziuj a meň ich v plánovaných vydaniach, nie cez hotfix.

Konkrétny príklad: s Few-Shot a bez neho

Agent má z e-mailu vytvoriť štruktúrovanú požiadavku na záznam objednávky pre nástroj create_order.

Bez Few-Shot (Zero-Shot):

```
Systém: Vytvor z e-mailu volanie create_order.
Vstup: "Prosím 3x položku A-100 a 1 ks B-205 pre zákazníka č. 4711."
Výstup (typicky): {"zakaznik": "4711", "polozky": "A-100, B-205", "mnozstvo": "3 a 1"}
```

Výstup vyzerá vierohodne, ale je nepoužiteľný: množstvá a položky sú zlúčené do súvislého textu, názvy polí sa odchyľujú od schémy nástroja. Parsovanie v nadväzujúcich krokoch zlyhá.

S Few-Shot (dva kanonické príklady v prompte nástroja):

```
Príklad 1
Vstup: "2x C-300 pre zákazníka 9001"
Volanie: {"customer_id":"9001","items":[{"sku":"C-300","qty":2}]}

Príklad 2 (hraničný prípad: množstvo neuvedené -> predvolene 1)
Vstup: "Položka D-401 pre zákazníka 9002"
Volanie: {"customer_id":"9002","items":[{"sku":"D-401","qty":1}]}

Reálny vstup: "Prosím 3x položku A-100 a 1 ks B-205 pre zákazníka č. 4711."
Volanie: {"customer_id":"4711","items":[{"sku":"A-100","qty":3},{"sku":"B-205","qty":1}]}
```

Dva príklady stačia na to, aby ukotvili názvy polí, štruktúru poľa (array), predvolené správanie pri chýbajúcom množstve a oddelenie viacerých položiek. Z hľadiska nákladov: oba príklady pridávajú zhruba 150 až 250 tokenov na volanie, v nemčine úmerne viac. Ak sú v cachovanom prefixe, stoja pri opakovanom volaní len približne desatinu. Na zaručenie štruktúry sa toto few-shot nastavenie kombinuje so Strict Tool Use (strict: true) na schému create_order. Few-Shot potom nesie logiku, schéma formu. Výnimky uvádza sám Anthropic v dokumentácii k Structured Outputs: pri odmietnutí (stop_reason: "refusal") alebo pri prerušení na max_tokens sa výstup môže od schémy odchýliť.

Pre agentúry a B2B rozhodovateľov

Few-Shot Prompting je najrýchlejšia cesta, ako dostať agenta z "funguje v deme" do "spoľahlivý v produkcii" bez rozpočtu na tréning. Pre agentúry to znamená: investuj zavčasu do kurátorsky spravovanej, verziovanej zbierky príkladov pre každý prípad použitia, je to opakovane použiteľné aktívum a rozlišovací znak voči konkurencii. Pre B2B rozhodovateľov platí: vyžaduj od svojho implementačného partnera eval set, na ktorom sa príklady testujú, a jasné oddelenie medzi Few-Shot pre logiku a vynucovaním schémy pre formát. Ak chceš budovať agentové workflowy s preukázateľnou spoľahlivosťou výstupov, Blck Alpaca z Viedne ťa podporí pri návrhu, evaluácii a produkčnej prevádzke agentov, ktoré spĺňajú požiadavky regiónu DACH.