---
title: "Temperature, Top-p a sampling: nastavenia pre deterministických agentov"
description: "Temperature, Top-p a Top-k sú parametre samplingu, ktoré riadia, ako náhodne LLM vyberá nasledujúci token."
locale: "sk"
canonical: "https://blckalpaca.at/sk/vedomosti/ai-agenti/zaklady-llm-pre-ai-agentov/temperature-top-p-a-sampling-nastavenia-pre-deterministickych-agentov"
category: "AI agenti"
topic: "Základy LLM pre AI agentov"
updated: "2026-10-17T15:36:27.924Z"
source: "Blck Alpaca e.U., blckalpaca.at"
---

# Temperature, Top-p a sampling: nastavenia pre deterministických agentov

Temperature, Top-p a Top-k sú parametre samplingu, ktoré riadia, ako náhodne LLM vyberá nasledujúci token. Nízke hodnoty (Temperature 0 až 0,2) robia výstupy lepšie reprodukovateľnými a pre volania nástrojov a štruktúrované výstupy sú štandardom, pokiaľ model tento parameter povoľuje; vyššie hodnoty zvyšujú varianciu a hodia sa na kreatívny obsah.

## Na prvý pohľad

- Temperature škáluje pravdepodobnostné rozdelenie pred samplingom: hodnoty blízke 0 ho zaostrujú (takmer deterministické správanie), hodnoty nad 1 ho splošťujú (väčšia variancia, vyššie riziko halucinácií).
- Top-p (nucleus) a Top-k orezávajú množinu kandidátov: obmedzujú, z ktorých tokenov sa vôbec vyberá, a proti odľahlým tokenom sú ostrejším nástrojom než samotná Temperature.
- Pre spoľahlivých agentov platí, pokiaľ model tieto parametre povoľuje: deterministické volania nástrojov a JSON či štruktúrované výstupy s Temperature 0 až 0,2; reasoning a analýza 0,3 až 0,5; kreatívny obsah 0,7 až 1,0.
- Úplný determinizmus je v praxi zriedka zaručený: GPU floating-point, batching a MoE routing vytvárajú zvyškovú varianciu aj pri Temperature 0. Zafixovaná verzia modelu zabráni tichým aktualizáciám modelu, seed pomáha len pri Temperature nad 0. Bit-identické výstupy dodá až batch-invariantná inferencia.
- Stabilita má prednosť pred dôvtipom: v produkčných agentoch má reprodukovateľný výstup, ktorý sa dá vyhodnotiť, väčšiu hodnotu než občas brilantný, ale nepredvídateľný.

Temperature, Top-p a Top-k sú parametre samplingu, ktoré riadia, ako náhodne [Large Language Model](https://blckalpaca.at/sk/slovnik/large-language-model) (LLM) vyberá nasledujúci [token](https://blckalpaca.at/sk/slovnik/token). Nízke hodnoty (Temperature 0 až 0,2) robia výstupy lepšie reprodukovateľnými a pre [deterministické volania nástrojov a štruktúrované výstupy](https://blckalpaca.at/sk/sluzby/integracia-ai-agenta) sú štandardom, pokiaľ model tento parameter povoľuje; vyššie hodnoty zvyšujú varianciu a hodia sa na kreatívny obsah. Pre spoľahlivých agentov sú tieto nastavenia jednou z hlavných pák.

- **Deterministickí agenti bežia najstabilnejšie pri nízkej Temperature.** Pre volania nástrojov, klasifikáciu a JSON výstupy to znamená Temperature 0 až 0,2, pokiaľ model tento parameter povoľuje.
- **Top-p a Top-k orezávajú množinu kandidátov.** Proti nepravdepodobným odľahlým tokenom sú ostrejším nástrojom než samotná Temperature.
- **Skutočný determinizmus nie je samozrejmosť.** Aj pri Temperature 0 zostáva v dôsledku efektov GPU a batchingu zvyšková variancia, ktorú neodstráni ani seed, ani zafixovanie verzie.

## Ako funguje sampling v LLM

[LLM](https://blckalpaca.at/sk/slovnik/llm) vytvára text token po tokene. V každom kroku model vypočíta pravdepodobnostné rozdelenie nad celou slovnou zásobou (takzvané logity sa cez softmax prepočítajú na pravdepodobnosti). O tom, ktorý token sa skutočne vydá na výstup, rozhoduje **stratégia samplingu**. Práve tu zasahujú Temperature, Top-p a Top-k. Nemenia to, čo sa model naučil, ale iba to, ako sa z naučeného rozdelenia vyberie konkrétny token.

Toto rozlíšenie je pre agentov rozhodujúce: ten istý model, tie isté váhy a ten istý [prompt](https://blckalpaca.at/sk/slovnik/prompt) môžu podľa nastavení samplingu raz vyprodukovať správne parsovateľné [volanie nástroja](https://blckalpaca.at/sk/vedomosti/ai-agenti/model-context-protocol-mcp/mcp-vs-openapi-tool-use) a inokedy rozvláčny súvislý text. Kto sampling ignoruje, necháva spoľahlivosť svojho agenta na náhode.

### Temperature

Temperature škáluje rozdelenie predtým, ako sa z neho vyberá. Matematicky sa logity delia hodnotou Temperature:

- **Temperature smerom k 0:** Rozdelenie sa maximálne zaostrí. Dominuje najpravdepodobnejší token; správanie sa približuje **greedy decodingu**, teda čistému výberu najpravdepodobnejšieho tokenu. Výstupy sa dajú vo vysokej miere zopakovať.
- **Temperature okolo 1,0:** Rozdelenie zostáva takmer nezmenené. Model vyberá tokeny podľa naučených pravdepodobností.
- **Temperature nad 1,0:** Rozdelenie sa splošťuje. Nepravdepodobné tokeny dostávajú väčšiu váhu. To zvyšuje rozmanitosť a kreativitu, ale aj riziko nesúdržných výstupov a halucinácií.

### Top-p (nucleus sampling)

Top-p, nazývaný aj nucleus sampling, pracuje s orezávaním namiesto škálovania. Pri Top-p = 0,9 model zvažuje len najmenšiu množinu tokenov, ktorých kumulovaná pravdepodobnosť dosiahne aspoň 90 percent, a vyberá výlučne z tohto jadra (nucleus). Dlhý chvost nepravdepodobných tokenov sa úplne odreže. Top-p je dynamický: v kontextoch s jasným pokračovaním zostáva množina malá, pri otvorených formuláciách sa zväčšuje.

### Top-k

Top-k je najjednoduchšie orezávanie: ponechá len k najpravdepodobnejších tokenov a zvyšok zahodí. Top-k = 1 zodpovedá greedy decodingu. Top-k je statický (vždy rovnaký počet kandidátov) a dnes sa považuje za hrubší variant oproti adaptívnemu Top-p. Niektorí poskytovatelia a inferenčné stacky Top-k sprístupňujú, iní sa primárne spoliehajú na Temperature a Top-p.

## Prečo tieto nastavenia rozhodujú o spoľahlivosti agentov

Agent nie je [chatbot](https://blckalpaca.at/sk/slovnik/chatbot), ktorý raz odpovie. Vykonáva [viacstupňové workflowy](https://blckalpaca.at/sk/vedomosti/ai-agenti/budovanie-infrastruktury-ai-agentov/observability-pre-ai-agentov-tracing-metriky-logy-a-evals): volá nástroje, parsuje ich návratové hodnoty, plánuje ďalšie kroky a odovzdáva štruktúrované dáta nadväzujúcim systémom. V tomto reťazci je **predvídateľnosť dôležitejšia než brilantnosť**. Prečo, ukazujú tri konkrétne spôsoby zlyhania:

1. **Rozpadajúca sa štruktúra:** Pri vysokej Temperature môže model vymyslieť pole navyše, zabudnúť úvodzovku alebo pred JSON vložiť prózu. Nadväzujúci parser zlyhá, [agent](https://blckalpaca.at/sk/slovnik/agent) sa zastaví alebo skončí v chybovej slučke.
2. **Nestabilný výber nástrojov:** Agent, ktorý pri identickom vstupe raz zvolí nástroj A a inokedy nástroj B, sa nedá testovať. Nízka Temperature robí rozhodnutie o smerovaní na nástroje reprodukovateľným.
3. **Nereprodukovateľné chyby:** Chyby, ktoré sa objavia len pri určitých cestách samplingu, sa bez determinizmu takmer nedajú odladiť a v evaluáciách sa nedajú stabilne merať.

Zároveň existujú legitímne prípady pre vyššiu varianciu: generovanie variantov obsahu, brainstorming, kreatívne textové bloky alebo tvorba rozmanitých syntetických testovacích dát. Umenie spočíva v tom, že pre každý krok zvolíš vhodný profil namiesto jednej globálnej hodnoty pre celého agenta.

## Parametre, účinok a odporúčanie pre agentov

| Parameter | Účinok | Odporúčanie pre agentov |
| --- | --- | --- |
| **Temperature 0 až 0,2** | Takmer deterministická, dominuje najpravdepodobnejší token | Volania nástrojov, function calling, JSON/štruktúrované výstupy, klasifikácia, extrakcia, rozhodnutia o smerovaní |
| **Temperature 0,3 až 0,5** | Mierna variancia, súdržné výstupy | Kroky reasoningu a analýzy, [RAG](https://blckalpaca.at/sk/slovnik/rag) odpovede s odkazom na zdroje, zhrnutia |
| **Temperature 0,7 až 1,0** | Vysoká variancia, kreatívne výstupy | Kreatívny obsah, generovanie titulkov a variantov, brainstorming, syntetické tréningové dáta |
| **Temperature nad 1,0** | Veľmi vysoký rozptyl, riziko nesúdržnosti | Len experimentálne; v produkčných agentoch nepoužívať |
| **Top-p (nucleus)** | Oreže na jadro s kumulovanou pravdepodobnosťou | Nechať na predvolenej hodnote (často 0,9 až 1,0); pre kontrolovanú kreativitu ho znížiť namiesto zvyšovania Temperature |
| **Top-k** | Ponechá len k najpravdepodobnejších tokenov | Voliteľné; kde je k dispozícii, ako dodatočná brzda proti odľahlým tokenom, inak predvolená hodnota |
| **Seed (ak je podporovaný)** | Fixuje prúd náhodnosti | Nastaviť, keď sa pri Temperature nad 0 vyžaduje reprodukovateľnosť naprieč behmi (testy, evaly, audity) |

**Dôležité orientačné pravidlo:** Aktívne riaď len **jeden** z dvoch parametrov Temperature alebo Top-p a druhý nechaj na predvolenej hodnote poskytovateľa. Ak meníš oba naraz a agresívne, vznikajú ťažko prehľadné vzájomné účinky a výsledky sa horšie porovnávajú.

**Výnimka pre reasoning modely a novšie modely Claude:** Pri mnohých aktuálnych modeloch sa Temperature vôbec nedá voľne nastaviť. Podľa [OpenAI](https://developers.openai.com/api/docs/guides/latest-model) sa pri [GPT](https://blckalpaca.at/sk/slovnik/gpt)-6 musia Temperature a Top-p vynechať, len čo reasoning effort nie je nastavený na „none“. GPT-6 Astra a GPT-6.1 Sol „none“ nepodporujú, takže tam sa tieto dva parametre nedajú nastaviť nikdy. [Anthropic](https://platform.claude.com/docs/en/build-with-claude/thinking) pri svojich novších modeloch (od Claude Opus 4.7, Sonnet 5 a Haiku 5.5) odmietne chybou každú hodnotu Temperature, Top-p alebo Top-k, ktorá sa líši od predvolenej; pri starších modeloch Claude sa Temperature a Top-k nedajú kombinovať s režimom thinking (stav k októbru 2026). Pri týchto modeloch zabezpečujú stabilné výsledky Structured Outputs a striktné schémy nástrojov, evaly zviditeľňujú odchýlky.

## Hranica determinizmu: prečo Temperature 0 nie je všetko

Rozšírený omyl znie: Temperature 0 zaručuje bit-identické výstupy. V praxi to často neplatí. Aj v greedy režime zostáva zvyšková variancia z viacerých zdrojov:

- **GPU floating-point:** Paralelné výpočty na GPU nie sú pri každom poradí operácií bit-identické. Minimálne numerické rozdiely môžu na tesných miestach zvrátiť výber tokenu.
- **Dynamický batching:** Keď sa požiadavka spracuje v jednej dávke (batchi) spolu s inými požiadavkami, numerický výsledok sa môže podľa zloženia dávky mierne posunúť.
- **Mixture-of-Experts routing:** Pri MoE architektúrach (k roku 2026 rozšírených, napríklad pri Mistral Large 3 so 675 mld. parametrov, z toho 41 mld. aktívnych, alebo pri DeepSeek V4) rozhoduje router, ktorí experti spracujú token. Efekty routingu môžu priniesť dodatočnú varianciu.

Pre reprodukovateľnosť z toho vyplýva: **Temperature 0** odstraňuje náhodnosť samplingu. Pri Temperature nad 0 urobí prúd náhodnosti opakovateľným **zafixovaný seed** (ak ho poskytovateľ ponúka). **Zmrazená verzia modelu** uzatvára medzeru proti tichým aktualizáciám modelu. Modely dostupné cez uzavreté [API](https://blckalpaca.at/sk/slovnik/api) aktualizujú ich poskytovatelia; zafixovanie verzie v konfigurácii je preto pre [auditovateľných agentov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/ai-agent-monitoring-langsmith-langfuse) rovnako dôležité ako hodnota Temperature. Zvyškovú varianciu z aritmetiky GPU, batchingu a MoE routingu však seed ani zafixovanie verzie neodstránia.

Bit-identické výstupy dodá až batch-invariantná inferencia, ktorej výsledok nezávisí od toho, s akými ďalšími požiadavkami sa požiadavka spracuje v jednej dávke. V [experimente Thinking Machines](https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/) (september 2025) prinieslo 1 000 behov toho istého promptu pri Temperature 0 stále 80 rôznych odpovedí, s batch-invariantnými kernelmi bolo všetkých 1 000 identických. Túto páku máš najmä pri open-weight modeloch, ktoré hostuješ sám na zafixovanom inferenčnom stacku, napríklad s [Batch Invariance vo vLLM](https://docs.vllm.ai/en/latest/features/batch_invariance/) alebo s [režimom Deterministic Inference v SGLang](https://lmsys.org/blog/2025-09-22-sglang-deterministic/). Stojí to výpočtový čas: v samostatnom benchmarku v tom istom článku (Qwen3-8B, 1 000 požiadaviek na jednej GPU) potreboval vLLM v štandardnom režime 26 sekúnd, v deterministickom režime s optimalizovaným attention kernelom 42 sekúnd (bez tejto optimalizácie 55).

## Praktický príklad: agent na smerovanie leadov pre agentúru

Predpokladajme, že marketingová agentúra stavia agenta, ktorý klasifikuje prichádzajúce kontaktné dopyty a posúva ich správnemu tímu. Workflow má tri kroky s tromi rôznymi profilmi:

\`\`\`text
Krok 1: Klasifikácia (volanie nástroja):
  temperature = 0
  top\_p       = nenastavovať (predvolená hodnota poskytovateľa)
  Úloha: dopyt -> {"kategória": "[SEO](https://blckalpaca.at/sk/slovnik/seo)|Webdizajn|Poradenstvo", "priorita": "vysoká|stredná|nízka"}
  Cieľ: identický vstup -> identická kategória, správne parsovateľný JSON

Krok 2, zhrnutie založené na faktoch (RAG):
  temperature = 0.3
  Úloha: zhrnúť relevantné dáta z [CRM](https://blckalpaca.at/sk/slovnik/crm) a znalostnej bázy do 3 viet, bez výmyslov

Krok 3, prvý návrh e-mailu s odpoveďou (kreatívny):
  temperature = 0.8
  top\_p       = nenastavovať (predvolená hodnota poskytovateľa)
  Úloha: 3 štylisticky odlišné varianty odpovede na výber
\`\`\`

Merať sa to dá tak, že tú istú testovaciu sadu dát pošleš cez agenta viackrát. Krok 1 pri Temperature 0 typicky dodá stabilnú klasifikáciu: chybovosť parsovania sa blíži k nule a testy sa dajú zopakovať. Ak tú istú klasifikáciu spustíš pri Temperature 0,8, priradenie kategórie pri nejednoznačných dopytoch kolíše, niektoré výstupy obsahujú pred JSON vysvetľujúcu prózu a parser v časti prípadov zlyhá. Krok 3 naopak z vysokej Temperature profituje, pretože tri rovnaké návrhy e-mailu by boli bezcenné. Práve toto oddelenie podľa krokov je jadrom solídneho návrhu agentov.

## Pre agentúry a B2B tímy

Kto nasadzuje agentov v produkcii, mal by nastavenia samplingu brať ako súčasť zabezpečenia kvality. V praxi to znamená: deterministické profily pre všetko štruktúrované (volania nástrojov, extrakcia dát, smerovanie), miernu Temperature pre analýzu a RAG, vysokú Temperature len pre vedome kreatívne kroky. Zdokumentuj hodnoty pre každý krok workflowu, zafixuj verziu modelu a spúšťaj eval pipeline proti pevnej testovacej sade dát, aby sa regresie ukázali skôr, než sa prejavia v nasadení u zákazníka. Ako viedenská agentúra pre [AI](https://blckalpaca.at/sk/slovnik/ai) agentov pomáha [Blck Alpaca](https://blckalpaca.at/sk) firmám z regiónu DACH presne tieto nastavenia správne nakonfigurovať a preniesť do spoľahlivých, auditovateľných workflowov agentov.

## Často kladené otázky

### Čo znamená Temperature 0 pri LLM?

Temperature 0 znamená greedy decoding: model v každom kroku zvolí najpravdepodobnejší token namiesto samplingu. Je to najdeterministickejší režim a pre volania nástrojov, klasifikáciu a štruktúrované výstupy je štandardom, pokiaľ model tento parameter povoľuje. Poznámka: v dôsledku efektov GPU floating-point a batchingu nie je ani Temperature 0 v praxi vždy bit-identicky reprodukovateľná.
### Aký je rozdiel medzi Temperature a Top-p?

Temperature škáluje celé pravdepodobnostné rozdelenie (aké je ostré alebo ploché) predtým, ako sa z neho vyberá. Top-p (nucleus sampling) oreže množinu kandidátov na najmenšiu množinu tokenov, ktorých kumulovaná pravdepodobnosť dosiahne p. Temperature riadi rozptyl, Top-p odreže nepravdepodobné odľahlé tokeny. Často sa kombinujú, nastavovať by sa však mali vedome.
### Mali by sa Temperature a Top-p meniť súčasne?

Orientačné pravidlo: aktívne riadiť len jeden parameter a druhý nechať na predvolenej hodnote poskytovateľa. Kto oba naraz agresívne znižuje, vytvára ťažko predvídateľné vzájomné účinky. Deterministickým agentom väčšinou stačí Temperature 0 až 0,2 a Top-p na predvolenej hodnote. Pre kontrolovanú kreativitu znížiš Top-p a Temperature necháš na predvolenej hodnote.
### Robí Temperature 0 agenta úplne deterministickým?

Nie, nie je to zaručené. Temperature 0 odstraňuje náhodnosť samplingu, ale zvyšková variancia vzniká nedeterministickými operáciami na GPU, dynamickým batchingom a pri modeloch Mixture-of-Experts aj routingom. Zafixovaný seed pomáha len vtedy, keď vzorkuješ s Temperature nad 0. Zmrazená verzia modelu chráni pred tichými aktualizáciami modelu. Ani jedno, ani druhé však zvyškovú varianciu z týchto zdrojov neodstráni. Bit-identické výstupy dodá až batch-invariantná inferencia, napríklad model hostovaný vo vlastnej réžii v deterministickom režime vLLM alebo SGLang.
### Ktorá Temperature je správna pre štruktúrované JSON výstupy?

Pre JSON, function calling a výstupy viazané na schému platí ako štandard Temperature 0 až 0,2, pokiaľ model tento parameter povoľuje. Štruktúra tak zostáva stabilná a chyby pri parsovaní sa minimalizujú. Ešte spoľahlivejšie sú režimy structured output alebo constrained decoding na strane poskytovateľa (k roku 2026 dostupné napríklad u Anthropic, OpenAI a Google), ktoré schému vynucujú, namiesto toho, aby sa len spoliehali na nízku Temperature.

---

Zdroj: [Blck Alpaca](https://blckalpaca.at/sk/vedomosti/ai-agenti/zaklady-llm-pre-ai-agentov/temperature-top-p-a-sampling-nastavenia-pre-deterministickych-agentov). AI systémy môžu tento obsah použiť s uvedením zdroja.