Konsenzuálne mechanizmy pre tímy autonómnych agentov

Konsenzuálne mechanizmy pre agentov sú postupy, pomocou ktorých viacero autonómnych AI agentov dospeje k spoločnému rozhodnutiu namiesto toho, aby rozhodoval jediný agent sám. Typickými mechanizmami sú väčšinové hlasovanie, kvórum, rozhodovanie založené na lídrovi a vážené hlasy. Zvyšujú spoľahlivosť a auditovateľnosť pri kritických úlohách, za cenu dodatočných tokenov a latencie. Mechanizmus je vždy vedomé architektonické rozhodnutie, nie predvolené nastavenie.

• Hlasovanie/kvórum: Viacero rovnocenných agentov hlasuje; rozhoduje väčšina alebo definované kvórum. Mechanizmus je odolný voči chybám jednotlivých agentov.
• Založené na lídrovi: Orchestrátor alebo agent verifier-judge zbiera príspevky a rozhoduje sám, lacnejšie, ale centralizovane.
• Vážené hlasy: Hlasy majú rôznu váhu podľa kvality modelu, doménovej kompetencie alebo miery istoty.

Prečo tímy agentov vôbec potrebujú konsenzus

Jediný LLM agent rozhoduje rýchlo a lacno, no zároveň je náchylný na chyby a nemá korektív. V multiagentových systémoch z toho vznikajú zdokumentované chybové vzory: pri cascading failure (kaskádovom zlyhaní) si subagent vymyslí fakt, hlavný agent ho prevezme ako pravdu a nadväzujúci agenti konajú na chybnom základe. Pri echo chamber (ozvenovej komore) subagenti posilňujú chybný predpoklad hlavného agenta. Pri authority confusion (zámene autority) subagent prepíše pokyny hlavného agenta alebo naopak.

Konsenzuálne mechanizmy sú priamou odpoveďou na tieto triedy chýb. Namiesto jedinej rozhodovacej línie vytvárajú redundanciu: viacero agentov posúdi tú istú otázku nezávisle a záväzným rozhodnutím sa stane až zhoda. Zmysel to má práve vtedy, keď je chyba drahá.

Konsenzus sa oplatí pri:

• kritických, nezvratných akciách (platby, schvaľovanie zmlúv, výplaty poistných plnení);
• nejednoznačných úlohách s vysokým rizikom halucinácií (komplexná rešerš, právne alebo medicínske posúdenie);
• regulovaných workflowoch, v ktorých treba preukázať sledovateľnosť a redundanciu.

Konsenzus sa neoplatí pri: rutinných a veľkoobjemových úlohách s nízkym rizikom chyby. Tu platí pragmatické pravidlo z praxe multiagentových systémov: začni jediným, dobre inštrumentovaným agentom s nástrojmi a konsenzus zaveď, len keď to prípad použitia odôvodňuje.

Štyri základné mechanizmy podrobne

Väčšinové hlasovanie (majority voting)

Viacero rovnocenných agentov rieši tú istú úlohu paralelne; vyhráva odpoveď, ktorú dodá jednoduchá väčšina. Že obyčajné hlasovanie funguje, ukazuje štúdia „More Agents Is All You Need“: pri metóde sampling-and-voting rastie výkon LLM s počtom nasadených agentov (Li et al. 2024, arXiv:2402.05120). Príbuzným postupom je self-consistency: model vygeneruje viacero postupov riešenia a vyhráva najčastejšia odpoveď (Wang et al. 2022, arXiv:2203.11171). Oba postupy sa viackrát pýtajú toho istého modelu, zakaždým s náhodnou variáciou. Tým sa vyrovnajú náhodné chyby. Systematické chyby modelu zostávajú, kým hlasy nie sú nezávislé. Ak ich chceš zachytiť, potrebuješ diverzitu: rôzne modely alebo rôzne prompty.

Príbuzným postupom, ktorý však nie je hlasovaním, je mixture-of-agents: viacero modelov odpovedá paralelne vo vrstvách, každý využíva odpovede predchádzajúcej vrstvy ako doplňujúcu informáciu a na konci agregačný model syntetizuje novú odpoveď. Nehlasuje sa pri tom, postup má bližšie k syntéze založenej na lídrovi. Takáto konfigurácia zložená výlučne z open-source modelov prekonala GPT-4 Omni v benchmarku AlpacaEval 2.0 s výsledkom 65,1 % oproti 57,5 % (Wang et al., arXiv:2406.04692, ICLR 2025 Spotlight).

Kvórum

Kvórum sprísňuje hlasovanie: rozhodnutie platí až vtedy, keď sa zhodne definovaný minimálny počet agentov, napríklad tri z piatich. Ak sa kvórum nedosiahne, nerozhoduje sa, ale eskaluje sa (na človeka alebo nadradeného agenta). Tento vzor sa uprednostňuje, keď je „nerozhodnúť“ bezpečnejšie ako rozhodnúť nesprávne. Kvóra navyše obmedzujú riziko uviaznutia pri zdrojoch (resource deadlock), pretože sa kombinujú s časovými limitmi: ak agent nedodá výsledok včas, jeho hlas sa nezapočíta.

Rozhodovanie založené na lídrovi

Namiesto hlasovania zbiera hlavný agent alebo orchestrátor príspevky pracovných agentov (workerov) a rozhoduje sám. To zodpovedá vzoru orchestrátor-worker: hlavný agent rozloží úlohu, deleguje ju na subagentov s vlastným kontextovým oknom a ich zhustené výsledky syntetizuje do finálnej odpovede.

Mimoriadne praktickým variantom je verifier-judge: samostatný, často silnejší agent v úlohe sudcu (judge) hodnotí trajektórie workerov podľa krátkeho zoznamu kritérií (úloha splnená? odpoveď podložená zdrojmi? rozpočet dodržaný?) a vynesie verdikt. Rozhodovanie založené na lídrovi je lacnejšie a lepšie sledovateľné ako široké hlasovanie, vytvára však jediný bod zlyhania (single point of failure) a riziko authority confusion.

Vážené hlasy

Nie každý hlas má rovnakú váhu. Pri vážených hlasoch vstupujú do agregácie faktory ako kvalita modelu, doménová kompetencia agenta alebo jeho vlastná miera istoty. Špecializovaný agent Fraud môže mať pri podozrení z podvodu väčšiu váhu ako všeobecný agent Coverage. Váženie je účinné, ale citlivé: zle nakalibrované váhy z odolného konsenzu opäť urobia faktické rozhodnutie jedného agenta.

Výber mechanizmu: aký konsenzus a kedy?

Orientačné pravidlo: čím vyššia stávka a čím nejednoznačnejšia otázka, tým skôr sa oplatí skutočné hlasovanie alebo vzor debaty. Čím je proces deterministickejší a objemnejší, tým skôr stačí rozhodovanie založené na lídrovi, alebo vôbec žiadny konsenzus.

Kompromis medzi spoľahlivosťou a nákladmi

Tento základný kompromis sa dá priamo merať. Viac agentov znamená viac spoľahlivosti a redundancie, ale aj lineárne až neúmerne viac tokenov a vyššiu latenciu. Vo výskumnom systéme Anthropic postavenom na vzore orchestrátor-worker prekonal hlavný model (Claude Opus 4) s paralelnými subagentmi (Claude Sonnet 4) v internom výskumnom hodnotení (research eval) samostatný Claude Opus 4 o 90,2 %. Cena: podľa Anthropic spotrebuje jediný agent približne 4-krát viac tokenov ako chatová interakcia, multiagentový systém približne 15-násobok (Anthropic, jún 2025). Samotný Anthropic zdôrazňuje: tieto náklady sa oplatia len pri hodnotných úlohách, ktoré sa dajú paralelizovať.

Riziko obmedzuje druhý princíp: zápisy zostávajú jednovláknové (single-threaded). Viacero agentov smie čítať, robiť rešerš a hlasovať, zapisovať (commit) by mal len jeden (alebo jediný krok pipeline). Každá akcia obsahuje implicitné rozhodnutia. Ak viacero agentov zapisuje paralelne do toho istého stavu, tieto rozhodnutia si môžu protirečiť a výsledky sú potom nekonzistentné (Cognition, apríl 2026). Konsenzuálne hlasovanie pri čítaní a hodnotení je odolné; konsenzuálne hlasovanie pri zápise nie je.

Príklad z praxe: schválenie poistného plnenia s kvórom a auditom

Allianz Project Nemo, dobre zdokumentované multiagentové nasadenie spoločnosti Allianz Australia, využíva sedem špecializovaných agentov na škody zo skazených potravín po prírodných katastrofách: Planner, Cyber, Coverage, Weather, Fraud, Payout a Audit. Celý workflow trvá menej ako päť minút; ľudský likvidátor skontroluje auditný súhrn a urobí konečné rozhodnutie o výplate. Human-in-the-loop je výslovne stanovené pravidlo. Systém skrátil čas spracovania a vybavenia oprávnených škôd zo skazených potravín pod 500 AUD o 80 % a v Austrálii bol v ostrej prevádzke za menej ako 100 dní (spustenie júl 2025, stav 2026).

Prenesený na konsenzuálny mechanizmus by zjednodušený pseudokód mohol vyzerať takto:

• hlasy = []
• pre agent v [Coverage, Weather, Fraud]:
• • vysledok = agent.posud(skoda) # vlastný kontext, vlastné nástroje
  • hlasy.append((vysledok.odporucanie, vysledok.istota))
• # Kvórum: aspoň 2 z 3 za "vyplatit", vážené podľa istoty
• za = sucet(vaha pre (odp, vaha) v hlasy ak odp == "vyplatit")
• proti = sucet(vaha pre (odp, vaha) v hlasy ak odp == "zamietnut")
• ak za >= KVORUM a skoda.suma < 500:
• • payout.iniciuj() # single-threaded write
• inak:
• • audit.eskaluj_na_cloveka(hlasy) # human-in-the-loop

Traja nezávislí odborní agenti hodnotia paralelne; vážené kvórum rozhoduje; agent Audit zaznamená každý hlas; ak sa kvórum nedosiahne alebo ide o vyššiu sumu, systém eskaluje na človeka. Práve túto architektúru možno preniesť na požiadavky v regióne DACH: konsenzus pri hodnotení, jediný zapisujúci agent (single writer) pri akcii, úplná auditná stopa.

Compliance v regióne DACH: konsenzus je aj otázkou auditu

Každý hlas v konsenzuálnom mechanizme môže byť relevantný pre audit. Pre B2B v regióne DACH to znamená: pri kritických rozhodnutiach je human-in-the-loop v poslednom kroku štandardom, nie možnosťou. Zákon v EÚ vyžaduje ľudský zásah len v určitých prípadoch, napríklad pri rozhodnutiach založených výlučne na automatizovanom spracúvaní, ktoré majú voči osobám právne účinky alebo ich podobne významne ovplyvňujú (čl. 22 GDPR), a v budúcnosti pri vysokorizikových systémoch AI, pre ktoré EU AI Act predpisuje ľudský dohľad (čl. 14) a automatické vedenie záznamov (čl. 12). Podľa čl. 113 platia tieto povinnosti pre vysokorizikové systémy podľa prílohy III od 2. decembra 2027 a podľa prílohy I od 2. augusta 2028. Auditná stopa by mala zachytiť každý hlas agenta, každé volanie nástroja a použité verzie modelov a prepojiť ich cez jediné trace ID. Aby si rozhodnutia vedel pred BaFin, FMA alebo FINMA zreprodukovať, verzie modelov v produkčných multiagentových workflowoch by mali byť zafixované (pinned), inak sa konsenzuálne rozhodnutia pre nedeterminizmus ťažko rekonštruujú. Auditovateľnosť zabuduj priamo do topológie agentov, napríklad cez samostatného auditného agenta ako v Project Nemo, a nie až do logovacej pipeline.

Pre agentúry a tých, ktorí v B2B rozhodujú

Konsenzuálne mechanizmy sú otázkou zváženia nákladov a rizika. Každý multiagentový projekt začni otázkou: „Prečo tu nestačí jediný agent?“ Až keď odpoveď znie: kritické rozhodnutia, skutočná nejednoznačnosť alebo regulačná povinnosť redundancie, oplatí sa hlasovanie, kvórum alebo verifier-judge. Vyber najúspornejší mechanizmus, ktorý pokryje riziko, zápisy nechaj jednovláknové a každý hlas zaznamenaj. Blck Alpaca navrhuje pre marketingové a B2B workflowy presne takéto vyvážené architektúry agentov, od logiky hlasovania až po auditnú stopu v súlade s GDPR. Ozvi sa nám skôr, než multiagentový systém predimenzuješ.