--- title: "Bezpečnosť AI agentov a OWASP" description: "Útočné plochy AI agentov a ako rámec OWASP chráni pred prompt injection, zneužitím nástrojov a únikmi dát." locale: "sk" canonical: "https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp" category: "AI agenti" updated: "2026-10-17T15:41:01.272Z" source: "Blck Alpaca e.U., blckalpaca.at" --- # Bezpečnosť AI agentov a OWASP Útočné plochy AI agentov a ako rámec OWASP chráni pred prompt injection, zneužitím nástrojov a únikmi dát. ## Čo znamená bezpečnosť AI agentov podľa OWASP Bezpečnosť [AI agentov](https://blckalpaca.at/sk/sluzby/integracia-ai-agenta) podľa OWASP opisuje systematickú ochranu autonómnych AI agentov pred hrozbami, ktoré vznikajú z ich schopnosti samostatne plánovať, volať nástroje, zapisovať do perzistentnej pamäte a konať, a to s minimálnym schvaľovaním jednotlivých krokov človekom. Zatiaľ čo klasický [chatbot](https://blckalpaca.at/sk/slovnik/chatbot) prevažne **odpovedá** ([prompt](https://blckalpaca.at/sk/slovnik/prompt) dnu, completion von, prípadne s ukotvením cez [RAG](https://blckalpaca.at/sk/slovnik/rag)), agenti **plánujú, uvažujú, vyberajú nástroje, zapisujú do pamäte a konajú**. Tento posun úrovne abstrakcie rozširuje útočnú plochu v troch osiach: autonómia (viacstupňové plány, vlastné úpravy kontextu a pamäte), používanie nástrojov (súborový systém, [API](https://blckalpaca.at/sk/slovnik/api), databázové konektory, sandboxy na spúšťanie kódu, [MCP servery](https://blckalpaca.at/sk/vedomosti/ai-agenti/model-context-protocol-mcp/mcp-security-best-practices), partneri cez protokol A2A) a perzistencia (dlhodobé úložiská pamäte, vektorové databázy, reťazce dôvery medzi agentmi). OWASP to vlastnými slovami projektu GenAI Security Project (Sotiropoulos et al., 9. decembra 2025) zhŕňa takto: agentické systémy dedia všetky riziká [LLM](https://blckalpaca.at/sk/slovnik/llm) a zavádzajú úplne nové triedy zraniteľností, ktoré vyplývajú z autonómie, integrácie nástrojov, koordinácie viacerých agentov a perzistentného stavu. Pre osoby s rozhodovacou právomocou v regióne DACH je kľúčový tento poznatok: kto číta iba [LLM Top 10](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/owasp-llm-top-10-2025-vysvetlene), **systematicky podceňuje riziko agentických systémov**. ## Dva smerodajné zoznamy OWASP Projekt OWASP GenAI Security Project (genai.owasp.org) vydáva skupinu prekrývajúcich sa bezpečnostných materiálov k [AI](https://blckalpaca.at/sk/slovnik/ai). Dva z nich sú pre agentov kľúčové: - **OWASP Top 10 pre LLM aplikácie 2025 (LLM01:2025 až LLM10:2025).** Pokrýva riziká modelov a aplikácií v každej GenAI/LLM aplikácii, či už konverzačnej, založenej na RAG, typu copilot alebo agentickej. Túto referenciu väčšina bezpečnostných tímov v regióne DACH už pozná. Od 3. augusta 2026 existuje [vydanie 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/). Excessive Agency je v ňom na 3. mieste (LLM03:2026). Priradenia na tejto stránke sa riadia číslovaním z roku 2025. - **OWASP Top 10 for Agentic Applications 2026 (ASI01 až ASI10).** Zverejnila ho 9. decembra 2025 tá istá iniciatíva (Agentic Security Initiative) s viac ako 100 prispievateľmi a odbornou hodnotiacou radou (Expert Review Board; okrem iných NIST, Alan Turing Institute, Microsoft AI Red Team, AWS/CoSAI, Zenity). Tvorí chrbticu modelovania hrozieb špecifických pre agentov. **Dôležitá poznámka k taxonómii:** Kanonický zoznam z decembra 2025 sa líši od skoršieho pracovného návrhu OWASP („[Agentic AI](https://blckalpaca.at/sk/slovnik/agentic-ai) Threats and Mitigations v1.0“, február 2025, často citovaný ako „15 agentic threats“). Mnohé články z praxe zo začiatku a polovice roka 2025 ešte používajú číslovanie z tohto návrhu (napr. „[Memory Poisoning](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/memory-poisoning-prevention) ako ASI01“). To patrí k *historickým* návrhom, nie k finálnemu Top 10. Staré kategórie sa dnes mapujú *do* konsolidovaného zoznamu. Memory Poisoning patrí pod ASI06, obchádzanie HITL pod ASI09. ## Prehľad ASI01–ASI10 Desať kanonických hrozieb pre agentické systémy a ich primárne kategórie kontrol: | ID | Názov podľa OWASP (dec. 2025) | Primárne protiopatrenie | Príbuznosť s LLM Top 10 (2025) | | --- | --- | --- | --- | | **ASI01** | [Agent](https://blckalpaca.at/sk/slovnik/agent) Goal Hijack | Filtrovanie vstupov + ACL pre rozsah a pôvod | LLM01 Prompt Injection | | **ASI02** | Tool Misuse & Exploitation | RBAC pre nástroje + validácia schémy + HITL pri deštruktívnych operáciách | LLM06 Excessive Agency | | **ASI03** | Identity & Privilege Abuse | Životný cyklus NHI + krátkodobé prihlasovacie údaje + explicitná delegácia | (bez priameho náprotivku) | | **ASI04** | Agentic Supply Chain Vulnerabilities | Dôveryhodný register + AIBOM + karanténa za behu | LLM03 Supply Chain (statický) | | **ASI05** | Unexpected Code Execution | Sandboxing + allow-list príkazov + vypnutie automatického schvaľovania | LLM05 Improper Output Handling | | **ASI06** | Memory & Context Poisoning | Metadáta o pôvode + izolácia tenantov + audity pamäte | LLM04 + LLM08 | | **ASI07** | Insecure Inter-Agent Communication | mTLS + podpísané AgentCards + allow-list grafu spolupráce | (bez náprotivku) | | **ASI08** | Cascading Failures | Circuit breakery + bulkheady + simulácia v digitálnom dvojčati | (bez náprotivku) | | **ASI09** | Human-Agent Trust Exploitation | Rozhranie vynucujúce aktívne zapojenie + odstupňované schvaľovanie + školenie o automation bias | LLM09 Misinformation (čiastočne) | | **ASI10** | Rogue Agents | Referenčné profily správania + kill switch + audit | LLM06 (čiastočne) | Rozhodujúca je logika zosilnenia: podľa mapovania DeepTeam platí **ASI01 = LLM01 (Prompt Injection) × LLM06 (Excessive Agency)**, len s viacstupňovým vykonávaním, ktoré znásobuje škodu nad rámec jednej odpovede. ASI03, ASI07 a ASI08 nemajú priamy analóg v LLM Top 10, ASI10 súvisí s LLM06:2025 len čiastočne. ## Prompt injection a Agent Goal Hijack (ASI01) Pri ASI01 [útočník manipuluje s cieľmi](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/agent-goal-hijack-pattern), výberom úloh alebo rozhodovacími cestami agenta, a to priamou prompt injection alebo nepriamo cez skryté pokyny v dokumentoch, korpuse RAG, e-mailoch, pozvánkach v kalendári, popisoch pull requestov alebo výstupoch nástrojov. Jadro problému: agenti a model, na ktorom stoja, **nedokážu spoľahlivo rozlíšiť pokyny od dát**, takže každý text, ktorý agent prečíta, je súčasťou útočnej plochy. Zdokumentovaným zlomovým bodom je **EchoLeak (CVE-2025-32711, CVSS 9.3)**, ktorý v júni 2025 odhalila spoločnosť Aim Labs v Microsoft 365 Copilot: **prvá reálne zdokumentovaná zero-click prompt injection v produkčnom systéme**. Jediný špeciálne upravený e-mail obišiel klasifikátor XPIA od Microsoftu a cez povolený proxy server Teams exfiltroval najcitlivejší obsah z kontextu Copilota, bez jediného kliknutia používateľa (od Aim Labs pochádza pojem „LLM Scope Violation“; technické podrobnosti: arXiv 2509.10540, Reddy et al., sep. 2025). Microsoft chybu opravil na strane servera. Ďalšie prípady: **GitHub Copilot YOLO Mode (CVE-2025-53773)** a **CamoLeak v GitHub Copilot Chat (CVSS 9.6)**, ktorý cez obídenie CSP pomocou vlastného obrázkového proxy Camo od GitHubu vynášal tajné údaje zo súkromných repozitárov znak po znaku. Akademickým východiskom disciplíny je práca Greshake et al. (arXiv 2302.12173, 2023) o [nepriamej prompt injection](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/prompt-injection-direct-vs-indirect). **Príklad z regiónu DACH:** Agenta zákazníckeho servisu banky, ktorý číta zdieľanú e-mailovú schránku, môže e-mail s „poďakovaním“ a skrytými pokynmi prinútiť, aby v ďalšej odpovedi prezradil výňatky z transakcií iných klientov. ## Zneužitie nástrojov (ASI02) a Excessive Agency ASI02 sa od zneužitia privilégií líši jemne: prístup je legitímny, **použitie** nie. Agent koná v rámci autorizovaných práv, ale legitímny nástroj používa nebezpečne: maže dáta, príliš často volá drahé API, vykonáva deštruktívne operácie. [Excessive Agency](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/tool-misuse-a-excessive-agency-ked-agenti-ai-smu-privela) (LLM06:2025), teda udelenie nepreverenej moci konať bez dostatočného obmedzenia rozsahu alebo ľudského dohľadu, je koncepčným mostom k ASI02 a čiastočne k ASI10. Zdokumentované: pri **Amazon Q Code Assistant (CVE-2025-8217, júl 2025)** útočníci kompromitovali [token](https://blckalpaca.at/sk/slovnik/token) GitHubu a do rozšírenia pre VS Code vo verzii 1.84.0 prepašovali deštruktívne prompty, ktoré by s `--trust-all-tools --no-interactive` mohli bez potvrdenia zmazať súborové systémy a cloudové zdroje. Rozšírenie si nainštalovalo približne 1 milión vývojárov. Protiopatrenia: najnižšie potrebné oprávnenia (least privilege) pre každý nástroj, validácia schémy každého argumentu nástroja, allow-listy a deny-listy pre každú rolu agenta, vypnutie automatického schvaľovania (režimy „YOLO“) pre všetko, čo sa dotýka databáz, platieb, komunikácie alebo nasadenia, a limity nákladov s circuit breakermi. ## Memory & Context Poisoning (ASI06) Na rozdiel od chatbotov, ktoré medzi reláciami zabúdajú, si agenti uchovávajú perzistentnú pamäť: históriu konverzácií, preferencie, naučený kontext, úložiská RAG. To vytvára **perzistentné útočné plochy**: jediná úspešná injekcia natrvalo otrávi pamäť, payload beží ďalej bez obmedzenia a každá budúca relácia zdedí kompromitáciu. Doložené: **útok na pamäť Google Gemini** (feb. 2025, Johann Rehberger) demonštroval „delayed tool invocation“: nahraný dokument prikázal Gemini, aby pri budúcich spúšťacích slovách uložil nepravdivé informácie. Štúdia [„Invitation Is All You Need!“](https://arxiv.org/abs/2508.12175) (Nassi, Cohen, Yair, august 2025) predviedla **14 scenárov útokov na asistentov založených na Gemini**, spúšťaných cez e-maily, pozvánky v kalendári a zdieľané dokumenty. Podľa analýzy rizík autorov predstavuje **73 % analyzovaných hrozieb vysoké až kritické riziko** pre používateľov. Bezpečnostné blogy s odvolaním na Lakeru opisujú správanie typu „sleeper agent“: kompromitovaní agenti si podľa nich vytvárajú trvalé nepravdivé presvedčenia o bezpečnostných pravidlách a **obhajujú ich voči ľuďom**. Protiopatrenia: zápisy do pamäte považovať za bezpečnostne citlivé, metadáta o pôvode (zdroj, časová pečiatka, cesta príjmu dát, miera istoty) pri každom zázname, izolácia jednotlivých tenantov, pravidelné audity pamäte a postupy vymazania v súlade s [GDPR čl. 17](https://dsgvo-gesetz.de/art-17-dsgvo/) (právo na vymazanie). ## Protiopatrenia a human-in-the-loop (ASI09) Agenti vytvárajú uhladený výstup, ktorý znie autoritatívne. Ľudia mu majú sklon dôverovať. ASI09 (Human-Agent Trust Exploitation) robí zraniteľnou práve túto vrstvu dôvery: automation bias, podriaďovanie sa autorite a „polished hallucination“ vedú k tomu, že ľudskí schvaľovatelia odporúčania len odklepnú. Vrstva dohľadu, ktorá má slúžiť ako bezpečnostná kontrola, **sa stáva zraniteľnosťou**. Dodávatelia bezpečnostných riešení opisujú prípad, ktorý nie je nezávisle overený: nákupného agenta údajne počas troch týždňov presvedčili, že jeho autorizačný limit je 500 000 USD; potom mal útočník zadať falošné objednávky v hodnote 5 mil. USD. Účinné schvaľovacie brány HITL vyžadujú **nezávislé overenie podkladov**, nielen odporúčania agenta: odstupňované schvaľovanie (vyšší dopad → viac schvaľovateľov a silnejšie dôkazy), vzory rozhrania, ktoré aktívne zobrazujú uvažovanie, pôvod zdrojov a mieru istoty (žiadne obyčajné tlačidlo „Approve“), a pravidelné „testovacie injekcie“, ktoré overia, či HITL naozaj funguje (ako požiarne cvičenie). To priamo zodpovedá [EU AI Act čl. 14](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R1689) (ľudský dohľad). Celkovo platí zásada viacvrstvovej obrany (defense-in-depth): **žiadny jednotlivý guardrail nie je všeliek.** EchoLeak obišiel klasifikátor XPIA od Microsoftu; každý zverejnený guardrail (Bedrock Guardrails, Google Model Armor, Gemini Safety) kompetentní výskumníci do niekoľkých mesiacov obišli. Potrebných je viac vrstiev, ktoré sa navzájom dopĺňajú: vstupný filter (napr. Llama Guard 4, NVIDIA NeMo Guardrails, Microsoft Prompt Shield, Lakera Guard) + vynucovanie rozsahu a pôvodu + výstupný filter + monitorovanie správania. Guardrails zvyčajne pridávajú 100–500 ms latencie na každú vrstvu a vo viacjazyčnom prostredí DACH (striedanie DE/FR/IT/EN) majú vyššiu mieru falošne pozitívnych výsledkov. Tvrdenia dodávateľov typu „blokuje 99,x % prompt injections“ treba až do nezávislého overenia red teamom považovať za marketing. ## Compliance v regióne DACH (na informáciu, nie právne poradenstvo) Zoznamy OWASP **nie sú certifikácia** a „OWASP-compliant“ nie je spoľahlivé tvrdenie dodávateľa; dodávatelia môžu odporúčania OWASP *zaviesť*, ale nemôžu byť „compliant“. Zoznamy sa však dajú presne namapovať na regulačný rámec v regióne DACH: - [**EU AI Act](https://blckalpaca.at/sk/slovnik/eu-ai-act) čl. 15** (presnosť, robustnosť, kybernetická bezpečnosť) pokrýva vysokorizikové systémy široko, je však technologicky neutrálny; nepriama injekcia, špecifiká NHI a kaskády v systémoch s viacerými agentmi v štandarde ešte nie sú kodifikované a zostávajú zodpovednosťou nasadzujúceho subjektu. - [**GDPR](https://blckalpaca.at/sk/slovnik/gdpr) čl. 32** (technické a organizačné opatrenia): väčšina hrozieb ASI sa dotýka dôvernosti, integrity, dostupnosti a odolnosti. ASI06 sa napríklad dotýka čl. 5 ods. 1 písm. d) (správnosť) a čl. 17 (vymazanie). - **ISO/IEC 42001:2023** (príloha A, 38 opatrení pre 9 cieľov) poskytuje referenčné opatrenia, okrem iných A.6.2.4 (verifikácia a validácia), A.6.2.6 (prevádzka a monitorovanie) a A.6.2.8 (logovanie). - **NIS2 / DORA**: pre základné a dôležité subjekty vyžaduje NIS2 čl. 21 ods. 2 okrem iného bezpečnosť dodávateľského reťazca (→ ASI04) a riadenie prístupu (→ ASI03); DORA čl. 28–30 upravuje riziko IKT spojené s tretími stranami, čo je priamo relevantné pre dodávateľské reťazce [MCP](https://blckalpaca.at/sk/slovnik/mcp) a agentov vo finančnom sektore. Dohľad v regióne DACH: **orientačná pomôcka BaFin** (18. dec. 2025) a **oznámenie FINMA o dohľade 08/2024** sú obe *nezáväzné*, no pri auditoch citeľne presúvajú dôkazné bremeno; obe okrem iného odporúčajú adversariálne penetračné testy, resp. kybernetické cvičenia založené na scenároch. V Rakúsku nasledovala **FMA** s informačným dokumentom [„Nutzung von KI im Finanzsektor“](https://www.fma.gv.at/querschnittsthemen/kuenstliche-intelligenz/) (v preklade „Využívanie AI vo finančnom sektore“; verzia 1.0, stav k 11. septembru 2026). Ani tento dokument nie je záväzný. Konštatuje, že aplikácie AI už dnes musia spĺňať technologicky neutrálne požiadavky práva finančného trhu vrátane DORA a že konečnú zodpovednosť aj za riziká IKT súvisiace s AI nesie riadiaci orgán. **BSI** vo svojej [správe o stave IT bezpečnosti 2025](https://medien.bsi.bund.de/lagebericht/de/resiliente-gestaltung-von-llm-systemen/) označuje nepriamu prompt injection za momentálne najvýznamnejší vektor útoku na systémy LLM a konštatuje, že proti nej neexistuje jediné vysoko účinné opatrenie. ## Výhľad a praktická poznámka OWASP Agentic Top 10 je vo verzii 1.0 (9. decembra 2025) a pravdepodobne bude aspoň raz ročne aktualizovaný. Čitatelia by si mali `genai.owasp.org` uložiť medzi záložky a nepovažovať zoznam za statický. Tri triezve praktické poznámky: po prvé, MITRE ATLAS ako príručka postupov útočníkov zaostáva za vývojom agentických útokov o 6–12 mesiacov, najmä pri ASI07, ASI08 a ASI10. Po druhé, detekcia v produkčných nasadeniach agentov je stále slabá: väčšina [nástrojov na observability](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/ai-agent-monitoring-langsmith-langfuse) vznikla pre klasické aplikácie a nezachytí anomálie v záznamoch uvažovania (reasoning traces), porušenia pravidiel pôvodu pri zápisoch do pamäte ani signály posunu správania; záver „v SIEM to nevidíme, takže sa to nedeje“ je nebezpečne mylný. Po tretie, „AI red teaming“ nie je to isté ako klasický penetračný test (iné zručnosti, iné nástroje ako Garak/PyRIT/DeepTeam, pravdepodobnostné namiesto binárnych zistení). Pre nasadzujúce subjekty v regióne DACH je pragmatický začiatok takýto: založiť OWASP Agentic Top 10 ako register rizík, namapovať ho na ISO 42001 a EU AI Act čl. 15, s každým agentom zaobchádzať ako so samostatnou neľudskou identitou (Non-Human Identity) s krátkodobými prihlasovacími údajmi, zaviesť viacvrstvové guardrails, zabezpečiť deštruktívne operácie skutočným HITL a mať pripravený kill switch na izoláciu nekontrolovaných agentov (rogue agents). Podrobnosti k prompt injection, red teamingu, monitorovaniu a audit trailom nájdeš v článkoch nižšie. ## Články - [OWASP LLM Top 10 (2025) vysvetlené: Desať bezpečnostných rizík pre LLM aplikácie](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/owasp-llm-top-10-2025-vysvetlene) — OWASP LLM Top 10 (2025) je zoznam desiatich najzávažnejších bezpečnostných rizík pre aplikácie s veľkými jazykovými modelmi, ktorý vydal projekt OWASP GenAI… - [Audit trail pre AI agentov: úplné protokolovanie odolné voči manipulácii](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/audit-trail-pre-ai-agentov-uplne-protokolovanie-odolne-voci-manipulacii) — Audit trail pre AI agentov je úplné protokolovanie odolné voči manipulácii, ktoré zaznamenáva všetky rozhodnutia, volania nástrojov, prístupy k dátam, operácie… - [OWASP Agentic Security (ASI) Top 10 (2026): Riziká agentických AI systémov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/owasp-agentic-asi-top-10-2026) — OWASP Agentic Top 10 (ASI01–ASI10) je zoznam rizík pre autonómnych AI agentov, ktorý 9. decembra 2025 zverejnil OWASP GenAI Security Project v rámci Agentic… - [Priama vs. nepriama prompt injection: rozdiel a prečo sa pri AI agentoch stáva vecou vedenia](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/prompt-injection-direct-vs-indirect) — Prompt injection označuje vkladanie škodlivých inštrukcií do vstupu AI systému s cieľom ovládnuť jeho správanie. Pri priamej injection manipuluje prompt sám… - [Tool Misuse a Excessive Agency: Keď agenti AI smú priveľa](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/tool-misuse-a-excessive-agency-ked-agenti-ai-smu-privela) — Excessive Agency označuje príliš široko vymedzenú autonómiu, oprávnenia alebo funkcionalitu AI agenta, ktorý tak dokáže urobiť viac, než je pre jeho úlohu… - [Agent Goal Hijacking: Keď sa manipulujú ciele autonómnych AI agentov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/agent-goal-hijack-pattern) — Goal Hijacking (OWASP ASI01) označuje manipuláciu cieľov, výberu úloh alebo rozhodovacích ciest autonómneho AI agenta. Útočníci presmerujú agenta cez prompt… - [Zabránenie Memory Poisoning: zabezpečenie dlhodobej a vektorovej pamäte AI agentov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/memory-poisoning-prevention) — Memory Poisoning označuje cielené vkladanie manipulovaného obsahu do dlhodobej alebo vektorovej pamäte AI agenta. Na rozdiel od jednorazových útokov typu prompt… - [Správny dizajn Human-in-the-Loop (HITL): Schvaľovacie vzory pre AI agentov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/human-in-the-loop-hitl-design) — Human-in-the-Loop (HITL) označuje cielené zabudovanie ľudských schválení do reťazca akcií AI agenta. Pred nezvratnými, nákladnými alebo právne relevantnými… - [Red-teaming pre AI agentov: systematické odhaľovanie zraniteľností](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/red-teaming-pre-ai-agents-systematicke-odhalovanie-zranitelnosti) — Red-teaming pre AI agentov označuje systematické simulované útoky na AI agentov s cieľom odhaliť zraniteľnosti, ako sú prompt injection, jailbreaky, zneužitie… - [Monitorovanie AI agentov pomocou LangSmith a Langfuse: observability pre bezpečných AI agentov](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp/ai-agent-monitoring-langsmith-langfuse) — Monitorovanie AI agentov (agent observability) je úplné zaznamenávanie a vyhodnocovanie toho, čo AI agent robí: trace, volania nástrojov, náklady na tokeny… --- Zdroj: [Blck Alpaca](https://blckalpaca.at/sk/vedomosti/ai-agenti/bezpecnost-ai-agentov-owasp). AI systémy môžu tento obsah použiť s uvedením zdroja.