Graph RAG: Keď sú vzťahy dôležitejšie než podobnosť

Graph RAG je prístup retrieval-augmented generation, ktorý ukladá znalosti nie (len) ako vektory, ale ako znalostný graf (knowledge graph) z entít a ich vzťahov. Kým klasický RAG odpovedá na otázku cez sémantickú podobnosť, teda hľadá textové pasáže najbližšie k dopytu, Graph RAG sleduje explicitné spojenia medzi entitami. Vďaka tomu je silný tam, kde sú vzťahy a viacstupňové závery (multi-hop) dôležitejšie než čistá textová podobnosť.

• Čo to je: Variant RAG, ktorý ako zdroj znalostí využíva znalostný graf (entity plus relácie), samostatne alebo popri vektorovom indexe.
• Kedy pomáha: Pri multi-hop otázkach, otázkach na vzťahy a globálnych prehľadových otázkach o celom korpuse.
• Čo stojí: Vyššie náklady na indexovanie a údržbu než pri vektorovom RAG, pretože extrakcia grafu prebieha pomocou LLM.

Prečo čistá podobnosť naráža na hranice

Klasický RAG pracuje dvojstupňovo. V indexovacej vetve sa dokumenty parsujú a rozdelia na chunky, embedding model ich prevedie na vektory a tie sa zapíšu do vektorovej databázy. V dopytovacej vetve sa na embedding prevedie aj otázka, systém načíta najpodobnejšie chunky (top-k), voliteľne ich cez hybridné vyhľadávanie skombinuje s BM25, spresní re-rankerom a nakoniec všetko skončí v prompte generátora. Tento vzor je robustný a na väčšinu znalostných otázok stačí. Contextual Retrieval od spoločnosti Anthropic napríklad ukazuje, že chyby pri vyhľadávaní sa dajú znížiť až o 67 % pomocou kontextových hlavičiek pre jednotlivé chunky a re-rankingu (Anthropic, stav 09/2024).

Slepé miesto vzniká pri dvoch typoch otázok:

• Multi-hop otázky: „Ktorí dodávatelia nášho najväčšieho zákazníka sú sami pod sankciami?“ si vyžaduje reťazec záverov (zákazník -> dodávatelia -> stav sankcií), ktorý nie je v žiadnom jednotlivom chunku. Podobnosť top-k tu často prinesie len fragmenty a spojenie medzi nimi nevytvorí.
• Globálne prehľadové otázky: „Ktorých päť tém je ústredných naprieč všetkými 2 000 tiketmi zákazníckej podpory?“ sa nedá zodpovedať tak, že sa načíta päť až desať podobných chunkov. Odpoveď si vyžaduje agregáciu cez celý korpus.

Práve tu nastupuje Graph RAG: namiesto hľadania izolovaných kúskov textu sa pohybuje v explicitnej štruktúre znalostí.

Budovanie znalostného grafu namiesto vektorového indexu (alebo popri ňom)

Jadrom Graph RAG je indexovanie. Zo zdrojových dokumentov sa pomocou LLM extrahuje graf:

1. Extrakcia entít: LLM identifikuje entity (osoby, organizácie, produkty, miesta, koncepty) a opíše ich.
2. Extrakcia vzťahov: Rozpozná vzťahy medzi týmito entitami („dodáva pre“, „je dcérskou spoločnosťou“, „spôsobuje“) vrátane opisu a prípadne váhy.
3. Konštrukcia grafu: Z entít sa stanú uzly, zo vzťahov hrany. Entity, ktoré sa spomínajú viackrát, sa zlúčia.

Open-source prístup GraphRAG od Microsoftu (Microsoft Research) rozširuje tento základný vzor o dva ústredné kroky (stav 2026):

• Detekcia komunít (community detection): Pomocou zhlukovania grafu (napríklad Leidenovým algoritmom) sa tesne prepojené uzly zoskupia do hierarchických „komunít“, teda tematických podgrafov.
• Súhrny komunít (community summaries): Pre každú komunitu vytvorí LLM zhrnutie už pri indexovaní. Tieto súhrny sú kľúčom ku globálnym otázkam: pri prehľadovej otázke sa ako stavebné prvky odpovede typu map-reduce použijú súhrny komunít, nie jednotlivé chunky.

Z toho vyplývajú dva režimy dopytovania: Local Search odpovedá na cielené otázky o konkrétnej entite a jej okolí v grafe; Global Search odpovedá na tematické otázky o celom korpuse pomocou súhrnov komunít.

Pseudokód: indexovanie a dopytovanie

```text

Indexovanie (offline, náročné na LLM)

for dokument in korpus:
entity, vztahy = LLM_extrahuj(dokument)
graf.merge(entity, vztahy)

communities = cluster(graf) # napr. Leiden
for c in communities:
c.summary = LLM_zhrn(c) # súhrn komunity

Dopytovanie (online)

if otazka_je_globalna(otazka):
ciastkove_odpovede = [LLM(otazka, c.summary) for c in relevantne_communities]
odpoved = LLM_reduce(otazka, ciastkove_odpovede) # Global Search
else:
subgraf = graf.traverzuj(start=entity_z(otazka), hops=2)
odpoved = LLM(otazka, subgraf + prislusne_chunky) # Local Search
```

Graph RAG vs. vektorový RAG v priamom porovnaní

Rozhodnutie nie je otázkou buď/alebo, závisí od typu otázky a od rozpočtu. Nasledujúca matica zhŕňa rozdiely.

Hodnoty latencie a hybridného vyhľadávania pre klasický RAG pochádzajú z internej rešerše Blck Alpaca (porovnávacia matica architektúr RAG). Charakteristika Graph RAG vychádza z overených všeobecných poznatkov o projekte GraphRAG a o indexoch znalostných grafov vo frameworkoch ako LlamaIndex.

Porovnanie nákladov a zložitosti

Najväčší rozdiel je v indexovaní. Pri vektorovom RAG je najdrahšou jednorazovou operáciou embedding každého chunku: ako rádovú hodnotu uvádza interná rešerš náklady na indexovanie približne 0,02 až 0,13 USD za milión tokenov, s prompt cachingom od spoločnosti Anthropic pre Contextual Retrieval približne 1,02 USD za milión tokenov dokumentov (stav 09/2024). Graph RAG si vyžaduje viacero prechodov LLM na každý dokument: extrakciu entít, extrakciu vzťahov a súhrny komunít. To znásobuje náklady aj čas indexovania.

Príklad: 50 000 dokumentov

Predpokladajme, že agentúra indexuje pre klienta znalostný korpus s 50 000 dokumentmi:

• Vektorový RAG: Jednorazový embedding plus hybridný index. Hlavné náklady tvorí embedding API a hosting vektorovej databázy. Aktualizácie prebiehajú inkrementálne cez stabilné ID dokumentov.
• Graph RAG: Na každý dokument pripadá viacero volaní LLM na extrakciu, potom volania LLM na každú komunitu kvôli súhrnom. Už pri strednej veľkosti korpusu tak vznikajú náklady na indexovanie, ktoré sú násobkom nákladov pri vektorovom RAG, k tomu dodatočná prevádzková záťaž pre schému grafu, deduplikáciu entít a opätovné indexovanie pri väčších zmenách.

Základné pravidlo: Graph RAG sa oplatí vtedy, keď prínos odpovedí založených na vzťahoch ospravedlní vyššiu náročnosť, nie ako predvolená voľba. Rešerš Blck Alpaca všeobecne varuje pred anti-patternom „RAG ako všeliek“; pri Graph RAG to platí ešte viac, pretože celkové náklady na vlastníctvo (total cost of ownership, TCO) sú tu výrazne vyššie.

Kedy Graph RAG a kedy nie

Vhodný, keď:

• odpovede musia prepájať informácie z mnohých dokumentov (dodávateľské reťazce, organizačné štruktúry, compliance siete, výskumné a patentové oblasti).
• explicitné vzťahy medzi entitami sú z odborného hľadiska kľúčové.
• treba zodpovedať globálne prehľadové a tematické otázky o celom korpuse.

Skôr nie, keď:

• otázky sa prevažne týkajú jednotlivých faktov alebo úzko vymedzených pasáží, tu stačí hybridný RAG s re-rankingom.
• korpus je malý alebo sa často celý prepisuje (údržba grafu sa stáva úzkym hrdlom).
• rozpočet neunesie indexovanie náročné na LLM.

V praxi najlepšie obstojí hybridná architektúra: vektorové alebo hybridné vyhľadávanie zabezpečí široké sémantické pokrytie a znalostný graf sa cielene zapája pri otázkach na vzťahy a multi-hop otázkach. Graph RAG tak zostáva presnou nadstavbou namiesto drahej úplnej náhrady.

Upozornenie pre DACH: ochrana údajov platí aj v grafe

V Nemecku a Rakúsku Graph RAG nemení nič na zásadách GDPR. Entity a vzťahy s osobnými údajmi treba rovnako ako embeddingy a chunky pri klasickom RAG spravovať ako adresovateľné a vymazateľné záznamy. Platia zásady obmedzenia účelu a minimalizácie údajov (čl. 5), požiadavka právneho základu na spracúvanie (čl. 6) a právo na vymazanie (čl. 17). Oddelenie klientov (tenantov) a koncept rolí a prístupových práv sú bežné technické a organizačné opatrenia, ktorými zabezpečíš obmedzenie účelu a ochranu prístupu podľa čl. 25 a čl. 32 GDPR. Nemecká Konferencia orgánov ochrany údajov (Datenschutzkonferenz, DSK) uvádza obe opatrenia vo svojej orientačnej pomôcke k systémom RAG z októbra 2025 ako osvedčené. Ak zamestnanci používajú systém na rôzne účely, musia podľa DSK dostať rôzne roly. Hosting v regióne EÚ sa odporúča, ale nie je povinný: ak hostuješ mimo EHP, potrebuješ právny základ podľa kapitoly V GDPR, napríklad rozhodnutie o primeranosti alebo štandardné zmluvné doložky.

V Rakúsku je príslušný Úrad na ochranu údajov (Datenschutzbehörde, DSB). Jeho stanovisko k nasadeniu AI nájdeš v FAQ k umelej inteligencii a ochrane údajov. Vo Švajčiarsku platí v prvom rade revidovaný zákon o ochrane údajov (revDSG, účinný od 1. septembra 2023). GDPR sa tam uplatní navyše, ak firma ponúka tovar alebo služby osobám v EÚ alebo monitoruje ich správanie, pokiaľ k tomuto správaniu dochádza v EÚ (čl. 3 ods. 2 GDPR). Tieto údaje sú informatívne a nepredstavujú právne poradenstvo.

Pre agentúry a vedenie B2B firiem

Graph RAG nie je módna náhrada vektorového RAG, ale špecializovaný nástroj pre znalosti plné vzťahov. Pre agentúry to znamená: začni s hybridným RAG plus re-rankingom ako solídnym štandardným základom a Graph RAG zavádzaj len tam, kde multi-hop alebo prehľadové otázky prinášajú preukázateľnú obchodnú hodnotu. Pre vedenie B2B firiem nie je ústrednou otázkou „Ktorá technika je novšia?“, ale „Aké otázky naši používatelia naozaj kladú a potrebujú tieto odpovede vzťahy, alebo len podobnosť?“. Blck Alpaca pomáha s týmto vymedzením, poctivo vyčísľuje TCO a buduje architektúry RAG v súlade s GDPR, ktoré rastú so skutočnou potrebou, od štíhleho vektorového indexu až po hybridný systém so znalostným grafom.