Router LLM: kiedy duży model frontier, kiedy mały, a kiedy open source?

Router LLM to logika routingu, która automatycznie przypisuje każdy krok agenta AI do odpowiedniego modelu. Duże modele frontier przejmują złożone rozumowanie i orkiestrację narzędzi, małe, tanie modele wykonują proste kroki, takie jak klasyfikacja czy ekstrakcja, a modele open-weight obniżają koszty i, uruchamiane na suwerennym hostingu w UE lub on-premise, spełniają też wymogi suwerenności. Zamiast jednorazowej decyzji „jaki model wybieramy?” wybór modelu staje się w ten sposób ciągłym przypisywaniem zadań do modeli według czterech kryteriów: jakości, kosztów, latencji i zgodności z przepisami.

Kluczowy wniosek na 2026 rok: według analizy źródłowej pytanie „duży czy mały model, własnościowy czy open source?” nie jest już decyzją zero-jedynkową, lecz alokacją portfela. Produkcyjny agent rzadko działa na jednym modelu.

Trzy szybkie odpowiedzi

• Kiedy duży (zamknięty frontier)? Przy złożonym rozumowaniu, programowaniu agentowym na najwyższym poziomie, zadaniach z bardzo długim kontekstem, multimodalności premium i rzadkich, wartościowych krokach analitycznych. W dużych koncernach z regionu DACH ta kategoria obejmuje zazwyczaj 15-35% wolumenu tokenów, ale odpowiada za 60-80% postrzeganej wartości strategicznej.
• Kiedy mały (workhorse/speed)? Przy prostych, częstych, dobrze zdefiniowanych krokach: klasyfikacji, ekstrakcji, streszczaniu, samych decyzjach routingu i standardowym formatowaniu. Tutaj premia za frontier według analizy nie jest już ekonomicznie konieczna.
• Kiedy open source / suwerenny hosting w UE? Gdy dominują suwerenność, rezydencja danych, kontrola kosztów przy dużym wolumenie lub wymogi współdecydowania pracowników, zwłaszcza w przypadku agentów kształtujących pracę personelu i agentów przetwarzających dane klientów.

Dlaczego zero-jedynkowe pytanie o model w 2026 roku już się nie sprawdza

Według analizy luka możliwości między najlepszymi modelami open-weight a zamkniętymi modelami frontier zmniejszyła się z 12-18 miesięcy (2024) do 3-6 miesięcy (2026); przy niektórych obciążeniach wynosi zero lub jest ujemna. Konkretnie, dane z kwietnia i maja 2026: Kimi K2.6 (1T parametrów, Modified MIT, open-weight) zajmował 4. miejsce w klasyfikacji ogólnej Artificial Analysis Intelligence Index, ustępując jedynie modelom Anthropic, Google i OpenAI, a z wynikiem 58,6% w SWE-Bench Pro osiągnął parytet z GPT-5.5. DeepSeek V4 Pro uzyskał 80,6% w SWE-Bench Verified i rating Codeforces 3206. Wyżej znalazł się Gemini 3 Deep Think, dla którego Google w lutym 2026 roku podał rating Codeforces 3455.

Jednocześnie w tym samym okresie premia za frontier dla określonych kroków pozostała realna i nietrywialna: w FrontierMath GPT-5.5 Pro osiągnął najlepszy publiczny wynik matematyczny, w GPQA Diamond prowadził Gemini 3.1 Pro z wynikiem 94,3%, a Claude Opus 4.7 uzyskał 87,6% w SWE-Bench Verified. W rzadkich, wartościowych zadaniach wymagających rozumowania, takich jak kwerendy prawne, formułowanie hipotez naukowych czy złożona analiza finansowa, zamknięte modele frontier miały więc wyraźną przewagę.

Dla wyboru modelu oznacza to, że uczciwe pytanie nie brzmi „open czy closed?”, tylko „który krok powinien trafić na który poziom?”.

Dźwignia kosztowa: dlaczego routing się opłaca

Ekonomicznym motorem routingu LLM jest rozpiętość cen. Według analizy zamknięte modele frontier pozostają 8-100 razy droższe na tokenach wyjściowych niż tanie modele open-weight. Kto wysyła każdy krok agenta, nawet prostą klasyfikację e-maila, do modelu frontier, płaci ceny premium za jakość, której ten krok w ogóle nie potrzebuje.

Poniższe zestawienie pokazuje reprezentatywne ceny katalogowe (USD za milion tokenów input/output). Nowe generacje modeli pojawiają się co kilka miesięcy. Dlatego przed każdym wieloletnim zobowiązaniem sprawdź ceny i wersje.

Rozpiętość jest drastyczna: w typowym porównaniu ceny tokenów wyjściowych różnią się od 8 do 100 razy; jeśli zestawić najdroższy model frontier z najtańszym modelem workhorse, GPT-5.5 Pro kosztuje na tokenach wyjściowych nawet około 640 razy więcej niż DeepSeek V4 Flash. To właśnie ta luka sprawia, że routing staje się ekonomicznym standardem.

Wzorzec routera: od zadania do modelu

Router LLM przypisuje przychodzące kroki do ich klasy złożoności i zgodności, a następnie wybiera najtańszy model, który spełnia wymagania. W praktyce często to mały, szybki model sam klasyfikuje zadanie, zanim właściwa praca trafi do odpowiedniego modelu docelowego. Sercem jest tabela routingu:

Cztery wymiary kompromisu

Analiza porządkuje wybór modelu według czterech wymiarów, które dobry router uwzględnia jednocześnie:

• Jakość (kontrola nad wagami & możliwości): Ile głębi rozumowania naprawdę potrzebuje dany krok? I kto kontroluje model: czy jako zamknięte API zależy wyłącznie od roadmapy dostawcy, czy jako model open-weight da się go przenieść do innego dostawcy inferencji lub na self-hosting?
• Koszty (profil kosztów): Zamknięte modele rozliczane za token (premium, w pełni zmienne), modele open-weight rozliczane za token przez dostawcę inferencji (średnia półka) albo self-hosting (koszty stałe, krańcowy koszt tokenu bliski zera przy wysokim wykorzystaniu). Według analizy self-hosting staje się naprawdę atrakcyjny dopiero przy stałym wolumenie 5-50 mln tokenów dziennie i tylko wtedy, gdy masz własne kompetencje MLOps.
• Latencja: Specjaliści od szybkości, tacy jak Groq (LPU) i Cerebras (wafer-scale), zapewniają time-to-first-token poniżej sekundy dla wybranych modeli. Ma to znaczenie przy interaktywnych agentach, ale nie przy nocnym przetwarzaniu wsadowym.
• Zgodność (suwerenność hostingu): Według analizy region UE u amerykańskiego hiperskalera to nie to samo co suwerenna infrastruktura UE. Zmniejsza latencję i tarcia związane z RODO, ale nie eliminuje jurysdykcji USA (CLOUD Act, OFAC). Strukturalnie poza zasięgiem USA znajdują się tylko suwerenne europejskie platformy (STACKIT, OVHcloud, T-Systems Open Telekom Cloud, IONOS, Hetzner) oraz rozwiązania on-premise.

Open source czy model własnościowy: trzeźwa ocena

Tutaj warto przyjrzeć się szczegółom, bo „open” ma wiele wymiarów. Open-weight oznacza, że wagi można pobrać, a nie automatycznie, że licencja nie ma ograniczeń. Mistral Large 3 (Apache 2.0, suwerenny UE) i Phi-4 (MIT) mają liberalne licencje. Llama 4 podlega natomiast Llama Community License z progiem 700 mln MAU i ograniczeniem w UE dla modeli multimodalnych. Meta uzasadniła w lipcu 2024 roku wyłączenie multimodalnych modeli Llama z UE nieprzewidywalnym europejskim otoczeniem regulacyjnym. Według doniesień chodziło o niepewną interpretację RODO przy trenowaniu na danych użytkowników z UE, a nie o AI Act. OSI wprost klasyfikuje Llamę jako model, który nie jest open source.

Chińskie modele open-weight (DeepSeek V4 na licencji pochodnej MIT, Kimi K2.6 na Modified MIT, Qwen 3.6-27B na Apache 2.0) mają naprawdę liberalne licencje, bardziej liberalne niż Llama. Według analizy liberalna licencja nie neutralizuje jednak jurysdykcji pochodzenia. Dla dużych europejskich koncernów ze spółką zależną w USA, zobowiązaniami wobec amerykańskich partnerów umownych lub infrastrukturą krytyczną ta opcja niesie nieokreślone geopolityczne ryzyko ogona (kontrola eksportu, ryzyko reputacyjne), które trzeba wyraźnie ograniczać dla każdego obciążenia. Jest to akceptowalne na przykład dla agentów programistycznych pracujących na publicznym kodzie lub dla wsadowej klasyfikacji publicznie dostępnych tekstów, ale problematyczne przy wrażliwych danych klientów.

Suwerenność jest ponadto w 2026 roku mierzalnym kryterium zakupowym: według Bitkom (listopad 2025) 89% niemieckich firm importujących cyfrowe towary lub usługi uważa się za zależne od tego importu. W ankiecie Bitkom opublikowanej w maju 2025 roku 68% społeczeństwa uznało, że Niemcy są w obszarze AI zbyt zależne od USA i Chin. W negocjacjach z radą pracowników suwerenna infrastruktura UE budzi strukturalnie mniej tarć, ponieważ prawa audytu, rezydencję danych i jurysdykcję dostawcy łatwiej uzgodnić.

Dyskretna, ale ważna uwaga: przedstawione tu stwierdzenia dotyczące zgodności i licencji nie stanowią porady prawnej. Dla routingu istotna jest granica wskazana w analizie: kto przeprowadza istotny fine-tuning modelu open-weight (orientacyjny próg AI Act: ponad jedna trzecia mocy obliczeniowej użytej do pretreningu modelu bazowego, domyślnie 3,33 × 10²² FLOPs), może sam stać się dostawcą GPAI. LoRA/QLoRA zwykle mieści się daleko poniżej tego progu; dalszy pretrening niemal zawsze go przekracza. To argument, by w pipeline'ie dostosowywania stawiać na RAG w połączeniu z prompt engineeringiem zamiast na ciężki fine-tuning, i powód, by konkretną ocenę prawną zlecić wykwalifikowanym specjalistom.

Przykład z praktyki: agent wsparcia z mieszanym routingiem

Agent obsługi klienta przetwarza dziennie 100 000 zapytań. Bez routera wszystko działa na Claude Opus 4.7 (5/25 USD za milion tokenów). Z routerem podział wygląda tak:

• Krok 1: klasyfikacja intencji (70% obciążenia): Szybki model open-weight, taki jak Ministral 3 (0,15/0,40 USD), klasyfikuje zapytanie, na tokenach wyjściowych ~60 razy taniej niż Opus. Ten krok jest suwerenny tylko wtedy, gdy model działa na suwerennej europejskiej platformie lub on-premise. Region UE amerykańskiego dostawcy inferencji zmniejsza tarcia związane z RODO, ale nie usuwa jurysdykcji USA.
• Krok 2: standardowa odpowiedź z bazy wiedzy (20% obciążenia): Europejski model workhorse, taki jak Mistral Large 3 (0,50/1,50 USD, Apache 2.0, suwerenny UE), generuje odpowiedź przez RAG, z dobrą jakością w języku niemieckim i rezydencją danych w UE.
• Krok 3: eskalacja ze złożonym rozumowaniem dotyczącym umów (10% obciążenia): Tutaj wkracza model frontier (Claude Opus 4.7), ponieważ jakość odpowiedzi ma krytyczne znaczenie dla biznesu, a premia jest uzasadniona.

Efekt: kosztowna ścieżka frontier obsługuje już tylko jedną dziesiątą obciążenia, a większość działa na tanich modelach open-weight od Mistrala, które przy suwerennym hostingu w UE są również suwerenne. Pseudokod decyzji routingu:

```
intent = classify(zapytanie) # Ministral 3, suwerenny stack UE
if intent in PROSTE:
return mistral_large_3(rag(zapytanie)) # suwerenny workhorse UE
elif intent == UMOWA_ZLOZONA:
return claude_opus_47(zapytanie) # frontier tylko tam, gdzie trzeba
```

Aby routing nie stał się pułapką uzależnienia od dostawcy, analiza zaleca warstwę przenośności (np. LiteLLM lub OpenRouter do routingu między wieloma dostawcami) i co najmniej cienką ścieżkę migracji na open-weight dla najważniejszych obciążeń, a do tego ciągły pipeline ewaluacji na wydzielonym zestawie testowym (held-out), ponieważ aktualizacje zamkniętych API następują automatycznie, a ciche regresje możliwości były wielokrotnie dokumentowane.

Dla agencji i decydentów B2B

Przemyślany router LLM nie jest w 2026 roku dodatkiem, tylko dźwignią, od której jednocześnie zależą koszty, jakość odpowiedzi i zgodność agenta z RODO. Właściwa architektura jest niemal zawsze hybrydowa. Prawdziwa praca polega na rzetelnym rozstrzygnięciu dla każdego obciążenia, który krok potrzebuje jakości frontier, który może działać na tanim europejskim modelu i gdzie suwerenność jest wiążąca. Właśnie taką logikę routingu, przenośność między dostawcami i odpowiednie połączenie suwerennej infrastruktury UE z zamkniętymi modelami frontier projektuje Blck Alpaca, agencja z Wiednia specjalizująca się w agentach AI, wspólnie z firmami z całej Europy. Jeśli chcesz wiedzieć, jaki mix modeli pasuje do Twoich obciążeń, Twojego profilu zgodności i Twojego budżetu, porozmawiaj z nami.