Tree of Thoughts: gdy jedna ścieżka nie wystarcza

Tree of Thoughts (ToT) to metoda rozumowania dla modeli językowych, która zamiast jednego, liniowego toku myślenia generuje równolegle kilka ścieżek rozumowania, ocenia je i podąża nimi za pomocą przeszukiwania (BFS lub DFS) z backtrackingiem. Dzięki temu model potrafi rozpoznać ślepe zaułki, cofnąć się i sprawdzić alternatywy, zamiast trzymać się raz przyjętego błędnego założenia. Metodę przedstawili Yao i in. w artykule „Tree of Thoughts: Deliberate Problem Solving with Large Language Models” (arXiv:2305.10601, maj 2023, NeurIPS 2023).

• Co nowego? ToT modeluje wnioskowanie jako świadomą, sterowaną przeszukiwaniem eksplorację w stylu „Systemu 2” po drzewie stanów pośrednich, a nie jako pojedynczy łańcuch myśli.
• Kiedy jest potrzebny? Zawsze wtedy, gdy jedna ścieżka nie wystarcza: przy łamigłówkach, planowaniu ze ślepymi zaułkami i zadaniach wymagających przewidywania kolejnych kroków oraz backtrackingu.
• Ile kosztuje? Mniej więcej od 50 do 150 razy więcej tokenów niż pojedyncze wywołanie Chain of Thought, do tego wyraźnie większe opóźnienie.

Dlaczego jedna ścieżka często nie wystarcza

Chain of Thought (CoT) wyraźnie poprawił jakość rozumowania modeli językowych, bo model jawnie wypisuje swoje kroki pośrednie. Haczyk: CoT biegnie ściśle od lewej do prawej i nie może się cofnąć. Gdy tylko model na wczesnym etapie przyjmie błędne założenie, ciągnie ten błąd przez cały dalszy tok myślenia.

Przy wielu zadaniach nie ma to większego znaczenia. Przy problemach, które wymagają prawdziwego przeszukiwania i przewidywania, CoT jednak się załamuje. Klasyczny przykład z artykułu to gra liczbowa „Game of 24” (z czterech liczb trzeba uzyskać 24 za pomocą podstawowych działań arytmetycznych). Trzeba tu próbować kombinacji, rozpoznawać ślepe zaułki i wybierać alternatywne drogi obliczeń. Właśnie tego liniowy łańcuch nie potrafi: w artykule CoT z GPT-4 osiągnął tu zaledwie 4% skuteczności.

Tree of Thoughts usuwa ten strukturalny deficyt. Zamiast łańcucha buduje drzewo, w którym każdy węzeł jest rozwiązaniem częściowym, każde rozgałęzienie alternatywną kontynuacją, a każdy liść albo rozwiązaniem, albo ślepym zaułkiem.

Cztery decyzje projektowe w ToT

Artykuł o ToT opisuje cztery modułowe elementy, o których musi zdecydować każda konkretna implementacja ToT:

1. Dekompozycja na myśli: jak podzielić problem na pojedyncze „myśli”? Myślą może być krok obliczeniowy, plan akapitu albo pojedyncze słowo w krzyżówce.
2. Generator myśli: dla danego stanu proponuje się lub próbkuje k kandydatów na kolejną myśl.
3. Ewaluator stanów: każdy kandydat jest oceniany albo niezależnie za pomocą oceny wartości (w artykule klasyfikacja jako sure/maybe/impossible, każdorazowo próbkowana trzykrotnie), albo przez głosowanie, w którym model porównuje kilka stanów i głosuje na najbardziej obiecujący.
4. Algorytm przeszukiwania: drzewo przechodzi BFS (b najlepszych kandydatów na poziom, w artykule domyślnie b=5) albo DFS z backtrackingiem.

Inspirację koncepcyjną artykuł wprost czerpie z prowadzonych w latach 1950. badań Newella i Simona nad rozwiązywaniem problemów: świadome, sterowane przeszukiwaniem wnioskowanie zamiast pojedynczej odpowiedzi opartej na skojarzeniach.

Przykład schematyczny: pętla ToT w pseudokodzie

Poniższy pseudokod pokazuje wariant BFS o szerokości b i głębokości d. Służy jako ilustracja, a nie jako działająca implementacja.

```
frontier = [korzeń(problem)] # lista aktywnych stanów
for głębokość in range(d): # np. d = 3 kroki
kandydaci = []
for stan in frontier:
for _ in range(k): # k propozycji na stan
t = generator(stan) # następna myśl
kandydaci.append(stan + t)
ocenione = [(evaluator(c), c) for c in kandydaci]
# odrzuć ślepe zaułki (impossible) -> niejawny backtracking
ocenione = [x for x in ocenione if x[0] != "impossible"]
frontier = top_b(ocenione, b=5) # dalej tylko b najlepszych
rozwiązanie = najlepszy(frontier)
```

Kluczowe są dwa miejsca. Po pierwsze rozgałęzienie: dla każdego stanu powstaje k kandydatów, więc drzewo robi się szerokie. Po drugie przycinanie top_b w połączeniu z odrzucaniem węzłów impossible: słabo ocenione ścieżki zostają odcięte, a przeszukiwanie skupia moc obliczeniową na obiecujących gałęziach. W DFS backtracking występuje jawnie: jeśli ścieżka okaże się ślepym zaułkiem, przeszukiwanie wraca do ostatniego obiecującego węzła.

Koszty i korzyści: ToT kontra CoT

Przy odpowiednich zadaniach korzyść z ToT jest znaczna, ale cena również. Poniższe liczby pochodzą z artykułu o ToT (GPT-4, warunki jak w artykule) i należy je czytać jako względne wielkości efektu, a nie jako dzisiejsze wartości bezwzględne.

Tym przyrostom jakości towarzyszy ogromny dodatkowy nakład. Poniższa tabela umiejscawia ToT w spektrum popularnych wzorców rozumowania agentów; wartości tokenów to przybliżone rzędy wielkości względem pojedynczego wywołania CoT (= 1), zsyntetyzowane z danych z artykułu i doświadczeń z praktyki, i warto je zmierzyć na własnym obciążeniu.

W Game of 24 ToT zużył według artykułu około 5500 tokenów wyjściowych na przypadek, czyli prawie tyle, ile 100 przebiegów CoT łącznie (6700 tokenów). Opóźnienie jest jednoznacznie gorsze niż przy CoT, bo rośnie proporcjonalnie do rozgałęzienia, głębokości i częstotliwości próbkowania.

Jakość zależy przede wszystkim od generatora

Kluczowe ustalenie artykułu: ToT nie poprawia każdego modelu. O efekcie decyduje przede wszystkim model generujący. W Game of 24 GPT-4 z ToT osiągnął 74%, a GPT-3.5 z ToT tylko 19%. Analiza w artykule wyraźnie rozdziela role: GPT-4 jako generator i GPT-3.5 jako ewaluator dały 64%, w odwrotnej konfiguracji (GPT-3.5 generuje, GPT-4 ocenia) tylko 31%.

Jeszcze wyraźniej pokazuje to projekt w ramach Stanford CS224N: Mixtral-8x7B nie rozwiązał żadnej z dziesięciu najprostszych łamigłówek Game of 24, bo model halucynował liczby i nie radził sobie z prostą arytmetyką, przez co ewaluator stracił wszelką wartość. W praktyce oznacza to, że ToT na słabym modelu przepala budżet, nie rozwiązując problemu.

Kiedy (nie) stosować ToT

Z artykułu i doświadczeń praktyków wynikają jasne wytyczne na 2026 rok.

ToT sprawdza się, gdy:

• zadanie ma charakter przeszukiwania, czyli wymaga przewidywania kolejnych kroków, obejmuje rozgałęzienia i może prowadzić do ślepych zaułków (łamigłówki, optymalizacja, harmonogramowanie, planowanie).
• istnieje wiarygodny sygnał oceny, najlepiej z weryfikowalnymi nagrodami.
• wymagany jest ślad audytowy sprawdzonych alternatyw, na przykład w regulowanych branżach w Europie podlegających RODO lub unijnemu AI Act.
• celowo używa się małego, taniego modelu typu proposer, którego słabszy pojedynczy wynik ma zostać zrekompensowany przeszukiwaniem.

ToT nie sprawdza się, gdy:

• używany model i tak potrafi podać odpowiedź w jednym kroku.
• aplikacja jest wrażliwa na opóźnienia (np. czat na żywo).
• brakuje jasnego ewaluatora; bez dobrego sygnału oceny przeszukiwanie nic nie daje.

Najważniejszy wniosek: w ogólnym rozumowaniu jawny ToT jest w dużej mierze przestarzały, ponieważ nowoczesne modele rozumujące realizują przeszukiwanie drzewa wewnętrznie. Dlatego ToT pozostaje istotny przede wszystkim jako koncepcyjna podstawa przeszukiwania o strukturze drzewa w agentach oraz w wymienionych przypadkach szczególnych.

Od metody do agenta: LATS

Jeśli potrzebujesz ToT w stosie agentowym, dziś zwykle nie sięgasz po czysty ToT, lecz po jego następcę LATS (Language Agent Tree Search, Zhou i in., arXiv:2310.04406). LATS łączy rozbudowę drzewa z ToT z autorefleksją (w duchu Reflexion) i Monte Carlo Tree Search. LangGraph miał własne tutoriale do obu metod: jeden o Tree of Thoughts na przykładzie Game of 24 i jeden o LATS. Od czasu przeniesienia dokumentacji na docs.langchain.com stare adresy tutoriali przekierowują już tylko na stronę przeglądową LangGraph, a notebooki są nadal dostępne w wersji 0.3.0 repozytorium.

Blog LangChain przekonuje, że LATS wypada lepiej niż porównywalne algorytmy, takie jak Tree of Thoughts, ReAct i Reflexion. Jeśli chodzi o frameworki: w CrewAI ToT nie jest idiomatyczny (praca sekwencyjna/hierarchiczna), w AutoGen da się go wdrożyć za pomocą Selector Group Chat, ale pracochłonnie, a w n8n ze względu na eksplozję kombinatoryczną nie jest realistyczny, poza Best-of-N sampling (ToT o głębokości 1). Sam AutoGen jest obecnie w trybie utrzymania i nie dostaje już nowych funkcji, a jako następcę Microsoft wskazuje Microsoft Agent Framework.

Dla agencji i decydentów B2B

Dla agencji marketingowych i zespołów B2B w Europie przekaz jest pragmatyczny: Tree of Thoughts to nie standardowe narzędzie do codziennej pracy, lecz instrument specjalistyczny. W zdecydowanej większości projektów dla klientów (chatboty, pipeline'y treści, workflowy badawcze) lepszym wyborem są tańsze wzorce, takie jak ReAct czy ReWOO. ToT lub jego następca LATS opłacają się tylko tam, gdzie wykazano, że pojedyncza ścieżka rozwiązania nie wystarcza, na przykład przy copywritingu z wieloma ograniczeniami, zadaniach optymalizacyjnych lub regulowanych procesach, które wymagają weryfikowalnego śladu przeszukiwania obejmującego odrzucone alternatywy. Jeśli rozważasz ToT, zadbaj wcześniej o dwie rzeczy: wydajny model generujący i solidny sygnał oceny. Jeśli brakuje jednego z nich, koszty tokenów rosną wielokrotnie bez żadnego zysku. Blck Alpaca w ramach integracji agentów AI pomaga Ci właśnie w tej decyzji: w trzeźwym wyborze odpowiedniego wzorca rozumowania i rzetelnym zestawieniu kosztów i korzyści, zanim budżet zostanie przepalony na produkcji.