Tree of Thoughts: cuando un solo camino no basta

Tree of Thoughts (ToT) es un método de razonamiento para modelos de lenguaje que, en lugar de seguir una única línea de pensamiento lineal, genera varias rutas de razonamiento en paralelo, las evalúa y las recorre mediante búsqueda (BFS o DFS) con backtracking. Así el modelo puede detectar callejones sin salida, retroceder y probar alternativas en vez de quedarse atascado en una suposición errónea ya asumida. El método lo presentaron Yao et al. en el artículo «Tree of Thoughts: Deliberate Problem Solving with Large Language Models» (arXiv:2305.10601, mayo de 2023, NeurIPS 2023).

• ¿Qué hay de nuevo? ToT modela el razonamiento como una exploración deliberada de «Sistema 2», guiada por búsqueda, sobre un árbol de estados intermedios, en lugar de como una única cadena de pensamiento.
• ¿Cuándo hace falta? Siempre que un solo camino no basta: en puzles, en planificación con callejones sin salida y en tareas que exigen anticipación y backtracking.
• ¿Cuánto cuesta? Aproximadamente entre 50 y 150 veces los tokens de una sola llamada Chain of Thought, además de una latencia bastante mayor.

Por qué un solo camino a menudo no basta

Chain of Thought (CoT) ha mejorado claramente la calidad de razonamiento de los modelos de lenguaje, porque el modelo escribe de forma explícita sus pasos intermedios. El problema: CoT avanza estrictamente de izquierda a derecha y no puede retroceder. En cuanto el modelo hace pronto una suposición errónea, arrastra ese error por todo el resto del razonamiento.

En muchas tareas esto apenas pesa. Pero en problemas que exigen búsqueda real y anticipación, CoT se viene abajo. El ejemplo clásico del artículo es el juego numérico «Game of 24» (formar 24 a partir de cuatro números con las operaciones aritméticas básicas). Aquí hay que probar combinaciones, detectar callejones sin salida y elegir caminos de cálculo alternativos. Justo eso es lo que una cadena lineal no puede hacer: en el artículo, CoT con GPT-4 solo logró aquí un 4 % de éxito.

Tree of Thoughts ataca este déficit estructural. En lugar de una cadena, construye un árbol en el que cada nodo es una solución parcial, cada ramificación una continuación alternativa y cada hoja una solución o un callejón sin salida.

Las cuatro decisiones de diseño de ToT

El artículo de ToT describe cuatro componentes modulares sobre los que debe decidir cualquier implementación concreta de ToT:

1. Descomposición en pensamientos: ¿cómo se divide el problema en «pensamientos» individuales? Un pensamiento puede ser un paso de cálculo, el plan de un párrafo o una sola palabra de un crucigrama.
2. Generador de pensamientos: a partir de un estado se proponen o se muestrean k candidatos para el siguiente pensamiento.
3. Evaluador de estados: cada candidato se evalúa, ya sea de forma independiente mediante una valoración (en el artículo, una clasificación como sure/maybe/impossible, muestreada tres veces en cada caso) o mediante votación, en la que el modelo compara varios estados y vota por el más prometedor.
4. Algoritmo de búsqueda: un BFS (los b mejores candidatos de cada nivel, en el artículo b=5 por defecto) o un DFS con backtracking recorre el árbol.

El artículo toma de forma explícita su inspiración conceptual de la investigación sobre resolución de problemas de Newell y Simon en la década de 1950: razonamiento deliberado y guiado por búsqueda en lugar de una respuesta asociativa única.

Ejemplo esquemático: el bucle de ToT en pseudocódigo

El siguiente pseudocódigo muestra una variante BFS con anchura b y profundidad d. Sirve como ilustración, no como implementación ejecutable.

```
frontier = [raíz(problema)] # lista de estados activos
for profundidad in range(d): # p. ej., d = 3 pasos
candidatos = []
for estado in frontier:
for _ in range(k): # k propuestas por estado
t = generator(estado) # siguiente pensamiento
candidatos.append(estado + t)
evaluados = [(evaluator(c), c) for c in candidatos]
# descartar callejones sin salida (impossible) -> backtracking implícito
evaluados = [x for x in evaluados if x[0] != "impossible"]
frontier = top_b(evaluados, b=5) # seguir solo con los b mejores
solución = mejor(frontier)
```

Hay dos puntos decisivos. Primero, la ramificación: por cada estado surgen k candidatos y el árbol se ensancha. Segundo, la poda top_b combinada con el descarte de los nodos impossible: las rutas mal valoradas se cortan y la búsqueda concentra la capacidad de cálculo en las ramas prometedoras. En DFS, el backtracking aparece de forma explícita: si una ruta resulta ser un callejón sin salida, la búsqueda vuelve al último nodo prometedor.

Coste y beneficio: ToT frente a CoT

En las tareas adecuadas, el beneficio de ToT es considerable, pero el precio también. Las siguientes cifras proceden del artículo de ToT (GPT-4, condiciones del artículo) y deben leerse como tamaños de efecto relativos, no como valores absolutos actuales.

Estas mejoras de calidad tienen como contrapartida un esfuerzo adicional enorme. La siguiente tabla sitúa ToT dentro del espectro de patrones habituales de razonamiento de agentes; los valores de tokens son órdenes de magnitud aproximados respecto a una sola llamada CoT (= 1), sintetizados a partir de los datos del artículo y de informes de campo, y conviene medirlos con tu propia carga.

En el Game of 24, según el artículo, ToT consumió unos 5.500 tokens de salida por caso, casi tantos como 100 ejecuciones de CoT juntas (6.700 tokens). La latencia es siempre peor que con CoT, porque crece en proporción a la ramificación, la profundidad y la tasa de muestreo.

La calidad depende por completo del generador

Una conclusión central del artículo: ToT no mejora cualquier modelo. El efecto lo determina sobre todo el modelo generador. En el Game of 24, GPT-4 con ToT alcanzó un 74 %, mientras que GPT-3.5 con ToT solo llegó al 19 %. El análisis del artículo separa con claridad los roles: GPT-4 como generador y GPT-3.5 como evaluador dieron un 64 %; en la combinación inversa (GPT-3.5 genera, GPT-4 evalúa), solo un 31 %.

Un proyecto de CS224N de Stanford lo muestra con aún más claridad: Mixtral-8x7B no resolvió ninguno de los diez puzles más sencillos del Game of 24, porque el modelo alucinaba números y fallaba en aritmética básica, lo que dejaba sin valor al evaluador. En la práctica, esto significa que ToT sobre un modelo débil quema presupuesto sin resolver el problema.

Cuándo (no) usar ToT

Del artículo y de los informes prácticos se desprenden pautas claras para 2026.

ToT es adecuado si:

• la tarea tiene carácter de búsqueda, es decir, requiere anticipación, implica ramificaciones y puede acabar en callejones sin salida (puzles, optimización, programación de tareas, planificación).
• existe una señal de evaluación fiable, idealmente con recompensas verificables.
• se exige un registro de auditoría de las alternativas examinadas, por ejemplo en sectores regulados en Europa sujetos al RGPD o al Reglamento de IA de la UE.
• se usa a propósito un modelo proposer pequeño y barato, cuyo resultado individual más débil se quiere compensar con búsqueda.

ToT no es adecuado si:

• el modelo utilizado puede dar la respuesta de todos modos en un solo paso.
• la aplicación es sensible a la latencia (por ejemplo, un chat en vivo).
• no hay un evaluador claro; sin una buena señal de evaluación, la búsqueda no sirve de nada.

La conclusión más importante: para el razonamiento general, el ToT explícito está en gran medida superado, porque los modelos de razonamiento modernos ya realizan la búsqueda en árbol internamente. Por eso ToT sigue siendo relevante sobre todo como base conceptual para la búsqueda de agentes con estructura de árbol y en los casos especiales mencionados.

Del método al agente: LATS

Si necesitas ToT en un stack de agentes, hoy lo habitual no es recurrir a ToT puro, sino a su sucesor LATS (Language Agent Tree Search, Zhou et al., arXiv:2310.04406). LATS combina la expansión en árbol de ToT con autorreflexión (en el sentido de Reflexion) y Monte Carlo Tree Search. LangGraph tenía tutoriales propios para ambos métodos, uno sobre Tree of Thoughts con el ejemplo del Game of 24 y otro sobre LATS. Desde que la documentación se trasladó a docs.langchain.com, las antiguas direcciones de los tutoriales solo redirigen a la página general de LangGraph; los notebooks siguen disponibles en la versión 0.3.0 del repositorio.

El blog de LangChain sostiene que LATS rinde mejor que algoritmos comparables como Tree of Thoughts, ReAct y Reflexion. Para situarlo en los frameworks: en CrewAI, ToT no es idiomático (secuencial/jerárquico); en AutoGen se puede implementar mediante un Selector Group Chat, aunque con bastante esfuerzo, y en n8n no es viable por la explosión combinatoria, salvo como Best-of-N sampling (ToT con profundidad 1). AutoGen está ahora en modo de mantenimiento y ya no recibe funciones nuevas; Microsoft señala como sucesor el Microsoft Agent Framework.

Para agencias y responsables de decisiones B2B

Para las agencias de marketing y los equipos B2B de toda Europa, el mensaje es pragmático: Tree of Thoughts no es una herramienta estándar para el día a día, sino un instrumento especializado. En la gran mayoría de los proyectos con clientes (chatbots, pipelines de contenido, flujos de investigación), patrones más baratos como ReAct o ReWOO son la mejor opción. ToT o su sucesor LATS solo salen rentables donde se ha comprobado que un único camino de solución no basta, por ejemplo en copywriting con muchas restricciones, tareas de optimización o procesos regulados que exigen un rastro de búsqueda verificable de las alternativas descartadas. Si te planteas ToT, asegúrate antes de dos cosas: un modelo generador potente y una señal de evaluación sólida. Si falta una de ellas, los costes de tokens se multiplican sin nada a cambio. Blck Alpaca te ayuda justo en esta decisión dentro de la integración de agentes de IA: elegir con criterio el patrón de razonamiento adecuado y sopesar con rigor coste y beneficio antes de quemar presupuesto en producción.