Chain-of-Thought en agentes de IA: ¿cuándo ayuda y cuándo no?

Chain-of-Thought (CoT) es una técnica de prompting en la que un gran modelo de lenguaje formula explícitamente, con palabras, sus pasos intermedios antes de responder. En lugar de dar directamente un resultado, el modelo escribe el camino de resolución paso a paso. Esto aumenta la precisión en la lógica de varios pasos, las matemáticas y la planificación, pero cuesta tokens adicionales y latencia. Para los agentes, CoT es además el núcleo conceptual del que derivan casi todas las arquitecturas de agentes modernas.

• Ayuda en: lógica de varios pasos, matemáticas, planificación y en cualquier caso en que una ruta de razonamiento trazable mejore el resultado.
• No ayuda en: consultas simples, clasificación de un solo paso y aplicaciones críticas en latencia y costes.
• En parte redundante en: modelos optimizados para el razonamiento que ya ejecutan internamente el razonamiento paso a paso.

Qué hace Chain-of-Thought a nivel técnico

CoT obliga al modelo a descomponer el salto implícito de la pregunta a la respuesta en una cadena visible de reflexiones intermedias. La palanca práctica es pequeña y el efecto, a menudo grande: un disparador antepuesto o un camino de resolución de ejemplo desplaza la distribución de probabilidad del modelo hacia una generación estructurada, paso a paso.

Chain-of-Thought (Wei et al., 2022) es la raíz histórica de prácticamente todos los patrones de agentes actuales. De CoT surgieron ReAct, Tree-of-Thoughts, Plan-and-Solve/Plan-and-Execute y ReWOO: todos ellos se basan en el razonamiento explícito, lo reestructuran o lo rechazan deliberadamente. Quien entiende CoT entiende la base común de estas arquitecturas.

La propiedad decisiva del CoT puro, y a la vez su debilidad central: la ruta de razonamiento es estrictamente secuencial. El modelo genera un paso tras otro y no puede volver atrás ni rectificar un callejón sin salida en el que ya se ha metido. Por eso, en tareas que requieren búsqueda, anticipación o backtracking, CoT se desploma. Justo aquí entra Tree-of-Thoughts, que reinterpreta el razonamiento como una búsqueda sobre un árbol de estados intermedios.

CoT zero-shot frente a few-shot

En la práctica hay dos variantes con perfiles de coste-beneficio distintos.

• Zero-shot CoT: a la tarea solo se le antepone un disparador como «Pensemos paso a paso». Sin ejemplos y con un consumo de contexto mínimo. De esta idea surgió el prompting Plan-and-Solve (Wang et al., 2023), un enfoque zero-shot en dos fases («Primero elaboremos un plan / Ejecutemos el plan») que supera al zero-shot CoT en razonamiento matemático y se convirtió en la plantilla de la arquitectura de agentes Plan-and-Execute.
• Few-shot CoT: el prompt incluye uno o varios caminos de resolución de ejemplo completos. Esto ancla el razonamiento paso a paso, el formato deseado y las heurísticas propias del dominio. El few-shot CoT suele ser más preciso en tareas especializadas o críticas en cuanto al formato, pero cuesta bastantes más tokens de contexto por solicitud.

Regla general para agencias: el zero-shot CoT como estándar económico y el few-shot CoT solo donde la precisión o la fidelidad de formato adicionales justifiquen el mayor consumo de tokens.

Relación con ReAct: el razonamiento necesita anclaje

El CoT puro tiene un problema de fondo para los agentes: alucina hechos porque carece de cualquier anclaje externo. El modelo «piensa» de forma plausible, pero no tiene ningún mecanismo para contrastar sus suposiciones con la realidad.

ReAct (Yao et al., 2022) resuelve justo eso ampliando CoT con la acción. En lugar de solo pensar, ReAct entrelaza pasos de razonamiento con llamadas a herramientas:

• Thought: Tengo que consultar la facturación actual del cliente.
• Action: crmLookup(kunde="Muster GmbH", feld="umsatzQ1")
• Observation: Facturación T1 = 1.240.000 EUR
• Thought: Eso está un 8 % por encima del año anterior. Ahora lo comparo con el pipeline.
• Action: ...

Los pasos de razonamiento dirigen el uso de las herramientas; las observaciones de las herramientas corrigen el razonamiento. CoT sigue siendo, por tanto, el núcleo. ReAct solo añade el anclaje que le falta al CoT puro. Para la mayoría de los agentes en producción (chatbots con acceso al CRM y a la base de conocimiento, triaje de tickets), esta variante anclada es el punto de partida adecuado, no el CoT puro.

Cuándo ayuda CoT y cuándo no

La conclusión más importante de los informes de campo de 2024–2026 es esta: empezar con el patrón más sencillo que funcione y escalar solo cuando las tasas de error medidas lo obliguen. Aplicado a CoT, significa no inflar por reflejo cada prompt con instrucciones de «paso a paso», sino usarlas solo allí donde el tipo de tarea lo exija de forma demostrable.

Ejemplo con y sin CoT: el Game of 24

El «Game of 24» (formar el 24 a partir de cuatro números con las operaciones básicas) muestra con especial claridad el límite del CoT puro. En condiciones de GPT-4, el CoT puro alcanza aquí solo un 4 % de tasa de éxito, porque el modelo se compromete pronto con un camino y no puede volver atrás. Tree-of-Thoughts, que genera, evalúa y ramifica varios candidatos por paso, llega al 74 % (b=5, BFS a lo largo de tres pasos de razonamiento).

Algo parecido ocurre con los minicrucigramas (5×5): a nivel de partida, el CoT puro solo resuelve el 1 % de las tareas y Tree-of-Thoughts, el 20 %. En escritura creativa con restricciones, la valoración de coherencia de CoT ronda los 6,9 sobre 10 (prompting simple sin CoT: 6,2) y la de Tree-of-Thoughts, unos 7,6 (Yao et al., 2023).

La lección no es «CoT es malo», sino esta: CoT encaja con tareas de razonamiento lineales, no con problemas de búsqueda. En una tarea de cálculo o planificación de varios pasos, CoT mejora el resultado de forma apreciable; un problema de búsqueda con muchos callejones sin salida necesita una estructura de árbol, y una consulta simple no necesita ningún razonamiento.

Nota: estas cifras proceden de los artículos originales (en su mayoría de la era GPT-3.5/GPT-4, 2022–2023). Los modelos punteros actuales obtienen valores nuevos; los órdenes de magnitud deben leerse como indicadores relativos del efecto, no como valores absolutos actuales.

CoT y costes: el cálculo de latencia y tokens

Cada paso de razonamiento genera tokens adicionales y, como la generación es secuencial, latencia adicional. En una consulta simple que el modelo podría responder directamente, eso es pura sobrecarga. En aplicaciones de alto volumen (p. ej., triaje de tickets de soporte), esta sobrecarga se acumula rápidamente hasta convertirse en costes apreciables.

Una palanca práctica para reducir costes es el model tiering: un modelo potente y caro para la exigente fase de razonamiento/planificación y un modelo más pequeño y barato para los pasos de ejecución sencillos. Este enfoque, conocido por el patrón Plan-and-Execute, ahorra en flujos de trabajo de varios pasos del orden del 40–70 % de los tokens. Para CoT significa comprar razonamiento de forma selectiva allí donde cuenta, en lugar de repartirlo por igual entre todos los pasos.

Importante para elegir modelo en 2026: los modelos optimizados para el razonamiento (serie o, Claude con Extended Thinking, variantes Gemini Thinking) ya ejecutan internamente el proceso de razonamiento paso a paso. El prompting CoT explícito suele aportar en ellos poco beneficio adicional e incluso puede estorbar. El CoT explícito sigue siendo relevante sobre todo para modelos más pequeños/baratos y para pistas de auditoría trazables, por ejemplo en contextos regulados en Europa, donde un proceso de decisión documentado facilita la revisión. No existe ninguna obligación legal de documentar la ruta de razonamiento de un modelo. El Reglamento de IA de la UE exige que los sistemas de alto riesgo puedan registrar eventos automáticamente a nivel técnico (art. 12), pero no exige que se muestren los pasos intermedios. Además, la ruta de razonamiento mostrada solo sirve como prueba de forma limitada, porque no refleja de manera fiable por qué el modelo decidió realmente así (Turpin et al., 2023).

Para agencias y B2B: la decisión pragmática

Para las agencias de marketing y los equipos B2B en Europa, CoT se puede condensar en una heurística sencilla: CoT no es un añadido por defecto, sino una herramienta para usar de forma selectiva. Úsalo cuando la tarea requiera varios pasos de razonamiento, cálculos o planificación, por ejemplo al preparar informes, al comprobar la plausibilidad de indicadores o al descomponer solicitudes complejas de clientes. Prescinde de él en consultas simples, en la clasificación y en todo lo que dependa sobre todo de la velocidad y el coste unitario. Elige conscientemente entre zero-shot (barato) y few-shot (más preciso, más caro) según la tarea. Y, en los modelos de razonamiento, comprueba si el CoT explícito sigue aportando algo antes de gastar tokens en él. Quien toma bien estas cuatro decisiones obtiene agentes más precisos con costes controlados, en lugar de esparcir una sobrecarga de razonamiento cara y lenta por todo el pipeline.