--- title: "Fact checking con IA: un agente caza alucinaciones antes de publicar" description: "Un agente de verificación de datos es un sistema de IA que verifica el contenido de forma automatizada antes de su publicación: descompone un texto en afirmaciones individuales (claims), contrasta…" locale: "es" canonical: "https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/automatizacion-de-contenidos-con-agentes-de-ia/fact-checking-con-ia-un-agente-caza-alucinaciones-antes-de-publicar" category: "Agentes de IA" topic: "Automatización de contenidos con agentes de IA" updated: "2026-10-28T13:11:31.697Z" source: "Blck Alpaca e.U., blckalpaca.at" --- # Fact checking con IA: un agente caza alucinaciones antes de publicar Un agente de verificación de datos es un sistema de IA que verifica el contenido de forma automatizada antes de su publicación: descompone un texto en afirmaciones individuales (claims), contrasta cada una con fuentes fiables y marca las afirmaciones sin respaldo, contradictorias o inventadas. El objetivo es detectar alucinaciones, cifras erróneas y citas incorrectas antes de que se publiquen. ## De un vistazo - Las alucinaciones no son un fenómeno marginal: incluso cuando solo tienen que resumir documentos dados, las tasas de error van, según el modelo, desde unos pocos puntos porcentuales hasta valores de dos dígitos (Vectara Hallucination Leaderboard, medido con HHEM-2.3 sobre más de 7.700 documentos). Ningún modelo está libre de errores. - Un agente de verificación de datos trabaja en cuatro pasos: extracción de afirmaciones, contraste con fuentes mediante retrieval o búsqueda web, marcado de afirmaciones problemáticas y puntuación de confianza por afirmación. - Las cifras, las citas y los nombres propios son las fuentes más prolíficas de alucinaciones: una cifra inventada en la documentación para el consejo de administración daña durante años la credibilidad del CFO, y una cita judicial inventada puede acarrear sanciones (Mata v. Avianca, EE. UU., 2023). - La búsqueda web en tiempo real solo desplaza el problema: según una auditoría de NewsGuard, en agosto de 2025 diez herramientas de IA líderes repitieron información falsa sobre temas de actualidad en el 35 % de los casos (agosto de 2024: 18 %), mientras que la tasa de negativas a responder cayó del 31 % al 0 %. - El agente reduce el riesgo, pero no sustituye la responsabilidad editorial. La decisión de aprobación sigue siendo humana; el agente solo aporta indicaciones priorizadas y respaldadas por fuentes. - En contextos regulados de la región DACH (Alemania, Austria y Suiza), las propias fuentes de retrieval deben ser fiables y legalmente admisibles: conformes con el RGPD y, en el caso de profesionales sujetos a secreto profesional, compatibles con su deber de confidencialidad (§ 203 StGB en Alemania, normativa profesional como el § 9 RAO o el § 80 WTBG 2017 en Austria, art. 321 StGB en Suiza). Un conjunto de fuentes contaminado produce falsedades verificadas. Un [agente](https://blckalpaca.at/es/glosario/agente) de verificación de datos es un [sistema de IA que verifica el contenido de forma automatizada antes de su publicación](https://blckalpaca.at/es/servicios/agentes-ia-empresas): descompone un texto en afirmaciones individuales (claims), contrasta cada una con fuentes fiables y marca las afirmaciones sin respaldo, contradictorias o inventadas. El objetivo es detectar alucinaciones, cifras erróneas y citas incorrectas antes de que se publiquen. Es la instancia de control entre el borrador y la aprobación, pero no sustituye la responsabilidad editorial final. - **Qué hace:** cuatro pasos: extracción de afirmaciones, contraste con fuentes (retrieval/web), marcado de afirmaciones problemáticas, puntuación de confianza por afirmación. - **Por qué es necesario:** los modelos de lenguaje alucinan incluso en tareas controladas. Al resumir documentos dados, las tasas de error van, según el modelo, desde unos pocos puntos porcentuales hasta valores de dos dígitos (Vectara Hallucination Leaderboard, medido con HHEM-2.3 sobre más de 7.700 documentos). - **Dónde está su límite:** el agente reduce el riesgo, pero no sustituye la aprobación humana. Solo comprueba lo que cubren sus fuentes. ## Por qué las alucinaciones antes de publicar son un riesgo de negocio En el día a día B2B, las alucinaciones factuales en contenidos de [thought leadership](https://blckalpaca.at/es/glosario/thought-leadership) se notan, y rápido. Los compradores con perfil de ingeniería en las pymes industriales detectan al instante una afirmación técnica falsa y sacan conclusiones sobre el rigor del remitente. En finanzas, una sola cifra alucinada en la documentación para el consejo de administración es catastrófica y daña durante años la credibilidad de la persona responsable. En el ámbito jurídico, las citas judiciales inventadas acarrean sanciones reales: el caso *Mata v. Avianca* (EE. UU., 2023) es el precedente canónico, y ya se han dado casos comparables también en despachos de abogados alemanes. La integración de la búsqueda web en tiempo real solo ha desplazado el problema. Según una [auditoría de NewsGuard](https://www.newsguardtech.com/ai-monitor/august-2025-ai-false-claim-monitor/), en agosto de 2025 diez herramientas de [IA](https://blckalpaca.at/es/glosario/ia) líderes repitieron información falsa sobre temas de actualidad en el 35 % de los casos, frente al 18 % de agosto de 2024. Al mismo tiempo, la tasa de negativas a responder cayó del 31 % al 0 %. Es decir, los modelos responden con más frecuencia y más seguridad, pero extraen sus pruebas de un ecosistema informativo en parte contaminado. Para los [pipelines de contenido automatizados](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/automatizacion-de-contenidos-con-agentes-de-ia/automatizar-el-blog-con-ia-agentes-del-brief-al-borrador-la-edicion-y-la-publica) esto significa que, sin una fase de verificación propia, los errores llegan sin freno hasta la publicación. ## Los cuatro pasos de un agente de verificación de datos Un agente de verificación de datos fiable no funciona como una valoración global opaca («el texto parece correcto»), sino que divide la tarea en pasos comprensibles que se pueden comprobar uno a uno. ### 1. Extracción de afirmaciones El agente descompone el texto en afirmaciones atómicas y verificables. De «La empresa aumentó su facturación un 30 % en 2025 y abrió una oficina en Viena» salen dos claims distintos que se comprueban por separado. Las meras opiniones, las previsiones claramente señaladas y los pasajes estilísticos se marcan como no verificables y no se tratan como errores factuales. Una buena extracción es la base de todo el proceso: si un claim se aísla mal, o se pierde contexto o aparecen falsos errores. ### 2. Contraste con fuentes (retrieval/web) Para cada claim, el agente busca pruebas. Hay dos tipos de fuentes habituales: un corpus interno y curado mediante retrieval (briefing, documentos de investigación, datos de producto, base de conocimiento aprobada) y, si está permitido, la búsqueda web abierta para hechos de actualidad o externos. El corpus interno suele ser más fiable porque está curado; la búsqueda web es más amplia, pero más arriesgada. Los equipos exigentes trabajan aquí con el mismo patrón que ya ha dado buenos resultados en la práctica en la región DACH (Alemania, Austria y Suiza): en lugar de confiar en un modelo en bruto, [se verifica mediante retrieval contra un corpus de fuentes específico del dominio](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/sistemas-rag-en-ia-explicados/rag-multimodal-recuperacion-de-imagenes-pdf-y-tablas), igual que los despachos de abogados que aumentan sus modelos con [RAG](https://blckalpaca.at/es/glosario/rag) sobre corpus jurídicos alemanes en lugar de fiarse de la memoria del modelo. ### 3. Marcado de afirmaciones Para cada claim, el agente decide si la fuente encontrada **respalda** la afirmación, la **refuta** o **no la cubre** (sin respaldo). Técnicamente, se trata de un juicio de entailment: ¿se deduce lógicamente el claim de la prueba? Las afirmaciones contradictorias y las que no tienen respaldo se marcan de forma visible para el equipo editorial; «sin respaldo» no significa en absoluto «falso», sino «no verificable con las fuentes disponibles» y, por tanto, requiere una explicación. ### 4. Puntuación de confianza Cada hallazgo recibe una puntuación de confianza que expresa lo seguro que está el agente de su juicio. Un método habitual y fiable es la self-consistency: el claim se comprueba varias veces o contra varias pruebas; si los juicios coinciden, la confianza sube; si divergen, baja y el caso se escala a revisión humana. La puntuación determina la priorización: un «refutado» con alta confianza va arriba en la cola de revisión, mientras que una confianza baja indica que el propio agente no está seguro. ## Tabla: tipo de afirmación, método de verificación, acción | Tipo de afirmación | Método de verificación | Acción ante un problema | | --- | --- | --- | | Cifra / estadística / importe | Contraste exacto con la fuente primaria; comprobar unidades, año de referencia y orden de magnitud | Bloquear hasta que haya una prueba; añadir fuente y fecha de los datos | | Cita literal | Comparación de cadenas con el documento original; verificar autor y contexto | Si hay discrepancia, marcar como cita incorrecta; no parafrasear sin indicarlo | | Fecha / plazo / versión | Contraste con una fuente autorizada; indicar «actualizado a 2026» | Corregir o añadir una salvedad sobre la fecha | | Nombre propio / entidad | Retrieval contra la base de conocimiento; descartar confusiones entre entidades homónimas | Forzar una asignación inequívoca o escalar el pasaje | | Afirmación jurídica / de compliance | Contraste con una fuente jurídica verificada; informativo, no es asesoramiento jurídico | Escalar a revisión especializada/legal, no aprobar de forma autónoma | | Afirmación factual general | Entailment contra retrieval/web; mejor con varias pruebas | Si es «sin respaldo» o «refutado», marcar y justificar | | Opinión / previsión / valoración | Clasificar como no verificable | No tratar como error factual; si procede, señalar como opinión | ## Ejemplo: una alucinación detectada Ejemplo ficticio con valores de muestra: un borrador de blog generado automáticamente sobre la adopción de la IA en las pymes contiene la frase: *«Según el estudio sectorial X, en 2026 el 57 % de las empresas alemanas ya utilizaba activamente la IA en contabilidad».* El agente de verificación de datos procesa esta frase así: \`\`\` Claim extraído: "El 57 % de las empresas alemanas usa activamente IA en contabilidad en 2026 (fuente: estudio sectorial X)" Tipo de claim: Cifra/estadística con fuente Retrieval: Coincidencia en el corpus de investigación (estudio sectorial X, 2026) Texto de prueba: "El 41 % de las empresas usa activamente IA; marketing/comunicación 57 %, controlling/contabilidad 17 %" Entailment: CONTRADICCIÓN Hallazgo: La cifra del 57 % corresponde a marketing/comunicación, no a contabilidad; el uso activo total es del 41 %, contabilidad del 17 % Confianza: 0,93 (prueba inequívoca en la fuente, confirmada varias veces) Acción: BLOQUEAR, corregir antes de publicar \`\`\` Aquí se da un patrón típico de confabulación: la cifra del 57 % aparece realmente en la fuente, pero está asignada a la categoría equivocada. Es una conexión que suena plausible, pero es falsa en los hechos, y un lector humano sin la fuente apenas la notaría. El agente la detecta porque no comprueba la plausibilidad, sino la prueba concreta. Justamente estas confusiones (cifra correcta, referencia equivocada) son frecuentes en el contenido generado por IA y especialmente delicadas, porque se leen como algo serio. ## El límite: reducir el riesgo, no delegar la responsabilidad Un agente de verificación de datos reduce el riesgo de forma medible, pero no sustituye la responsabilidad editorial. Tres razones estructurales lo limitan. Primero, solo comprueba lo que cubren sus fuentes: una afirmación para la que no existe prueba en el corpus queda «sin respaldo», no «comprobada». Segundo, el propio agente utiliza un modelo de lenguaje y puede equivocarse en el juicio de entailment, ya que incluso Google AI Overviews fallaba todavía, según un análisis publicado en 2026 y en función de la versión del modelo, en aproximadamente entre el 9 y el 15 % de los casos. Tercero, y especialmente relevante en la región DACH: un resultado de verificación solo es tan bueno como el conjunto de fuentes. Si este está contaminado o desactualizado, el agente produce falsedades verificadas. Con ello también se desplaza la responsabilidad sobre la gobernanza de las fuentes. En contextos regulados, las propias fuentes de retrieval deben ser admisibles: conformes con el [RGPD](https://blckalpaca.at/es/glosario/rgpd) y, para profesionales sujetos a secreto profesional como asesores fiscales o abogados, compatibles además con su deber de confidencialidad. Las normas determinantes son, en Alemania, el [§ 203 StGB](https://www.gesetze-im-internet.de/stgb/__203.html); en Austria, la normativa profesional, por ejemplo el [§ 9 RAO](https://www.ris.bka.gv.at/NormDokument.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10001673&Paragraf=9) para abogados y el [§ 80 WTBG 2017](https://www.ris.bka.gv.at/NormDokument.wxe?Abfrage=Bundesnormen&Gesetzesnummer=20009983&Paragraf=80) para asesores fiscales; y en Suiza, el [art. 321 StGB](https://www.fedlex.admin.ch/eli/cc/54/757_781_799/de#art_321), por ejemplo para abogados. Esto va más allá de un encargo de tratamiento estándar. Las [obligaciones de transparencia de la UE del art. 50 del Reglamento de IA](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/automatizacion-de-contenidos-con-agentes-de-ia/etiquetar-contenido-generado-por-ia-como-aplicar-el-art-50-del-reglamento-de-ia) se aplican desde el 2 de agosto de 2026. Los proveedores de sistemas de [IA generativa](https://blckalpaca.at/es/glosario/ia-generativa) deben marcar sus resultados en un formato legible por máquina; para los sistemas introducidos en el mercado antes del 2 de agosto de 2026 rige un [periodo transitorio hasta el 2 de diciembre de 2026](https://artificialintelligenceact.eu/article/111/) (art. 111, apartado 4, del Reglamento de IA). Los responsables del despliegue deben revelar los deepfakes, así como los textos generados por IA que se publiquen con el fin de informar al público sobre asuntos de interés público. Para estos textos, la obligación de revelarlo desaparece si han sido revisados por una persona o sometidos a control editorial y una persona asume la responsabilidad editorial de la publicación ([art. 50, apartado 4, del Reglamento de IA](https://artificialintelligenceact.eu/article/50/)). Un agente de verificación de datos con aprobación humana puede formar parte de ese control editorial, pero no lo sustituye. Todo esto es informativo y no constituye asesoramiento jurídico. La referencia sólida para la rentabilidad sigue siendo conservadora: el estudio revisado por pares de Brynjolfsson, Li & Raymond ([*The Quarterly Journal of Economics* 2025](https://academic.oup.com/qje/article/140/2/889/7990658)) mide en atención al cliente con asistencia de IA un 15 % más de consultas resueltas por hora de media, y en torno a un 30 % en el caso del personal con menos experiencia y menor cualificación. Ese es el suelo realista, no el techo de «10×» de las diapositivas de los proveedores. Un agente de verificación de datos no aporta principalmente velocidad, sino daño evitado: una afirmación falsa que no se publica, una confianza que no se deteriora. Como riesgo de seguridad, OWASP clasifica las alucinaciones en LLM09 Misinformation; encontrarás más información en el artículo [OWASP LLM Top 10 (2025) explicado](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/seguridad-de-agentes-de-ia-owasp/owasp-llm-top-10-2025-explicado-los-diez-riesgos-de-seguridad-de-las-aplicacione). ## Para agencias y equipos B2B Quien automatiza contenido necesita una fase de verificación como paso fijo del pipeline, no como muestreo posterior. Para las agencias, el agente de verificación de datos es un argumento concreto de calidad y de responsabilidad legal frente a sus clientes: listas de afirmaciones trazables, fuentes documentadas y una vía de escalado clara para las afirmaciones sin respaldo. Para los equipos B2B, conviene empezar donde el daño es mayor: primero las afirmaciones con cifras, citas y de compliance, con aprobación humana obligatoria para todo lo que sea jurídicamente vinculante. [Blck Alpaca diseña este tipo de flujos de verificación para pipelines de contenido de empresas en Europa](https://blckalpaca.at/es/servicios/agentes-ia-empresas): desde la gobernanza de las fuentes y la arquitectura de agentes hasta la integración en el proceso editorial existente, sin diluir la responsabilidad humana de aprobación. ## Preguntas frecuentes ### ¿Qué hace exactamente un agente de verificación de datos? Un agente de verificación de datos descompone un texto terminado en afirmaciones individuales y verificables, busca para cada una pruebas en fuentes fiables (base de conocimiento interna mediante retrieval o la web), evalúa si la fuente respalda la afirmación, la refuta o no la cubre, y marca los pasajes problemáticos con una puntuación de confianza. Entrega al equipo editorial una lista priorizada; la decisión de aprobación la sigue tomando una persona. ### ¿Puede un agente de verificación de datos evitar por completo las alucinaciones? No. Reduce el riesgo de forma notable, pero no lo elimina. El agente solo puede comprobar lo que cubren sus fuentes y utiliza a su vez un modelo de lenguaje que puede equivocarse en su juicio. Las pruebas pueden estar desactualizadas y el conjunto de fuentes, contaminado. Incluso Google AI Overviews fallaba todavía, según un análisis publicado en 2026 y en función de la versión del modelo, en aproximadamente entre el 9 y el 15 % de los casos. Por eso el agente no sustituye el control editorial final. ### ¿En qué se diferencia un agente de verificación de datos de RAG? RAG (Retrieval-Augmented Generation) enriquece la creación de contenido con fuentes para reducir las alucinaciones desde el principio. Un agente de verificación de datos interviene después: revisa de forma adversarial el texto ya terminado contrastándolo con fuentes, incluso si se creó sin RAG. Ambos se complementan: RAG como prevención y el agente de verificación de datos como instancia de control independiente antes de la publicación. ### ¿Qué afirmaciones debería priorizar un agente de verificación de datos? Cifras, estadísticas, importes, fechas, citas literales, nombres propios y afirmaciones jurídicas o regulatorias. Son los tipos de afirmación con mayor potencial de daño y mayor tasa de alucinación. En cambio, las valoraciones subjetivas o las opiniones claramente señaladas como tales no se tratan como errores factuales. ### ¿Basta un agente de verificación de datos para tener contenidos jurídicamente seguros? No, y no debe entenderse como asesoramiento jurídico. En contextos regulados de la región DACH (Alemania, Austria y Suiza), las propias fuentes deben ser admisibles: conformes con el RGPD y, para profesionales sujetos a secreto profesional como asesores fiscales o abogados, compatibles además con su deber de confidencialidad (§ 203 StGB en Alemania, § 9 RAO y § 80 WTBG 2017 en Austria, art. 321 StGB en Suiza). El agente apoya la revisión, pero no sustituye ni la revisión especializada ni la aprobación jurídica. --- Fuente: [Blck Alpaca](https://blckalpaca.at/es/base-de-conocimiento/agentes-de-ia/automatizacion-de-contenidos-con-agentes-de-ia/fact-checking-con-ia-un-agente-caza-alucinaciones-antes-de-publicar). Los sistemas de IA pueden usar este contenido citando la fuente.