RAG no arregla una base de conocimiento rota. La rompe más rápido

La promesa de RAG (Retrieval-Augmented Generation) es seductora: conectar un modelo de lenguaje a los documentos internos de la empresa para que responda con información propia, no genérica. El problema es que la mayoría de las organizaciones despliega RAG sobre una base de conocimiento que nunca estuvo lista para ser consultada por una máquina.

La cifra que debería frenar cualquier lanzamiento apresurado

El 73% de los despliegues empresariales de RAG fracasan en el primer año. Y el motivo, en la gran mayoría de los casos, no es el modelo de lenguaje elegido. Es el estado de la base de conocimiento sobre la que se construyó: documentos obsoletos, brechas de cobertura, información contradictoria y una extracción deficiente del contenido original. Como resume bien la industria: si la base de conocimiento está desactualizada, RAG simplemente recupera la respuesta equivocada más rápido y con más aparente autoridad.

Esto no es un matiz técnico menor. Un estudio del ámbito oncológico encontró que los chatbots basados en RAG alucinaban hasta en el 35% de los casos cuando se apoyaban en búsqueda web general, frente a apenas el 6% cuando usaban una base curada y específica del dominio. La diferencia no estaba en el modelo, sino en la calidad del corpus que lo alimentaba.

El contexto amplio: mucho entusiasmo, poco impacto medido

Este problema ocurre dentro de una tendencia más grande. Según el informe «The State of AI» de McKinsey, el 71% de las organizaciones ya usa IA generativa de forma regular en al menos una función, pero más del 80% no reporta impacto tangible en su resultado operativo. El informe del MIT Project NANDA sobre el estado de la IA en los negocios, aunque preliminar y con una muestra acotada, llegó a una conclusión similar: el 95% de los pilotos empresariales de IA no generó impacto medible en resultados, y solo el 5% de los sistemas integrados produjo valor significativo.

Dentro de las organizaciones de gestión del conocimiento, la señal es clara: la IA generativa se convirtió en la prioridad número uno para el 41% de los equipos de KM según la encuesta de prioridades de APQC de 2025 —el salto más grande de cualquier prioridad en la historia reciente del estudio—. La adopción avanza más rápido que la preparación de los datos que la sostienen.

Por qué la fiabilidad sigue siendo un problema abierto

Incluso en dominios con alta exigencia de precisión, las tasas de error son notables. Un estudio de Stanford sobre herramientas de investigación jurídica asistidas por IA encontró tasas de alucinación de entre el 17% y el 33%, a pesar de tratarse de productos comerciales diseñados específicamente para minimizar ese riesgo. Si eso ocurre en herramientas especializadas y bien financiadas, es razonable esperar tasas similares o peores en implementaciones internas construidas apresuradamente sobre wikis desactualizadas y carpetas compartidas sin gobernanza.

Curar antes de conectar

La recomendación no es abandonar RAG, sino invertir el orden de las prioridades. Antes de desplegar un asistente de IA conectado a los documentos internos, la base debe pasar por gobernanza de datos real: control de versiones, atribución clara de fuentes, eliminación de contenido duplicado u obsoleto, y actualización continua del corpus. Un umbral práctico que proponen los especialistas es claro: si las pruebas internas muestran tasas de alucinación superiores al 5-10%, el despliegue debe detenerse hasta curar la base, no lanzarse «para ver qué pasa» y corregir sobre la marcha.

Curar un corpus antes de un despliegue de IA no es un paso previo opcional. Es, en la práctica, el proyecto en sí mismo.