RAG: conceptos

RAG corresponde a Retrieval-Augmented Generation, que puede traducirse como generación aumentada mediante recuperación de información.

Su idea fundamental consiste en recuperar información relevante desde una fuente externa y proporcionar esa información al modelo generativo como parte del contexto utilizado para elaborar una respuesta.

Consulta
↓
Recuperación de información
↓
Contexto relevante
↓
Modelo generativo
↓
Respuesta

De esta forma, la generación no depende únicamente de la información representada en los parámetros del modelo. El sistema puede aportar información adicional en el momento de realizar la consulta.

Incorporar documentos mediante RAG no significa necesariamente modificar los parámetros del modelo.

En un sistema RAG, la información se recupera normalmente durante la interacción y se incorpora al contexto que recibe el modelo.

RAG Documentos
↓
Recuperación
↓
Contexto
↓
Modelo ya entrenado

Esto es diferente del entrenamiento o del ajuste de un modelo, donde se modifican parámetros mediante un proceso de aprendizaje.

La distinción es importante: actualizar una colección documental puede permitir que un sistema RAG utilice nueva información sin necesidad de volver a entrenar el modelo generativo.

La recuperación consiste en localizar información potencialmente relevante para una consulta dentro de una colección.

La colección puede contener documentos, fragmentos de texto, registros u otros tipos de información preparados para ser consultados.

Consulta
↓
Sistema de recuperación
↓
Colección
↓
Resultados relevantes

La calidad de esta fase es fundamental. Si el sistema no recupera la información necesaria, el modelo no podrá utilizarla simplemente porque exista en la colección.

Los documentos originales pueden necesitar procesamiento antes de incorporarse a un sistema de recuperación.

Entre las tareas posibles se encuentran:

• extraer el contenido;
• eliminar elementos irrelevantes;
• preservar información estructural útil;
• normalizar determinados formatos;
• añadir metadatos;
• dividir el contenido en fragmentos.

Documento
↓
Extracción
↓
Preparación
↓
Fragmentación
↓
Indexación

Una mala preparación puede afectar a todas las fases posteriores.

Cuando un documento se divide, una idea relevante puede quedar situada justo en el límite entre dos fragmentos.

Una estrategia posible consiste en introducir cierto solapamiento entre fragmentos consecutivos.

Fragmento A
↓
Parte compartida
↓
Fragmento B

El solapamiento puede ayudar a conservar contexto, pero también aumenta la cantidad de información almacenada y puede producir resultados redundantes.

Su utilidad debe evaluarse en relación con los documentos y las consultas reales.

Un embedding es una representación numérica de un elemento, como un texto, en un espacio vectorial.

En sistemas de recuperación semántica, los embeddings permiten representar consultas y fragmentos para comparar sus relaciones en ese espacio.

Texto
↓
Modelo de embeddings
↓
Vector numérico

Dos textos no necesitan contener exactamente las mismas palabras para obtener representaciones relacionadas.

Sin embargo, un embedding no debe interpretarse como una comprensión perfecta del significado. La calidad de la representación depende del modelo utilizado y del tipo de contenido.

En una búsqueda semántica, la consulta se representa de forma que pueda compararse con las representaciones de los documentos o fragmentos almacenados.

Consulta
↓
Embedding de consulta
↓
Comparación
↓
Fragmentos relacionados

Este enfoque permite recuperar contenido relacionado conceptualmente, incluso cuando la consulta y el documento no utilizan exactamente las mismas palabras.

La similitud semántica no garantiza por sí sola que el resultado sea correcto o suficiente para responder a la consulta.

Una estrategia híbrida combina más de un método de búsqueda, por ejemplo recuperación basada en términos y recuperación semántica.

Consulta
↓
Búsqueda por términos
+
Búsqueda semántica
↓
Resultados combinados

Este enfoque puede resultar útil cuando las consultas contienen tanto conceptos generales como términos que deben coincidir con precisión.

La conveniencia de utilizar recuperación híbrida debe comprobarse con las consultas y documentos reales del sistema.

Algunas arquitecturas incorporan una segunda fase para volver a evaluar los resultados recuperados y ordenar primero los fragmentos que parecen más relevantes.

Recuperación inicial
↓
Resultados candidatos
↓
Reordenación
↓
Resultados seleccionados

Esta técnica suele denominarse reranking. No es un componente obligatorio de RAG, pero puede utilizarse para mejorar la selección antes de construir el contexto.

Después de recuperar los fragmentos relevantes, el sistema construye la información que proporcionará al modelo generativo.

Consulta
+
Fragmentos recuperados
+
Instrucciones
↓
Contexto
↓
Modelo

Las instrucciones pueden indicar al modelo cómo debe utilizar los fragmentos, qué formato debe seguir o qué hacer cuando la información recuperada no sea suficiente.

La cantidad de información incorporada también está condicionada por los límites de contexto del modelo utilizado.

Una aplicación RAG puede conservar información sobre la procedencia de los fragmentos recuperados y utilizarla para mostrar las fuentes relacionadas con una respuesta.

Fragmento
↓
Documento de origen
↓
Metadatos
↓
Referencia

Mostrar referencias puede facilitar la comprobación de la información, pero una cita no garantiza automáticamente que la afirmación generada esté realmente respaldada por esa fuente.

Cuando la precisión sea importante, debe comprobarse que existe una relación real entre la afirmación y el contenido citado.

Para evaluar un sistema RAG conviene analizar por separado si la recuperación está encontrando la información necesaria.

Algunas preguntas útiles son:

• ¿el documento relevante existe en la colección?
• ¿el contenido se ha fragmentado adecuadamente?
• ¿la consulta recupera el fragmento necesario?
• ¿los resultados irrelevantes desplazan información útil?
• ¿los filtros permiten acceder a las fuentes correctas?

Consulta
↓
Resultados recuperados
↓
¿Contienen la información necesaria?
↓
Evaluación

Si la información correcta nunca llega al contexto, modificar únicamente el prompt del modelo puede no resolver el problema.

Un resultado incorrecto puede tener distintos orígenes.

Fuente incorrecta
↓
Preparación incorrecta
↓
Recuperación incorrecta
↓
Contexto insuficiente
↓
Generación incorrecta

Por ejemplo, el problema puede encontrarse en:

• documentos desactualizados;
• fragmentación deficiente;
• metadatos incorrectos;
• recuperación poco relevante;
• filtros inadecuados;
• demasiado contexto irrelevante;
• instrucciones poco claras;
• una respuesta generada que no respeta las fuentes.

Identificar la fase donde aparece el problema permite realizar ajustes más precisos.

Los documentos recuperados pueden proceder de fuentes que contienen información incorrecta, manipulada o incluso instrucciones diseñadas para alterar el comportamiento de una aplicación basada en modelos de lenguaje.

El contenido documental debe tratarse como datos y no asumirse automáticamente como una instrucción confiable.

Documento externo
↓
Contenido no confiable
↓
Controles de la aplicación
↓
Contexto
↓
Modelo

Los permisos, la validación de fuentes y los controles sobre acciones sensibles deben implementarse fuera del modelo cuando corresponda.

Imaginemos una aplicación que responde preguntas sobre la documentación técnica interna de una organización.

Un usuario pregunta:

¿Cómo debo solicitar acceso al entorno de pruebas?

El sistema puede realizar el siguiente proceso:

Pregunta
↓
Búsqueda en documentación autorizada
↓
Recuperación del procedimiento relevante
↓
Contexto para el modelo
↓
Generación de la respuesta
↓
Referencia al documento

Si el procedimiento cambia, la organización puede actualizar el documento y su índice sin que ese cambio implique necesariamente volver a entrenar el modelo generativo.

Para que el sistema sea fiable, también debe comprobarse que recupera la versión correcta del procedimiento y que el modelo responde de acuerdo con ella.

El funcionamiento conceptual puede dividirse en una fase de preparación y una fase de consulta.

Durante la preparación:

Documentos
↓
Procesamiento
↓
Fragmentación
↓
Representación
↓
Indexación

Durante una consulta:

Pregunta
↓
Recuperación
↓
Selección de contexto
↓
Modelo generativo
↓
Respuesta
↓
Verificación

La calidad final depende del funcionamiento conjunto de ambas fases.

Esta ficha se relaciona directamente con el resto de recursos de Inteligencia Artificial:

• Fundamentos de inteligencia artificial — conceptos generales sobre datos, modelos, entrenamiento e inferencia.
• Machine learning: conceptos — aprendizaje, modelos, evaluación y generalización.
• IA generativa y LLM — modelos de lenguaje, tokens, contexto e inferencia.
• Prompt engineering — instrucciones, contexto, restricciones y evaluación de respuestas.