¿Qué es RAG (generación aumentada por recuperación)?

¿Qué es RAG?

RAG viene del inglés retrieval-augmented generation: generación aumentada por recuperación. Es una técnica para que un modelo de lenguaje de inteligencia artificial responda con la información de una empresa —manuales, políticas, contratos, fichas de productos— sin necesidad de reentrenarlo. En lugar de confiar en lo que el modelo «recuerda» de su entrenamiento, el sistema le entrega en cada consulta los documentos que necesita.

El término proviene del artículo de Patrick Lewis y otros autores, enviado en mayo de 2020 y aceptado en la conferencia NeurIPS de ese año. Proponían combinar la memoria interna del modelo con una memoria externa: un índice de documentos que se consulta en el momento de responder.

¿Cómo funciona, en simple?

El glosario de Anthropic lo explica en dos tiempos: primero se recupera de la base de conocimiento la información relevante para la pregunta, y luego se le pasa al modelo junto con la consulta original para que la use al redactar.

1. Preparar: los documentos se dividen en fragmentos y se convierten en embeddings, que se guardan en una base de datos vectorial.
2. Recuperar: cuando alguien pregunta, el sistema busca los fragmentos más parecidos en significado a la pregunta.
3. Generar: el modelo recibe la pregunta y los fragmentos, y responde indicando de dónde sacó cada dato.

Un ejemplo en una empresa ecuatoriana

Imagina una aseguradora con cientos de condicionados de pólizas en PDF. Un ejecutivo de servicio pregunta: «¿la póliza de vehículos cubre daños por inundación?». Con RAG, el sistema localiza la cláusula del condicionado vigente, el modelo redacta la respuesta y adjunta la referencia al documento y la página. El ejecutivo puede verificarla en segundos, en lugar de buscar en carpetas.

El mismo esquema sirve para un manual de procedimientos, las políticas de crédito o el catálogo técnico de una distribuidora.

¿Qué límites tiene?

• Basura entra, basura sale. Anthropic advierte que la efectividad de RAG depende de la calidad y relevancia de la base de conocimiento y de lo que se recupera en cada consulta. Si el documento está desactualizado, la respuesta también.
• Fragmentos sin contexto. Al cortar documentos, un fragmento puede perder datos clave, como a qué empresa o periodo se refiere. En septiembre de 2024, Anthropic propuso una mejora, la recuperación contextual, que según sus pruebas reduce en 49 % las búsquedas fallidas, y en 67 % si se añade un paso de reordenamiento de resultados.
• No siempre hace falta. La misma publicación indica que, si la base de conocimiento tiene menos de 200.000 tokens (unas 500 páginas), puede incluirse completa en la instrucción.
• Permisos. El buscador debe respetar quién puede ver qué: un vendedor no debería recibir fragmentos de la nómina.

¿Cómo se relaciona con otros términos?

RAG y el ajuste fino resuelven problemas distintos: RAG le da información al modelo en cada consulta; el ajuste fino cambia su comportamiento o su estilo. La documentación de Microsoft señala que RAG ayuda a superar los límites de tokens de los modelos y a reducir los costos de reentrenarlos con frecuencia cuando los datos cambian.

RAG también reduce las alucinaciones, porque obliga al modelo a apoyarse en evidencia, aunque no las elimina. Por eso conviene mostrar siempre la fuente de cada respuesta.