Retrieval-Augmented Generation (RAG)
Dar a un modelo contexto recuperado desde fuentes propias para responder con información relevante y trazable.
Qué resuelve
Separa el conocimiento cambiante del modelo: documentos se ingieren, fragmentan, indexan y recuperan en cada consulta.
La respuesta puede incluir citas, metadatos y permisos de la fuente original.
Cuándo tiene sentido
Cuando la respuesta depende de documentación interna, datos recientes o contenido que no debe entrar en el entrenamiento del modelo.
Evalúa recuperación y generación por separado: una respuesta mala puede comenzar con contexto irrelevante.
Compensaciones
Hay costo de embeddings, almacenamiento, latencia, actualización de índices y control de acceso.
RAG no elimina alucinaciones: necesita evaluación, límites de confianza, citas y una respuesta segura cuando no hay evidencia.
Comentarios