← Proyectos y patrones

Retrieval-Augmented Generation (RAG)

Dar a un modelo contexto recuperado desde fuentes propias para responder con información relevante y trazable.

Qué resuelve

Separa el conocimiento cambiante del modelo: documentos se ingieren, fragmentan, indexan y recuperan en cada consulta.

La respuesta puede incluir citas, metadatos y permisos de la fuente original.

Cuándo tiene sentido

Cuando la respuesta depende de documentación interna, datos recientes o contenido que no debe entrar en el entrenamiento del modelo.

Evalúa recuperación y generación por separado: una respuesta mala puede comenzar con contexto irrelevante.

Compensaciones

Hay costo de embeddings, almacenamiento, latencia, actualización de índices y control de acceso.

RAG no elimina alucinaciones: necesita evaluación, límites de confianza, citas y una respuesta segura cuando no hay evidencia.

Comentarios