AI技术

RAG检索增强生成技术原理

王
王子
2026-08-29 19:00 阅读 11 导出MD
滚动阅读

什么是RAG

检索增强生成是一种结合信息检索和大语言模型的技术,通过从外部知识库检索相关文档来增强生成回答的准确性和时效性。

RAG工作流程

  1. 文档处理:加载、分块、向量化、存储
  2. 查询处理:问题向量化、相似度检索、重排序、构建Prompt、生成回答

文本分块策略

  • 固定大小分块:简单但可能切断语义
  • 语义分块:根据段落标题等边界分割
  • 重叠分块:块之间保留重叠,保留上下文

相似度计算

常用余弦相似度和点积相似度。余弦相似度关注方向,点积相似度同时关注方向和大小。

重排序

初检索返回较多结果,通过交叉编码器重新计算相关性分数,取Top-K作为最终上下文,提升检索精度。

RAG vs 微调

RAG适合知识密集型问答,知识更新方便,可追溯来源。微调适合风格和格式适配,需要训练成本。

优化技巧

  1. 混合检索:向量检索加关键词检索
  2. 查询改写:用LLM优化用户问题
  3. 分块优化:根据文档类型选择策略
  4. 上下文压缩:去除冗余信息
  5. 多跳检索:复杂问题分步检索

总结

RAG通过外部知识检索解决了大模型知识过时和幻觉问题,是当前企业级AI应用最主流的技术方案。

评分:
☆ ☆ ☆ ☆ ☆
0 (0人评价)

评论 (0)

请 登录 后发表评论

暂无评论,来发表第一条评论吧