滚动阅读
什么是RAG
检索增强生成是一种结合信息检索和大语言模型的技术,通过从外部知识库检索相关文档来增强生成回答的准确性和时效性。
RAG工作流程
- 文档处理:加载、分块、向量化、存储
- 查询处理:问题向量化、相似度检索、重排序、构建Prompt、生成回答
文本分块策略
- 固定大小分块:简单但可能切断语义
- 语义分块:根据段落标题等边界分割
- 重叠分块:块之间保留重叠,保留上下文
相似度计算
常用余弦相似度和点积相似度。余弦相似度关注方向,点积相似度同时关注方向和大小。
重排序
初检索返回较多结果,通过交叉编码器重新计算相关性分数,取Top-K作为最终上下文,提升检索精度。
RAG vs 微调
RAG适合知识密集型问答,知识更新方便,可追溯来源。微调适合风格和格式适配,需要训练成本。
优化技巧
- 混合检索:向量检索加关键词检索
- 查询改写:用LLM优化用户问题
- 分块优化:根据文档类型选择策略
- 上下文压缩:去除冗余信息
- 多跳检索:复杂问题分步检索
总结
RAG通过外部知识检索解决了大模型知识过时和幻觉问题,是当前企业级AI应用最主流的技术方案。