百炼平台知识库构建:从文档到RAG系统
百炼平台提供了开箱即用的知识库功能,上传企业文档后自动构建RAG问答系统。本文详细介绍知识库的构建流程、文档处理策略、检索优化技巧。
文档准备
支持的文档格式:PDF、Word、TXT、Markdown、HTML。建议将文档整理为结构化的Markdown格式,包含清晰的标题层级。每篇文档聚焦一个主题,避免一个PDF包含太多不相关的内容。
文档预处理:去除页眉页脚、水印、广告等无关内容。表格和图片需要转为文字描述(OCR或人工标注)。长文档按章节拆分,每个chunk控制在500-1000字。
知识库构建
百炼平台 → 知识库 → 创建知识库 → 上传文档 → 自动处理(分chunk、向量化、建索引)。处理完成后,每条知识都是一个文本chunk及其向量表示。
分chunk策略影响检索质量。太大(>2000字)会混入不相关内容,太小(<100字)上下文不完整。建议500-1000字一个chunk,chunk之间保留100-200字的重叠。
检索优化
混合检索:同时使用向量检索(语义相似)和关键词检索(精确匹配),取两者的交集或并集。比纯向量检索效果更好。
重排序(Reranking):检索出TOP 20条结果后,用Reranker模型重新排序,选出最相关的5条传入LLM。Reranking可以显著提升检索精度。
查询改写:用户的问题可能表述不清。用LLM先改写用户的查询(扩展同义词、补充上下文),再用改写后的查询检索。
效果评估
构建测试集(50-100个典型问题+标准答案),评估知识库的召回率和准确率。常见问题:检索到了错误的chunk(优化分chunk策略)、检索到了但没有回答好(优化Prompt)、完全没检索到(补充文档或调整检索策略)。
