上午好，今天给大家拆解一下基于 RAG 构建的电商知识库智能问答系统📖。 . RAG 简介🎯 1. 背景大型语言模型 (LLM) 虽然取得了显著成功，但在特定领域或知识密集型任务中仍有局限，比如处理超出训练数据或需要当前信息的查询时会产生 “幻觉” 现象。RAG 通过从外部知识库检索相关文档 chunk 并进行语义相似度计算，增强了 LLM 的功能，有效减少了生成事实不正确内容的问题，是基于 LLM 系统中很受欢迎的架构。 . RAG 架构✨ 1. RAG 实现过程主要包括三个步骤👇 Indexing (索引)：将文档分割成 chunk，编码成向量，并存于向量数据库中。这里面临一些挑战，如 chunk 的语义信息可能受分割方法影响，检索中可能因数据量增加出现噪声，以及检索到的 chunk 可能来源不明。有多种文本切分策略，如直接分段、生成问答对、增强信息，chunk 大小也需根据使用的 Embedding 模型及其 token 容量来确定。 . Retrieval (检索)：根据语义相似度检索与在问题最相关的前 k 个 chunk。 Generation (生成)：将原始问题和检索到的 chunk 一起输入到 LLM 中，生成最终答案。 . 2. RAG 在线检索架构（文档中未详细阐述这部分的具体内容，如果需要可以进一步研究原始文档） . RAG 流程🧐 1. 索引文本切分策略直接分段：按规则分段处理文本后转成可搜索格式，成本低，适合多数应用场景。例如对网页https://www.openim.io/en进行直接分段，得到 10 个 chunk。生成问答对：根据规则将文本拆成一段主题文本，调用 LLM 生成问答对，检索精度高，但会丢失部分文本细节。 如对相关文本切分后得到 28 个包含问答对的 chunk。增强信息：通过子索引以及调用 LLM 生成相关问题和摘要来增加 chunk 的语义丰富度，利于检索，但需更多实施方案需要更多存储空间和 LM 调用开销，切分后得到 6 个包含数据索引信息的 chunk。 平衡 chunk 需求的方法滑动窗口：使用重叠的 chunk 增强语义过渡，但存在对上下文大小控制不精确、有截断单词或句子风险以及缺乏语义考虑等限制。 . #转行 #产品经理 #AI产品经理 #产品经理项目实战 #产品经理入门 #RAG #大模型 #产品经理面经 #ai产品经理入门 #产品经理求职