RAG End-to-End Architecture: 解释 Self-RAG 与自适应检索。

Core Concept: 让模型自己决定'是否需要检索、检索什么、是否采信'；用反思 token 训练，避免'无差别检索'的浪费。

数学机理：<strong>标准 RAG 的问题</strong>——(a) <strong>无差别检索</strong>——即使问题'1+1 等于几'（无需检索）也会触发检索，浪费成本；(b) <strong>无差别采信</strong>——检索到的无关文档被塞进上下文，引入噪声甚至误导；(c) <strong>固定轮数</strong>——一次检索不够时无法自动再检索。<strong>自适应检索（adaptive retrieval）</strong>——让模型<strong>判断是否需要检索</strong>：(a) <strong>按需检索</strong>——模型先判断'这个问题需要外部知识吗？'（若不需要则直接回答）；(b) <strong>按需停止</strong>——检索一次后判断'信息足够吗？'（不足则再检索）；(c) <strong>查询改写</strong>——决定'检索什么'。实现方式：(i) <strong>prompt 驱动</strong>（让模型输出特殊标记决定是否检索）；(ii) <strong>分类器</strong>（训练一个'是否需要检索'的分类器）；(iii) <strong>专门训练</strong>（Self-RAG）。<strong>Self-RAG（Asai 等 2023）</strong>——训练模型生成<strong>反思 token（reflection tokens）</strong> 来<strong>自我评判</strong>各个环节：(a) <strong>Retrieve</strong>——是否需要检索（是/否/继续）；(b) <strong>IsRel</strong>——检索到的段落是否相关；(c) <strong>IsSup</strong>——生成的陈述是否被段落支持（忠实度）；(d) <strong>IsUse</strong>——回答是否有用。这些 token 在<strong>训练时</strong>由数据标注（用 GPT-4 生成），推理时模型生成它们以<strong>动态控制</strong>流程（决定是否检索、是否采信某段落、是否继续）。<strong>优势</strong>：(a) <strong>按需检索</strong>（省成本）；(b) <strong>过滤无关文档</strong>（提升忠实度）；(c) <strong>可解释</strong>（反思 token 显式表达模型的判断）。<strong>其他方案</strong>——(a) <strong>Self-Ask / IRCoT</strong>（多跳问题：边推理边检索）；(b) <strong>FLARE</strong>（当模型对下一个 token 的置信度低时触发检索）；(c) <strong>RAG vs 无 RAG 的路由</strong>（用一个分类器决定走哪条路）。<strong>与'长上下文'的对比</strong>——自适应检索是'按需取用'的精细版本；若模型能可靠判断'需要什么'，则可用最少的信息达到最好效果。

深度剖析与工程权衡：① <strong>'无差别检索的浪费'是真实的成本问题</strong>——在生产环境，每次检索都有延迟与成本（嵌入、向量搜索、可能的重排）；对'无需检索'的问题（闲聊、简单计算、创意）直接回答更经济。② <strong>'过滤无关文档'提升忠实度</strong>——无关文档会 (a) 占用上下文、(b) 诱导模型'引用错误证据'；故'判断相关性'是提升忠实度的关键步骤（与重排互补）。③ <strong>Self-RAG 的代价</strong>——需<strong>专门训练</strong>（构造反思 token 的标注数据，通常用 GPT-4 生成）；且反思 token 会增加生成长度（成本）。故它不是'开箱即用'的方案。④ <strong>'轻量替代'</strong>——实践中常用更简单的方案：(a) prompt 让模型输出 <code>[NO_RETRIEVAL]</code> 标记；(b) 训一个'是否需要检索'的小分类器；(c) 按查询类型路由（事实类走 RAG、创意类直答）。⑤ <strong>与'多跳检索'的关系</strong>——多跳问题（需先查 A 再据 A 查 B）需<strong>迭代检索</strong>；Self-RAG 的'继续检索'token 与 IRCoT 的'边推理边检索'都针对这一需求。⑥ <strong>面试要点</strong>——被问'如何避免无差别检索'，应给出'<strong>自适应检索（按需触发/按需停止）+ Self-RAG 的反思 token（Retrieve/IsRel/IsSup/IsUse）</strong>'与'<strong>轻量替代（prompt 标记/分类器/路由）</strong>'；能指出'Self-RAG 需专门训练、成本高'是深度理解的标志。