M5-081M5: NLP 与大语言模型RAG 全链路Hard
⚡闪卡盲测➔掌握度:

解释 query 改写与 HyDE。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M5-082 →
📐 核心数学机理公式
HyDE: q→d^=LLM(q)→retrieve by E(d^);multi-query: {q1,…,qm}\text{HyDE}:\ q\to\hat d=\text{LLM}(q)\to\text{retrieve by }E(\hat d);\qquad \text{multi-query}:\ \{q_1,\dots,q_m\}
⚡ 一句话直击要害答案
用 LLM 改写/扩展查询以弥合'查询-文档'的表达差异;HyDE 先生成假设答案再检索(用答案的嵌入更接近文档)。

📌 核心要点提炼

  • •
    改写:补全指代、扩展同义词、生成多个查询
  • •
    HyDE:生成'假设文档',用它的嵌入检索(弥合 query-doc 不对称)
  • •
    多查询:生成多个改写,各自检索后融合

📐 数学机理与严密推导

数学机理:核心问题:查询-文档不对称(query-document asymmetry)——用户的查询通常短(几个词)、口语化、信息不完整;而文档是长、正式、信息完整的。两者的'表达形式'差异使嵌入空间的相似度不可靠(短查询的嵌入与长文档的嵌入不在'同一风格')。三类改写方法:(1) 查询改写/扩展(query rewriting / expansion)——用 LLM (a) 补全上下文('它'指什么?);(b) 扩展同义词与相关术语('心脏病' → '心血管疾病、心梗、冠心病');(c) 分解为子查询(多跳问题拆成多个单跳查询);(d) 纠正错别字与语法。好处——提升召回(更多相关文档被命中)。风险——过度扩展会引入噪声(召回不相关文档)。(2) 多查询(multi-query / query generation)——用 LLM 生成 m 个不同视角的改写,各自检索,再用 RRF 融合结果。好处——覆盖不同表达(提升召回);代价——m 倍检索成本。(3) HyDE(Hypothetical Document Embeddings,Gao 等 2022)——关键洞察:'用假设答案检索'比'用问题检索'更准。做法:让 LLM 对查询生成一个'假设的答案文档'(即使内容是编造的),然后用这个假设文档的嵌入去检索真实文档。为什么有效——假设答案的形式与真实文档相似(都是'陈述性的长文本'),故其嵌入与真实文档'同分布',从而检索更准;这弥合了 query-doc 的表达差异(把'短查询'转换为'长文档形式')。风险——若 LLM 生成的假设答案方向错误(幻觉出无关内容),则检索会偏离;故 HyDE 对'模型领域知识不足'的查询可能失效(此时不如直接检索)。其他——(a) 查询分类/路由(判断是否需要检索、走哪条检索路径);(b) 查询分解(多跳问题拆解)。实践组合——常'多查询 + 融合 + 重排',或'HyDE + 混合检索';需按查询类型选择(简单事实查询不需要改写)。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① 'query-doc 不对称'是理解改写价值的钥匙——它解释了'为什么直接检索短查询效果差';HyDE 的巧妙之处正是'把查询转换成文档的形式'。② HyDE 的适用边界——它对'模型有相关知识'的查询有效(能生成方向正确的假设答案);对'模型完全不了解的领域'(如企业内部术语)无效(会生成错误方向的假设)。故 HyDE 不是万能的。③ 改写的成本——每次改写都需一次 LLM 调用(增加延迟与成本);故应按查询复杂度按需改写(简单查询不改、复杂/多跳查询改写)。④ '多查询 + RRF 融合'的实践——生成 3~5 个改写、各自检索、RRF 融合,通常比单查询召回更好;成本可控(3~5 倍检索,但检索比生成便宜)。⑤ 与'查询分解'的关系——多跳问题('A 的创始人的母校在哪')需先查 A 的创始人、再查其母校;这是'迭代检索'而非'单次改写'(见多跳检索)。⑥ 面试要点——被问'查询改写有什么用',应给出'弥合 query-doc 不对称'这一核心,并列举'改写扩展 / 多查询融合 / HyDE'三类方法与各自风险;能指出'HyDE 依赖模型的领域知识、对陌生领域可能失效'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    对所有查询都做改写(浪费成本)
  • ✕
    对模型不熟悉的领域用 HyDE(假设答案方向可能错)
🎯 面试官连环追问与延伸考察
  • ?
    为什么'查询-文档'存在表达差异?
  • ?
    HyDE 的风险是什么?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M5-080: 解释 embedding 模型的选择与微调。📋 返回题库下一题 →M5-082: 解释 GraphRAG 与结构化检索。