M5-105M5: NLP 与大语言模型幻觉与安全Easy
⚡闪卡盲测➔掌握度:

列举缓解幻觉的主要手段。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M5-106 →
📐 核心数学机理公式
mitigations: RAG,tools,citation,’I don’t know’,verification,training\text{mitigations}:\ \text{RAG},\text{tools},\text{citation},\text{'I don't know'},\text{verification},\text{training}
⚡ 一句话直击要害答案
检索增强(RAG)、工具调用、约束(要求引用/允许不知道)、解码策略、训练(RLHF/偏好数据)、以及后验校验。

📌 核心要点提炼

  • •
    检索增强:提供证据(治忠实性 + 部分事实性)
  • •
    工具调用:把计算/查询交给外部(消除算术/事实错误)
  • •
    约束与训练:要求引用、允许'不知道'、偏好数据含'承认不知道'

📐 数学机理与严密推导

数学机理:六类缓解手段。(1) 检索增强(RAG)——把相关文档放入上下文,让模型'基于证据回答';治忠实性幻觉(有据可依)与部分事实性(提供最新知识)。前提——(a) 检索质量(召回正确文档)、(b) 模型真的使用证据(需 prompt 强调)、(c) 允许'资料中没有则说不知道'。(2) 工具调用——把'精确计算'(计算器)、'事实查询'(搜索/数据库)、'结构化操作'交给外部工具;从根本上消除'算术错误'与'记忆错误'(因为不再依赖参数中的知识)。这是最可靠的手段(对外部可验证的部分)。(3) 约束与 prompt 设计——(a) 要求引用('每句话都要引用来源')——使幻觉可核查;(b) 允许'不知道'('若资料中没有,请回答不知道')——这是最有效也最被忽视的手段;因为模型'编造'常源于'被要求必须回答';(c) 要求给出置信度;(d) 要求先列证据再结论(chain-of-thought with evidence)。(4) 解码策略——(a) 降低温度(减少随机性,但可能降低多样性);(b) 对比解码(contrastive decoding:对比'专家模型'与'业余模型'的分布,放大前者偏好的 token);(c) doLa(对比不同层的分布);(d) 自一致性(多次采样 + 投票,过滤偶发幻觉)。(5) 训练层面——(a) 偏好数据含'承认不知道'的正例(教模型'诚实');(b) RLHF/DPO 中惩罚幻觉(用忠实度作为奖励维度);(c) 专门的幻觉数据集微调(如教模型'什么时候该说不知道');(d) 校准训练(让置信度反映正确率)。(6) 事后校验(verification)——(a) 事实核查(用检索/工具验证回答中的事实);(b) 一致性检查(多次生成是否一致);(c) 引用检查(引用是否真实存在且支持该陈述);(d) 自我批评(让模型检查自己的回答——但效果有限,见自反思题);(e) 外部验证器(专门的 NLI 模型判断'证据是否蕴含回答')。组合使用——实践中常'RAG + 工具 + 允许不知道 + 引用 + 事后校验'组合;单一手段难以覆盖所有幻觉类型。评估——用忠实度指标(RAGAS 的 faithfulness)、事实性基准(TruthfulQA、FActScore)、以及'拒答的合理性'(是否在不知道时拒答)。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① '允许说不知道'是性价比最高的手段——它的成本是'修改 prompt'(几乎为零),但能显著减少'无依据的编造';前提是评估要包含'不知道'的测试(否则模型学会'乱答'反而分数高)。② '工具调用最可靠'——对可验证的部分(算术、查询、结构化操作),工具从根本上消除错误;故'能调工具就调工具'。③ 'RAG 治忠实性、工具治精确性、训练治倾向性'——三类手段针对不同幻觉来源;故需组合。④ '引用'的双面性——要求引用能 (a) 让幻觉可核查、(b) 提升用户信任;但若模型编造引用则更危险(看起来可信);故需引用校验(检查引用是否存在且支持)。⑤ '事后校验'的成本——用检索/工具验证每个事实很贵;故常用'抽样校验'或'关键事实校验'。⑥ 面试要点——被问'怎么减少幻觉',应给出'六类手段(RAG/工具/约束/解码/训练/校验)+ 组合使用',并强调'允许说不知道是性价比最高的'与'工具最可靠';能指出'引用需校验(防编造)'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    prompt 隐含'必须回答'(鼓励编造)
  • ✕
    要求引用但不校验引用真实性
🎯 面试官连环追问与延伸考察
  • ?
    为什么'允许说不知道'很重要?
  • ?
    事后校验(verification)怎么做?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M5-104: 解释幻觉的成因与分类。📋 返回题库下一题 →M5-106: 解释不确定性量化与校准在幻觉检测中的作用。