M5-110M5: NLP 与大语言模型幻觉与安全Hard
⚡闪卡盲测➔掌握度:

解释幻觉检测的方法(检索一致性 / 自一致性 / 不确定性)。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M5-111 →
📐 核心数学机理公式
detect: external evidence⏟retrieval/NLI+self-consistency⏟sampling+uncertainty⏟semantic entropy\text{detect}:\ \underbrace{\text{external evidence}}_{\text{retrieval/NLI}}+\underbrace{\text{self-consistency}}_{\text{sampling}}+\underbrace{\text{uncertainty}}_{\text{semantic entropy}}
⚡ 一句话直击要害答案
三类:外部证据核查(检索/工具验证)、内部一致性(多次采样/多模型)、不确定性(语义熵/P(True))。

📌 核心要点提炼

  • •
    外部证据:检索验证事实、NLI 判断蕴含、工具核验计算
  • •
    内部一致性:多次采样是否一致、多模型是否一致
  • •
    不确定性:语义熵、P(True)、隐藏状态探针

📐 数学机理与严密推导

数学机理:三类检测方法。(1) 外部证据核查(external evidence)——(a) 检索验证——对回答中的事实性陈述,检索证据并判断是否支持(用 NLI 模型或 LLM 判断'证据是否蕴含陈述');(b) 工具核验——对可计算/可查询的部分(算术、数据库查询)用工具验证;(c) 引用检查——回答中的引用是否真实存在且支持该陈述。优点——最可靠(有客观依据);缺点——只适用'可核查的陈述'(主观内容无法验证)、成本高(每次都要检索/计算)。(2) 内部一致性(self-consistency)——(a) 多次采样——对同一问题采样 N 次,若答案语义不一致(高语义熵)则可能有幻觉;(b) 多模型交叉——用不同模型回答同一问题,若不一致则存疑;(c) 改写不变性——用不同措辞提问,答案是否稳定。优点——无需外部资源、适用性广;缺点——无法检测'一致的错误'(若模型系统性地持有某个错误信念,多次采样都会给出同样的错误答案 → 被误判为'可信')。这是自一致性的根本局限。(3) 不确定性量化——(a) 语义熵(见前题);(b) P(True)——让模型评估'我的答案正确的概率';(c) logit/序列概率(低概率 → 高风险);(d) 隐藏状态探针(用内部表征训练'是否幻觉'的分类器)。优点——快速、无需外部资源;缺点——校准差(需先校准)、信号噪声大。组合与选择——(a) 有外部证据的场景(RAG、数据库)→ 优先用证据核查(最可靠);(b) 无外部证据的场景(开放问答)→ 用自一致性 + 不确定性(较弱);(c) 关键应用 → 三者组合 + 人工复核。应用——(a) 拒答(高不确定则说不知道);(b) 重采样(不一致则重新生成);(c) 触发检索(不确定时去查);(d) 人工复核(高风险转人工)。评估——(a) AUROC(检测器区分'幻觉/非幻觉'的能力);(b) 覆盖率 vs 精度(拒答多少 vs 拒对的准确率)。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① '自一致性无法检测一致的错误'是核心局限——若模型系统性地错(如对某事实持有错误信念),多次采样都会一致地错;故自一致性只能检测'随机性幻觉'(模型不确定时的编造),不能检测'系统性错误'。② '外部证据核查最可靠但适用面窄'——它要求'陈述可核查'(事实、计算);对'观点、创意、主观评价'无能为力。故需按内容类型选择方法。③ 'P(True) 需校准'——模型自评的置信度默认不可靠(过度自信);故需先校准(温度缩放)再使用。④ '隐藏状态探针'的前景——用模型内部表征训练检测器(不需生成多次,成本低);但需为每个模型单独训练、且泛化性待验证。⑤ '检测 → 行动'的闭环——检测本身无价值,关键是触发相应行动(拒答/重采样/检索/复核);故系统设计应包含'检测-行动'的完整闭环。⑥ 面试要点——被问'如何检测幻觉',应给出'三类方法(外部证据核查 / 内部一致性 / 不确定性)+ 各自适用场景与局限',并强调'自一致性无法检测系统性错误'与'外部证据最可靠但适用面窄';能设计'检测-行动'闭环是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    用自一致性检测系统性错误(会一致地错)
  • ✕
    对主观内容用外部证据核查(无法核查)
🎯 面试官连环追问与延伸考察
  • ?
    三类方法各适合什么场景?
  • ?
    为什么'自一致性'不能检测'一致性的错误'?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M5-109: 解释对齐税(alignment tax)与安全-能力权衡。📋 返回题库下一题 →M5-111: 解释约束解码(constrained decoding)的原理。