幻觉类型与成因

幻觉指模型输出与事实不符、与上下文矛盾或逻辑不连贯的内容,分为三类:事实幻觉(编造不存在的事实,如错误的日期、人物、数字)、逻辑幻觉(推理链条断裂,自相矛盾或步骤错误)、上下文幻觉(输出与用户输入、检索文档或系统指令冲突,含知识截止导致的过时信息)。

医疗、金融、法律等高风险领域的回答可信度评估;RAG、Agent、摘要系统上线前的幻觉率与归因测试;面试高频追问"模型为什么撒谎",以此展开对训练目标与数据分布的讨论。

幻觉是 LLM 落地可信应用的核心障碍;根源在训练目标 $\max_\theta \sum_t \log P_\theta(y_t \mid y_{<t}, x)$ 是最大化条件概率而非真值,加上训练数据含错误信息、解码采样引入随机性、知识截止与遗忘。理解三类幻觉与成因,才能对症设计缓解与检测方案。

检验攻克程度：针对「幻觉类型与成因」专属刷题排雷

做单选排雷题、推导选项机制，答错自动收录进专属错题本。