Prompting & Reasoning Techniques: 解释自反思（reflection / self-critique）的机制与局限。

Core Concept: 让模型检查自己的输出并修订；能修正显式错误，但对'自信的错误'无效，且可能'改错'。

数学机理：<strong>自反思（reflection / self-critique / self-refine）</strong> 的机制——(1) <strong>生成</strong>初始回答 y_0；(2) <strong>批评</strong>——让模型检查 y_0（'这个回答有什么问题？'）；(3) <strong>修订</strong>——基于批评生成 y_1；(4) 可选<strong>多轮迭代</strong>。<strong>为什么有时有效</strong>：(a) <strong>格式与显式错误</strong>——模型能发现自己漏了格式要求、算错了简单的加法、遗漏了子问题；(b) <strong>'第二次机会'</strong>——修订时模型可能注意到第一次忽略的细节；(c) <strong>条件化</strong>——有了初始回答作为'草稿'，模型只需'改进'（比从头做容易）。<strong>为什么常常无效（局限）</strong>：(1) <strong>'自信的错误'</strong>——若模型在第一次就'坚信'某个错误答案，批评时也会'认可'它（因为批评与生成用的是同一套参数与知识）；这是自反思的<strong>根本局限</strong>（模型无法'跳出自己'）。(2) <strong>可能'改错'</strong>——模型可能把<strong>正确答案改成错的</strong>（'过度修订'），尤其在没有明确错误时。(3) <strong>批评的质量有限</strong>——模型常给出'泛泛的批评'（'可以更详细'）而非'定位真正的错误'。(4) <strong>成本翻倍</strong>——每次反思都增加一次（或多次）模型调用，成本与延迟上升。<strong>实证</strong>——研究显示：自反思在'可验证的显式错误'上有效（如格式、简单计算），但在'推理错误'上效果有限（因为模型不知道自己对不对）；且<strong>外部验证</strong>（程序验证、检索证据）显著优于自反思。<strong>改进方向</strong>：(a) <strong>外部信号</strong>——用工具/检索/验证器提供'客观反馈'（而非自我批评）；(b) <strong>多轮 + 多路径</strong>——结合 Self-Consistency（多条路径的批评交叉验证）；(c) <strong>专门训练</strong>——用 RL 训练'自我验证'能力（推理模型的长 CoT 中常见'等一下，让我检查'）；(d) <strong>结构化批评</strong>——给出明确的批评清单（检查维度），而非开放式'有什么问题'。<strong>与'推理模型'的关系</strong>——经 RLVR 训练的推理模型<strong>内化了</strong>自我验证行为（在长 CoT 中自发检查与回溯）；这比'外部的自反思 prompt'更有效（因为它是训练出来的，而非临时提示）。

深度剖析与工程权衡：① <strong>'模型无法跳出自己'是自反思的根本局限</strong>——批评与生成用同一套知识，故'自信的错误'无法被自己发现；理解这一点能避免'过度依赖自反思'。② <strong>'外部验证 > 自反思'</strong>——对可验证任务（数学/代码），程序验证提供客观信号，远优于自我批评；故应<strong>优先引入外部验证</strong>（这也是 RLVR 优于 RLHF 的原因之一）。③ <strong>'过度修订'的风险</strong>——若无明确错误，模型可能'为改而改'，把对的改错；故实践中常用'只在检测到问题时才修订'（而非无条件多轮）。④ <strong>与'推理模型长 CoT'的关系</strong>——长 CoT 中的'自我检查'是<strong>训练出来的</strong>（RLVR 奖励正确性，模型发现'检查'能提高正确率）；故它比 prompt 层面的自反思更可靠。⑤ <strong>'结构化批评清单'的实用价值</strong>——把'检查什么'明确列出（如'是否回答了所有子问题？单位对吗？逻辑自洽吗？'）可显著提升批评质量；这比开放式提问有效。⑥ <strong>面试要点</strong>——被问'自反思有用吗'，应给出'<strong>能修正显式错误，但对自信的错误无效（同参数生成与批评）+ 可能改错 + 成本翻倍</strong>'，并强调'<strong>外部验证优于自反思</strong>'与'<strong>RL 训练的自我验证更可靠</strong>'；能指出'结构化批评清单'提升效果是深度理解的标志。