Agents & Tool Use: 解释 Agent 的失败模式与恢复。

Core Concept: 常见失败：循环、选错工具、忽略观察、过早终止、目标漂移；用重试、反思、验证、检查点与人工介入恢复。

数学机理：<strong>常见失败模式</strong>。(1) <strong>循环（looping）</strong>——反复调用同一工具（如重复搜索同一查询）或重复步骤；原因：(a) 模型未识别'已做过'（上下文管理差）、(b) 工具返回无用时不断重试。(2) <strong>工具选择错误</strong>——选错工具（如该查数据库却去搜索）或参数错误（格式、范围）；原因：工具描述不清、工具过多、参数 schema 复杂。(3) <strong>忽略观察（ignoring observation）</strong>——工具返回了正确信息但模型不用（继续按原假设推理）；原因：上下文太长（观察被埋没）、prompt 未强调'必须利用工具结果'。(4) <strong>过早终止（premature stop）</strong>——任务未完成就给出答案；原因：模型'以为'完成了、或想省成本。(5) <strong>目标漂移（goal drift）</strong>——在多步执行中逐渐偏离原目标（被中间结果带偏）；原因：长上下文中的目标信息被稀释（lost in the middle）。(6) <strong>无法终止</strong>——不输出最终答案（一直调用工具）。(7) <strong>幻觉工具</strong>——调用不存在的工具或编造参数。(8) <strong>错误传播</strong>——一个错误步骤导致后续全部错误。<strong>恢复机制</strong>：(1) <strong>重试与反思（Reflexion）</strong>——失败后让模型<strong>反思</strong>（'为什么失败？下次怎么改？'），把反思存入记忆，重试时参考。(2) <strong>验证环节（verification）</strong>——在关键节点加<strong>校验</strong>（用工具/程序验证中间结果）；如代码 Agent 每步跑测试。(3) <strong>检查点与回滚（checkpoint）</strong>——定期保存状态，失败时回滚到上一个好状态（而非从头开始）。(4) <strong>冗余与投票</strong>——对关键决策用多次采样 + 投票（提升可靠性）。(5) <strong>人工介入（human-in-the-loop）</strong>——高风险操作或多次失败后请人工确认。(6) <strong>硬约束</strong>——(a) <strong>最大轮数</strong>（防循环）、(b) <strong>超时</strong>、(c) <strong>成本上限</strong>、(d) <strong>强制输出格式</strong>（防不终止）。(7) <strong>更好的工具与 prompt</strong>——(a) 工具返回结构化结果（易解析）、(b) 工具描述明确'何时用/不用'、(c) prompt 强调'必须基于工具结果'。<strong>检测手段</strong>——(a) <strong>重复检测</strong>（相似的工具调用/输出）；(b) <strong>进度检测</strong>（是否在接近目标）；(c) <strong>一致性检查</strong>（中间结果是否自洽）。

深度剖析与工程权衡：① <strong>'长任务的失败率累积'是核心问题</strong>——若每步成功率 95%，10 步任务的整体成功率约 60%；故<strong>恢复机制</strong>比'提升单步能力'更重要（因为单步能力已较高）。② <strong>'验证环节'是最有效的恢复手段</strong>——在关键节点用程序验证（跑测试、检查结果）能<strong>及早发现错误</strong>，避免错误传播；这是代码/数据类 Agent 的标准做法。③ <strong>'目标漂移'的解法是显式维护目标</strong>——把目标与约束放在<strong>上下文开头</strong>（稳定前缀）+ <strong>每轮重申</strong>（或放在工具调用的指令中）；避免被中间结果带偏。④ <strong>'忽略观察'的解法</strong>——(a) 缩短上下文（观察不被埋没）、(b) 结构化工具结果（用固定格式标记'工具返回'）、(c) prompt 明确要求'先总结观察再决策'。⑤ <strong>'检查点回滚'的价值</strong>——对长任务，回滚到上一个好状态比从头重试便宜得多；这需要 (a) 状态快照、(b) 可逆操作。⑥ <strong>面试要点</strong>——被问'Agent 会怎么失败'，应给出'<strong>循环/选错工具/忽略观察/过早终止/目标漂移 + 错误传播</strong>'与'<strong>重试+反思/验证环节/检查点回滚/人工介入/硬约束</strong>'的恢复机制，并指出'<strong>长任务失败率累积 → 恢复机制比单步能力更重要</strong>'；这是'有 Agent 实战经验'的高分回答。