Agents & Tool Use: 解释 Agent 的上下文管理与压缩。

Core Concept: 长任务的上下文会超出窗口且成本 O(R²)；用摘要、检索、分层与外部存储管理'放什么进上下文'。

数学机理：<strong>为什么上下文需要管理</strong>——(a) <strong>长度限制</strong>（即使 128k，长任务也会超出）；(b) <strong>成本 ∝L²</strong>（每轮都带完整历史，总成本 O(R²)）；(c) <strong>lost-in-the-middle</strong>（长上下文的中间信息利用率低）；(d) <strong>噪声</strong>（无关的历史会干扰当前决策）。<strong>上下文管理策略</strong>：(1) <strong>摘要（summarization）</strong>——把较早的对话/工具结果压缩为摘要；优点：省 token；缺点：可能丢失细节（需保留'关键事实'）。常用'滑动窗口 + 摘要'（近期原文、远期摘要）。(2) <strong>按需检索（retrieval）</strong>——不把全部历史放进上下文，而是存入向量库，<strong>按当前需要检索</strong>（类似 RAG 用于记忆）；优点：上下文精简；缺点：依赖检索质量（可能漏掉关键历史）。(3) <strong>分层（hierarchical）</strong>——近期对话保留原文（详细）、远期压缩为摘要（粗略）、更远的存入外部存储（可检索）；这是'人类记忆'的类比。(4) <strong>外部存储（external memory / files）</strong>——把长内容（如大文件、长网页、中间产物）写入<strong>文件系统或数据库</strong>，上下文中只保留'指针/摘要'，需要时读回；Claude 的'文件记忆'、Agent 的'笔记本'模式即此。优点：突破上下文限制、可持久；缺点：需读写管理。(5) <strong>结构化状态</strong>——用结构化格式（JSON、表格）记录'任务状态'（计划、进度、已知事实），比自然语言历史更紧凑、更易更新。<strong>'丢弃什么'的决策</strong>——优先级：(a) <strong>任务目标与约束</strong>（永不丢弃）；(b) <strong>当前计划与进度</strong>（保留）；(c) <strong>最近的工具结果</strong>（保留）；(d) <strong>早期的过程细节</strong>（可摘要或丢弃）；(e) <strong>无关的闲聊</strong>（丢弃）。实现：可用 LLM 判断重要性、或按规则（时间、类型）。<strong>'压缩的时机'</strong>——(a) 上下文接近上限时触发；(b) 每 N 轮主动压缩；(c) 关键节点（子任务完成）后归档。<strong>与'记忆'的关系</strong>——上下文管理是'短期记忆'的管理；与长期记忆（外部存储）配合。<strong>风险</strong>——过度压缩会丢失关键信息（导致重复工作或错误决策）；故需 (a) 保留关键事实、(b) 可回溯（保留原始日志供检索）、(c) 监控压缩后的成功率。

深度剖析与工程权衡：① <strong>'上下文是稀缺资源'是 Agent 工程的核心认知</strong>——把它当作'有限的预算'来分配（什么最值得放），而非'能放多少放多少'。② <strong>'外部存储 + 指针'是突破限制的关键</strong>——把长内容写到文件，上下文只留摘要与路径；这使 Agent 能处理'远超上下文限制'的信息量（如分析整个代码库）。③ <strong>'结构化状态优于自然语言历史'</strong>——用 JSON/表格记录任务状态（计划、已完成、已知事实）比'堆砌对话历史'更紧凑、更易更新、更少歧义。这是 Agent 设计的重要技巧。④ <strong>'摘要的损失'需可补偿</strong>——摘要会丢细节，故应保留<strong>原始日志</strong>（可检索）；当需要细节时能取回。⑤ <strong>与'前缀缓存'的配合</strong>——保留<strong>稳定的前缀</strong>（system + 计划）可命中前缀缓存，降低成本。⑥ <strong>面试要点</strong>——被问'Agent 上下文怎么管理'，应给出'<strong>上下文是稀缺资源（长度/成本/lost-in-the-middle）+ 四类策略（摘要/检索/分层/外部存储）+ 结构化状态 + 丢弃优先级</strong>'，并强调'<strong>外部存储 + 指针</strong>'与'<strong>结构化状态优于对话历史</strong>'；这是 Agent 工程类问题的高分回答。