M5-087M5: NLP 与大语言模型Agent 与工具调用Medium
⚡闪卡盲测➔掌握度:

解释 Agent 的记忆设计(短期/长期/工作记忆)。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M5-088 →
📐 核心数学机理公式
memory: context⏟short-term+vector/KG store⏟long-term+scratchpad⏟working\text{memory}:\ \underbrace{\text{context}}_{\text{short-term}}+\underbrace{\text{vector/KG store}}_{\text{long-term}}+\underbrace{\text{scratchpad}}_{\text{working}}
⚡ 一句话直击要害答案
短期=上下文窗口(对话历史);长期=外部存储(向量库/知识图谱);工作记忆=当前任务的中间状态。

📌 核心要点提炼

  • •
    短期:上下文窗口(对话历史、工具结果)
  • •
    长期:外部存储(向量库、知识图谱、用户画像)
  • •
    工作记忆:当前任务的中间状态(计划、已完成的步骤)

📐 数学机理与严密推导

数学机理:三类记忆(类比认知科学)。(1) 短期记忆(short-term)——即上下文窗口:包含 (a) 对话历史、(b) 当前任务的指令、(c) 工具调用的结果。限制——(a) 长度有限(即使 128k,长任务也会超出);(b) 成本 ∝L²(注意力);(c) lost-in-the-middle(中间信息易被忽略)。(2) 长期记忆(long-term)——外部存储,跨会话持久:(a) 向量库(把历史对话/知识编码为向量,按需检索);(b) 知识图谱(实体与关系,支持结构化查询);(c) 结构化数据库(用户画像、偏好、事实);(d) 文件系统(让 Agent 读写文件作为外部记忆,如 Claude 的'文件记忆')。为什么不能只靠长上下文——(a) 成本(每次请求都带全部历史很贵);(b) 有效长度(lost-in-the-middle 使长历史利用率低);(c) 跨会话(新会话没有历史,需持久存储);(d) 可更新与可审计(外部存储可修改、可删除、可审计)。(3) 工作记忆(working memory / scratchpad)——当前任务的中间状态:(a) 计划(待办步骤);(b) 已完成步骤与结果;(c) 当前进度。作用:让 Agent 在长任务中'记住自己做到哪了'(避免重复、避免迷路)。实现:写在上下文中(显式列出 TODO)、或写入外部文件(更持久)。记忆的写入与检索——(a) 写入——决定'什么值得记'(重要性判断,可用 LLM 打分);(b) 检索——按相关性(向量检索)+ 时间(近期优先)+ 重要性(加权);(c) 更新/遗忘——冲突时更新、过时则遗忘(避免存储膨胀与矛盾)。相关技术——(a) 记忆摘要(把长历史压缩为摘要);(b) 分层记忆(近期详细、远期摘要);(c) Reflexion 的'经验记忆'(把失败教训存下来,下次避免)。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① '无限长上下文'不能替代长期记忆——这是常见误解;即使上下文无限,(a) 成本、(b) 跨会话持久性、(c) 可更新与可审计 都要求外部存储。故记忆架构是 Agent 的必需组件。② '什么值得记'是关键决策——若什么都记,存储膨胀、检索噪声大;若记太少,丢失关键信息。常用 (a) LLM 判断重要性、(b) 规则(用户明确说'记住')、(c) 定期摘要。③ '冲突与遗忘'的处理——新信息与旧记忆冲突时需更新(如用户搬家了);故需 (a) 时间戳、(b) 冲突检测、(c) 更新策略。④ '工作记忆'的价值在长任务——长任务(如'重构这个代码库')需多步;若无显式的工作记忆,Agent 会 (a) 重复已完成的工作、(b) 偏离目标。故显式维护 TODO 列表是长任务 Agent 的必要设计。⑤ 与'上下文管理'的关系——记忆的核心是'上下文工程':如何在有限窗口内保留最关键的信息(摘要、检索、分层)。⑥ 面试要点——被问'Agent 记忆怎么设计',应给出'短期(上下文)/ 长期(外部存储)/ 工作记忆(任务状态)'三类与各自的限制,并说明'为什么长上下文不能替代长期记忆'(成本/跨会话/可更新)与'写入-检索-更新-遗忘'的流程;这是 Agent 类问题的深度回答。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    只靠上下文窗口做记忆(跨会话失效、成本高)
  • ✕
    不做遗忘与更新(存储膨胀、信息冲突)
🎯 面试官连环追问与延伸考察
  • ?
    为什么'无限长上下文'不能替代长期记忆?
  • ?
    记忆如何检索与更新?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M5-086: 解释工具调用(function calling)的实现要点。📋 返回题库下一题 →M5-088: 解释多智能体协作的设计与风险。