M5-135M5: NLP 与大语言模型高效微调 PEFTHard
⚡闪卡盲测➔掌握度:
解释 PEFT 与灾难性遗忘、模型合并的交互。
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
PEFT 冻结基座天然缓解遗忘;适配器可合并(多任务/任务算术)或分别部署(多 LoRA 服务)。
📌 核心要点提炼
- •PEFT 冻结基座 → 天然缓解灾难性遗忘(原能力保留)
- •适配器可合并(多任务能力)或相减(去除能力)
- •多 LoRA 服务:一套基座 + N 个适配器(省显存、可切换)
📐 数学机理与严密推导
数学机理:与灾难性遗忘的交互——PEFT(LoRA/QLoRA)冻结基座,只训练少量增量;故 (a) 原能力基本保留(基座权重未变);(b) 新任务能力由增量承载。这天然缓解灾难性遗忘(相比全参微调)。但并非完全免疫——(a) 输出分布仍会变化(因为 LoRA 改变了前向计算);(b) 若 LoRA 秩很大、训练很久,可能间接影响原能力(通过改变激活分布);(c) 对'与基座能力冲突'的任务(如让模型'不要拒绝'),LoRA 也可能损害安全性。故仍需监控通用能力。与模型合并的交互——适配器天然是'任务向量'(LoRA 的 BA 即 ΔW),故支持:(a) 多任务合并——W + Σ BA_i(同时具备多任务能力);(b) 能力去除——W − λ·BA(遗忘某能力);(c) 任务算术——不同适配器的线性组合;(d) 多 LoRA 服务——一套基座 + N 个适配器(动态切换)。合并的注意点——(a) 干扰——多个适配器相加可能冲突(需 TIES/DARE 或调权重);(b) 同一基座——所有适配器必须基于同一基座版本(否则方向无意义);(c) 缩放——LoRA 的 α/r 缩放影响合并时的权重(需统一)。与'遗忘'的组合应用——(a) 去毒/去偏见——用负任务向量去除有害行为;(b) 能力隔离——把不同能力放在不同适配器,按需加载(避免相互干扰);(c) 持续学习——每学一个新任务就加一个适配器(不覆盖旧的),实现'增量学习'而不遗忘。这使 PEFT 成为'持续学习'与'多任务管理'的理想载体。实证——(a) 研究表明 LoRA 微调的遗忘显著低于全参;(b) 多 LoRA 服务在生产中被广泛使用(如 vLLM 的 multi-LoRA);(c) 适配器合并的质量依赖干扰处理(TIES/DARE)。
🏭 深度剖析与工业落地权衡
深度剖析与工程权衡:① 'PEFT 天然缓解遗忘'是其核心优势之一——因为基座冻结;这对'需要保留原能力'的场景(如企业定制模型)至关重要。② '并非完全免疫'——仍需监控(尤其对'与基座冲突'的任务);故应在通用基准上验证。③ '适配器即任务向量'的统一视角——LoRA 的 BA 就是 ΔW,故任务算术的所有方法(合并/相减/算术)都适用于 LoRA;这使'能力管理'非常灵活。④ '多 LoRA 服务'的工程价值——一套基座 + N 个适配器(省显存、可热切换)是工业界的标准做法(多租户/多任务)。⑤ '持续学习'的实用方案——'每任务一个适配器'避免覆盖(无遗忘),配合路由(按请求选适配器);这是'持续学习'的实用近似。⑥ 面试要点——被问'PEFT 与遗忘/合并的关系',应给出'基座冻结 → 缓解遗忘(但非免疫)+ 适配器即任务向量 → 支持合并/去除/多 LoRA 服务 + 干扰需处理',并指出'持续学习的实用方案(每任务一适配器 + 路由)';这是 PEFT 类问题的深度回答。
⚠️ 常见面试陷阱与高频失分点
- ✕认为 PEFT 完全不会遗忘(仍需监控)
- ✕合并不同基座版本的适配器
🎯 面试官连环追问与延伸考察
- ?PEFT 完全不会遗忘吗?
- ?适配器合并的干扰如何处理?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!