PEFT (LoRA / QLoRA / Prefix Tuning): 解释 PEFT 与灾难性遗忘、模型合并的交互。

Core Concept: PEFT 冻结基座天然缓解遗忘；适配器可合并（多任务/任务算术）或分别部署（多 LoRA 服务）。

数学机理：<strong>与灾难性遗忘的交互</strong>——PEFT（LoRA/QLoRA）<strong>冻结基座</strong>，只训练少量增量；故 (a) <strong>原能力基本保留</strong>（基座权重未变）；(b) <strong>新任务能力由增量承载</strong>。这天然缓解灾难性遗忘（相比全参微调）。<strong>但并非完全免疫</strong>——(a) <strong>输出分布仍会变化</strong>（因为 LoRA 改变了前向计算）；(b) 若 LoRA 秩很大、训练很久，可能间接影响原能力（通过改变激活分布）；(c) 对'与基座能力冲突'的任务（如让模型'不要拒绝'），LoRA 也可能损害安全性。故仍需<strong>监控通用能力</strong>。<strong>与模型合并的交互</strong>——适配器天然是'任务向量'（LoRA 的 BA 即 ΔW），故支持：(a) <strong>多任务合并</strong>——W + Σ BA_i（同时具备多任务能力）；(b) <strong>能力去除</strong>——W − λ·BA（遗忘某能力）；(c) <strong>任务算术</strong>——不同适配器的线性组合；(d) <strong>多 LoRA 服务</strong>——一套基座 + N 个适配器（动态切换）。<strong>合并的注意点</strong>——(a) <strong>干扰</strong>——多个适配器相加可能冲突（需 TIES/DARE 或调权重）；(b) <strong>同一基座</strong>——所有适配器必须基于同一基座版本（否则方向无意义）；(c) <strong>缩放</strong>——LoRA 的 α/r 缩放影响合并时的权重（需统一）。<strong>与'遗忘'的组合应用</strong>——(a) <strong>去毒/去偏见</strong>——用负任务向量去除有害行为；(b) <strong>能力隔离</strong>——把不同能力放在不同适配器，按需加载（避免相互干扰）；(c) <strong>持续学习</strong>——每学一个新任务就加一个适配器（不覆盖旧的），实现'增量学习'而不遗忘。<strong>这使 PEFT 成为'持续学习'与'多任务管理'的理想载体</strong>。<strong>实证</strong>——(a) 研究表明 LoRA 微调的遗忘显著低于全参；(b) 多 LoRA 服务在生产中被广泛使用（如 vLLM 的 multi-LoRA）；(c) 适配器合并的质量依赖干扰处理（TIES/DARE）。

深度剖析与工程权衡：① <strong>'PEFT 天然缓解遗忘'是其核心优势之一</strong>——因为基座冻结；这对'需要保留原能力'的场景（如企业定制模型）至关重要。② <strong>'并非完全免疫'</strong>——仍需监控（尤其对'与基座冲突'的任务）；故应在通用基准上验证。③ <strong>'适配器即任务向量'的统一视角</strong>——LoRA 的 BA 就是 ΔW，故任务算术的所有方法（合并/相减/算术）都适用于 LoRA；这使'能力管理'非常灵活。④ <strong>'多 LoRA 服务'的工程价值</strong>——一套基座 + N 个适配器（省显存、可热切换）是工业界的标准做法（多租户/多任务）。⑤ <strong>'持续学习'的实用方案</strong>——'每任务一个适配器'避免覆盖（无遗忘），配合路由（按请求选适配器）；这是'持续学习'的实用近似。⑥ <strong>面试要点</strong>——被问'PEFT 与遗忘/合并的关系'，应给出'<strong>基座冻结 → 缓解遗忘（但非免疫）+ 适配器即任务向量 → 支持合并/去除/多 LoRA 服务 + 干扰需处理</strong>'，并指出'<strong>持续学习的实用方案（每任务一适配器 + 路由）</strong>'；这是 PEFT 类问题的深度回答。