微调灾难性遗忘防范与重放

大模型微调中的灾难性遗忘防范与经验重放工程体系 (Mitigating Catastrophic Forgetting via Experience Rehearsal & Parameter Freezing) 是保证大模型在学习垂直领域新知识或新任务格式时，不丧失通识通用能力、代码逻辑与多语言基础的关键治理方法；核心机制与工程解法：1) 经验重放与通用数据混合 (Replay / General Data Mixing: 在垂直微调数据集中按 5%~20% 比例混入高质量的通用预训练/指令数据，如 ShareGPT / OpenHermes / 代码语料，激活并锁定基础通识神经元)；2) 参数隔离与正则化：采用 PEFT / LoRA 仅更新低秩适配器权重（冻结 99% 的原始 Backbone 权重使得基础通识表征在物理上无法被破坏）；3) 权重融合与球形插值 (Weight Merging / SLERP: 将微调后的模型与原始基础模型按插值比例 $\theta_{\text{merged}} = (1-\lambda) \theta_{\text{base}} + \lambda \theta_{\text{sft}}$ 融合，消除特异化过拟合)。

垂直行业大模型持续微调、多任务联合指令学习、大模型版本迭代防退化。

仅用特定单一任务微调后，大模型往往在通用数学、编程或多语言基准测试中发生断崖式暴跌（如原本 80 分跌至 20 分）；混合重放与参数冻结确保了垂直专业性与通用通识的完美共存。

深入剖析为什么全参数微调 (Full Fine-Tuning) 比 LoRA 微调更容易发生严重的灾难性遗忘？

经验重放 (Experience Rehearsal) 的最佳配比策略：通用数据比例（如 10% 通用问答 + 90% 领域数据）对领域任务指标与通用 MMLU 指标的帕累托前沿权衡？

SLERP (球面线性插值) 相比简单线性权重加权平均在融合大模型权重时的几何优势？

KL 散度正则化约束 (KL-Penalty: 在损失函数中增加 $\mathcal{L} + \lambda D_{KL}(\pi_\theta \| \pi_{\text{base}})$) 在防止策略过度偏移中的数学机理？

如何建立微调后的自动化防退化评估流水线（自动化运行 MMLU, GSM8k, HumanEval 等通用基准）作为上线发布前置门禁？