⬅ AI 全产业总图/Layer 05 · 05. 预训练、后训练与对齐
5.2

5.2 监督微调、参数高效适配与数据闭环

LoRA/QLoRA/DoRA 低秩参数适配、Loss Masking、多任务指令混合配比 (Data Mixture)、难易度课程学习与离线质量回归门禁。

LoRA / QLoRA / DoRA 低秩适配与高效微调引擎

LoRA 低秩矩阵分解推导 ($W = W_0 + \frac{\alpha}{r}BA$)、QLoRA NF4 4-bit 量化微调、DoRA 权重方向与幅度解耦、Loss Masking 标签屏蔽与 Unsloth / PEFT 显存加速内核。

🏢 标杆代表企业
Unsloth AI、Hugging Face (PEFT)、Predibase、Together AI、Databricks
🛠️ 核心技术栈
LoRAQLoRADoRASFTLoss MaskingPEFTUnsloth
💼 典型岗位与薪资
Fine-Tuning Engineer、ML Engineer、LLM Application Engineer
💰 $195K - $390K / 年 (SFT 与垂直微调) | ¥50W - ¥120W / 年
📚 先决掌握技能:线性代数矩阵秩与奇异值分解 (SVD) • PyTorch autograd 反向传播机制 • LoRA 超参数 (r, alpha, dropout) 调优经验 • Hugging Face PEFT 与 Trainer 库源码

高质量指令混合、Curriculum 课程学习与回归评测

多任务领域指令加权配比 (Data Mixture & Weighting)、难易度渐进式课程微调 (Curriculum Tuning)、领域灾难性遗忘抑制、Chat Template 对话格式安全与上线前自动化回归评测门禁。

🏢 标杆代表企业
Hugging Face、Scale AI、Databricks、Snorkel AI
🛠️ 核心技术栈
Instruction MixtureCurriculum TuningCatastrophic ForgettingChat TemplateRegression GatesEvaluation Gate
💼 典型岗位与薪资
Fine-Tuning Engineer、Evaluation Engineer、ML Engineer
💰 $185K - $370K / 年 (指令数据与微调评测) | ¥48W - ¥110W / 年
📚 先决掌握技能:多任务指令数据集配比经验与消融实验 • 灾难性遗忘缓解策略 (Replay / EWC) • Chat Template 格式解析与安全转义 • 自动化离线 Benchmark 评估测试集构建