M5-134M5: NLP 与大语言模型高效微调 PEFTHard
⚡闪卡盲测➔掌握度:
解释 PEFT 方法的选择依据。
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
按'显存约束、任务距离、数据量、部署要求(延迟/多任务)'四维选择:LoRA 为默认,QLoRA 省显存,全参用于远域。
📌 核心要点提炼
- •显存受限 → QLoRA;充足 → LoRA / 全参
- •任务近/数据少 → LoRA;任务远/数据多 → 全参或继续预训练
- •部署要求:多任务 → LoRA(可切换);极致延迟 → 合并
- •其他:参数极致受限 → Prompt/IA³;需要最强 → 全参
📐 数学机理与严密推导
数学机理:决策框架(四维)。(1) 显存约束——(a) 单卡、模型大 → QLoRA(4-bit 基座 + LoRA);(b) 显存充足 → LoRA(BF16) 或全参;(c) 多卡、资源充裕 → 全参可行。(2) 任务距离(task distance)——目标能力与基座能力的'距离':(a) 近(风格、格式、特定任务微调)→ LoRA 足够;(b) 中等(领域适配,如医疗/法律)→ LoRA(较大 r + 所有线性层)或'继续预训练 + LoRA';(c) 远(新语言、新模态、大幅改变行为)→ 全参微调或继续预训练(LoRA 容量不足)。如何判断距离——(a) 领域语料的词汇/风格差异;(b) 小规模实验(LoRA 能否达标);(c) 直观判断(同语言同领域=近)。(3) 数据量——(a) 少(<10k)→ LoRA(正则效果好、不易过拟合);(b) 多(>100k)→ 全参可行(容量利用充分);(c) 极多 → 全参或继续预训练。(4) 部署要求——(a) 多任务/多租户 → LoRA(适配器切换/合并);(b) 极致推理延迟 → LoRA + 合并(无额外开销);(c) 需保留原模型能力 → LoRA(基座冻结,无遗忘)。(5) 其他——(a) 参数极致受限(如端侧)→ Prompt Tuning / IA³;(b) 需要最强效果且不计成本 → 全参 + 多轮迭代;(c) 需要快速实验 → LoRA(训练快、易切换)。实践默认流程——(1) 先用 LoRA(r=8~64,所有线性层)建立基线;(2) 若效果不足 → 增大 r、增加应用位置;(3) 仍不足 → 试 QLoRA 更大模型(用小模型全参 vs 大模型 LoRA,后者常更优);(4) 仍不足 → 全参微调或继续预训练。关键洞察——'用大模型 + LoRA'常优于'用小模型 + 全参'(因为大模型的基座能力更强,LoRA 足以适配);故'先考虑换更大模型 + LoRA'是常见的更优路径。与'对齐/RLHF'的关系——PEFT 也用于 RLHF(如 LoRA 作为 Actor,省显存);故选择依据同样适用。
🏭 深度剖析与工业落地权衡
深度剖析与工程权衡:① '用大模型 + LoRA 优于小模型 + 全参'是重要实践洞察——因为基座能力是上限;故应优先扩大基座而非'把全参微调用在弱模型上'。② '任务距离'是最难判断的维度——常用'小规模实验'(用 LoRA 试一下能否达标)来判断;若 LoRA 明显不足,说明距离远。③ 'LoRA 的默认地位'——综合工程优势与效果,LoRA 是默认选择;只有明确不足时才升级到全参。④ '数据量与方法的交互'——数据少时 LoRA 的正则优势明显(可能优于全参);数据多时全参的容量优势显现。⑤ '多任务场景 LoRA 独有优势'——一套基座 + N 个适配器(可切换、可合并)是 LoRA 的独特能力;全参微调做不到。⑥ 面试要点——被问'PEFT 怎么选',应给出'四维框架(显存/任务距离/数据量/部署)+ 默认 LoRA + 不足时升级 + 大模型 LoRA 优于小模型全参';能指出'任务距离用实验判断'与'优先扩大基座'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
- ✕在弱模型上做全参微调(不如大模型 + LoRA)
- ✕不先试 LoRA 就直接全参(错失工程优势)
🎯 面试官连环追问与延伸考察
- ?什么情况下 LoRA 不够、必须全参?
- ?如何判断'任务距离'?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!