M10-011M10: 工程深度 BQ 与项目答辩AIE & Agent 项目深挖与 BQMedium
⚡闪卡盲测➔掌握度:

【AIE 关键选型】面对业务要求微调专属大模型,怎么辩护 Prompt / RAG vs LoRA 微调的技术选型?

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M10-012 →
📐 核心数学机理公式
RAG / Prompt≪Context Retrieval Fail?vsFormat / Domain Style  ⟹  SFT/LoRA\text{RAG / Prompt} \ll \text{Context Retrieval Fail?} \quad\text{vs}\quad \text{Format / Domain Style} \implies \text{SFT/LoRA}
⚡ 一句话直击要害答案
最经典面试防盲目炫技题:说清「知识新鲜度与权限用 RAG(非参数化记忆),输出风格/结构化 DSL/高吞吐小模型蒸馏才用 LoRA/SFT(行为对齐)」。

📌 核心要点提炼

  • •
    选型错位现状:许多团队以为微调能把公司每天更新的规章文档'背进权重里',结果陷入高昂微调维护且照样幻觉
  • •
    RAG 统治区:高度动态实时信息、需要明确引用链接溯源、多租户严格行级 ACL 隔离(改一条数据库立即可见)
  • •
    SFT/LoRA 统治区:学习极其复杂的私有特定 DSL 语法规则、极度严苛的低延迟小模型替代大模型(将 70B 知识习惯蒸馏进专精 8B)
  • •
    组合最佳实战:先用最强闭源模型 + RAG 跑通业务拿 5000 条高质量真实 Trace -> 清洗精炼后做 8B LoRA 微调降 10 倍部署成本

📐 数学机理与严密推导

记住这句决策黄金法则:RAG 解决大模型 '不知道实时事实或无权知晓' 的问题;SFT 微调解决大模型 '不知道如何规范表达及遵循复杂工作流格式' 的问题。

🏭 深度剖析与工业落地权衡

当公司决定上 LoRA 微调时,必须预先配套维护好对应的自动化 Golden Eval Suite(防止 Catastrophic Forgetting 灾难性遗忘掉基础通用指令遵循能力)。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    连基础 Prompt Engineering 与 RAG 召回质量都没搞定就直接盲目攒几百条脏数据上微调
  • ✕
    误以为微调权重天生具备数据权限控制能力导致所有租户私有训练语料互相背出泄露
🎯 面试官连环追问与延伸考察
  • ?
    如果一个专精领域的长 CoT 模型既需要私域实时数据又需要超专精推理风格,两者怎么联合架构(RAFT / Retrieval-Aware Fine-Tuning)?
  • ?
    微调完的 LoRA Adapter 在生产环境如何做到与基座模型多租户无痛热拔插共享并发(S-LoRA / Punica)?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M10-010: 【AIE/UX 产品落地】当你的模型客观准确率只有 ~85%–90% 却要推向生产客户时,怎么设计 UX 兜底闭环?📋 返回题库下一题 →M10-012: 【AIE 跨系统架构与领导力】大模型厂商半年迭代两代甚至突发宕机/降智,如何打造无供应商锁定架构?