M7-059M7: 检索、排序与推荐系统深度推荐模型Easy
⚡闪卡盲测➔掌握度:
解释 Wide&Deep 的结构与动机
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
Wide 部分(线性交叉特征)捕捉记忆('共现');Deep 部分(MLP)捕捉泛化('相似性');联合训练。
📌 核心要点提炼
- •Wide:线性模型 + 手工交叉特征(记忆)
- •Deep:嵌入 + MLP(泛化)
- •联合训练:同时优化两部分
📐 数学机理与严密推导
数学机理:Wide&Deep(Cheng 等 2016,Google Play) 的动机——推荐系统需要两种能力:(1) 记忆(memorization)——'从历史数据中发现'频繁共现的规律'(如'装了 A 应用的用户也装 B');(a) 特点——精确、直接、可解释;(b) 实现——Wide 部分(线性模型 + 手工交叉特征 φ(x),如 'AND(user_installed_app=Netflix, impression_app=Hulu)');(c) 局限——无法泛化到未见过的组合(若从未见过'Netflix+Hulu'则权重为 0)。(2) 泛化(generalization)——'从数据中学习'相似性'并推广到新组合';(a) 特点——能处理稀疏、新组合;(b) 实现——Deep 部分(嵌入 + MLP):把高维稀疏特征嵌入到低维稠密向量,再用 MLP 学习非线性交互;(c) 优势——(i) 嵌入使'相似特征'共享参数(泛化);(ii) MLP 学习任意交叉(无需手工);(d) 局限——(i) 可能'过度泛化'(推荐不相关的东西);(ii) 嵌入的'记忆能力'不如宽部分的精确交叉。(3) 联合训练——两部分同时训练(联合损失),输出相加后过 sigmoid:ŷ=σ(w_wideᵀ[x,φ(x)] + w_deepᵀa^(l) + b)。为什么不能只用一个——(a) 只有 Wide——无法泛化(新组合无权重);(b) 只有 Deep——可能'过度泛化'(推荐不相关),且'精确的共现规律'学不好(嵌入会平滑掉);(c) 联合——两者互补(Wide 保证'精确记忆'、Deep 保证'泛化')。(4) 与'LR + GBDT'的对比——(a) 传统做法是'GBDT 做特征交叉 + LR 做最终预测'(两阶段);(b) Wide&Deep 把'交叉'(Wide)与'泛化'(Deep)端到端联合训练(更优)。实践细节——(a) Wide 的交叉特征需人工设计(这是它的主要缺点——需要领域知识);(b) Deep 的嵌入维度(常取'类别基数^0.25');(c) 优化器——Wide 用 FTRL(适合稀疏)、Deep 用 AdaGrad;(d) Warm-start(用已有模型初始化)。后续发展——(a) DeepFM(用 FM 替代手工交叉——自动学二阶交叉,见下一题);(b) DCN(Deep & Cross Network)(显式的交叉层);(c) xDeepFM(压缩交互网络)。评估——(a) AUC/GAUC(CTR 预估);(b) 在线 CTR。实践建议——(a) Wide&Deep 是深度推荐的经典基线;(b) DeepFM/DCN 替代手工交叉(更省人力);(c) 嵌入维度按基数调;(d) 联合训练(而非两阶段)。度量——(a) AUC/GAUC;(b) 在线 CTR;(c) 训练/推理延迟。
🏭 深度剖析与工业落地权衡
深度剖析与工程权衡:① '记忆 vs 泛化'是理解深度推荐的主线——Wide 管记忆、Deep 管泛化;面试中能指出这一点是深度理解的标志。② '手工交叉特征是 Wide&Deep 的主要缺点'——故后续用 FM/Cross Network 自动化(DeepFM/DCN)。③ '联合训练优于两阶段(GBDT+LR)'——端到端更优。④ '嵌入维度经验公式(基数^0.25)'——实用的经验值。⑤ '不同优化器'——Wide 用 FTRL(稀疏友好)、Deep 用 AdaGrad;这是实现细节。⑥ 面试要点——被问'Wide&Deep',应给出'Wide(线性 + 手工交叉,记忆)+ Deep(嵌入 + MLP,泛化)+ 联合训练'与'为什么需要两者';能指出'手工交叉是缺点、DeepFM 自动化了它'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
- ✕只用 Deep(丢失精确的共现记忆)
- ✕只用 Wide(无法泛化到新组合)
🎯 面试官连环追问与延伸考察
- ?'记忆'与'泛化'分别指什么?
- ?为什么不能只用一个?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!