M2-043M2: 经典机器学习朴素贝叶斯Medium
⚡闪卡盲测➔掌握度:

比较高斯、多项式、伯努利三种朴素贝叶斯。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M2-044 →
📐 核心数学机理公式
Gaussian: P(xj∣y)=N(μjy,σjy2)\text{Gaussian}:\ P(x_j\mid y)=\mathcal N(\mu_{jy},\sigma_{jy}^2)
⚡ 一句话直击要害答案
高斯适合连续特征;多项式适合计数(词频);伯努利适合二值出现/不出现。

📌 核心要点提炼

  • •
    文本分类多项式常优于伯努利(考虑词频)
  • •
    短文本伯努利可能更好

📐 数学机理与严密推导

三种变体对应不同的特征似然假设:① 高斯 NB——假设 P(xⱼ|y)=N(μ_{jy},σ²_{jy}),适合连续特征(需估计每类每特征的均值与方差,共 2Kp 个参数);前提是特征在类内近似正态,若特征偏态(如收入)可先做变换。② 多项式 NB——假设特征向量是计数(如词频、TF-IDF 权重),P(x|y) 用多项分布建模,等价于'从类别的词分布中独立抽词';适合文本分类且考虑词频。③ 伯努利 NB——假设每个特征是二值(出现/不出现),显式建模'不出现'的惩罚项 (1−p_{jy});适合短文本(此时'是否出现'比'出现几次'更重要)与二值特征场景。

🏭 深度剖析与工业落地权衡

选择依据与要点:① 文本分类的经验规律——长文档用多项式 NB(词频信息有价值),短文本(如推文、标题)用伯努利 NB(出现与否更关键,且显式惩罚未出现词);Rennie et al. (2003) 的实验支持这一规律。② TF-IDF 的处理——多项式 NB 假设计数,若用 TF-IDF(连续值)需注意:可将 TF-IDF 视为加权计数(近似成立),或改用高斯 NB(但通常效果较差);实践中多项 NB + 词频(或对数词频)常最稳。③ 特征选择的必要性——NB 对无关特征敏感(它们的条件独立假设最易被违反且贡献噪声),故常配合卡方/MI 特征选择(保留 top-k 特征)显著提升效果。④ 对数域计算——所有变体都应在对数域累加(log P(y)+Σlog P(xⱼ|y)),避免下溢;多项式 NB 的 sklearn 实现即内部用对数。⑤ 与线性模型的关系——NB 在对数域是线性分类器,权重为对数似然比 log[P(xⱼ|y=1)/P(xⱼ|y=0)]。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    对短文本用多项式 NB 而不考虑伯努利
  • ✕
    不对连续特征做分布检查就套用高斯 NB
🎯 面试官连环追问与延伸考察
  • ?
    长文本该选哪个?
  • ?
    为什么多项式 NB 需要 log 域计算?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M2-042: 为什么需要拉普拉斯平滑?给出公式。📋 返回题库下一题 →M2-044: 朴素贝叶斯为什么常用对数域计算?