M2-040M2: 经典机器学习SVM 与核方法Hard
⚡闪卡盲测➔掌握度:

SVM 对类别不平衡与噪声标签敏感吗?如何缓解。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M2-041 →
📐 核心数学机理公式
class weight: Ci=C⋅wyi\text{class weight}:\ C_i=C\cdot w_{y_i}
⚡ 一句话直击要害答案
敏感:少数类支持向量少、噪声点被当作支持向量。缓解:类权重、软间隔、清理噪声。

📌 核心要点提炼

  • •
    加权 C 使少数类更受重视
  • •
    SVM 不输出概率,需 Platt 校准

📐 数学机理与严密推导

敏感性的机制:① 类别不平衡——SVM 的目标是最小化 Σξᵢ(所有样本的违反之和),多数类样本数多故主导目标,模型会倾向'牺牲少数类'(把少数类样本判错以换取更多多数类样本正确),导致少数类召回极低。② 噪声标签——标签错误的样本若位于决策边界附近,会成为支持向量并直接扭曲边界(因为 SVM 只由支持向量决定);尤其当噪声样本被强制正确分类时(硬间隔或大 C),边界会被严重拉扯。③ 类别重叠——当两类在特征空间高度重叠时,SVM 的线性边界(或核诱导的平滑边界)无法很好分离,性能受限。

🏭 深度剖析与工业落地权衡

缓解手段:① 类权重——把 C 改为 Cᵢ=C·w_{yᵢ},少数类用更大权重(如 w∝1/类别频率),使目标平衡;sklearn 的 class_weight='balanced' 自动按频率倒数加权。② 软间隔与调小 C——允许更多违反,避免被噪声样本拉扯;C 越小对噪声越鲁棒(但可能欠拟合)。③ 核选择——RBF 核的局部性使其对远离边界的噪声较鲁棒,但对边界附近的噪声仍敏感。④ 数据层面——清理噪声标签(用交叉验证检测)、过采样少数类(SMOTE)、欠采样多数类(注意在 CV 折内做,防泄漏)。⑤ 概率输出与阈值调整——SVM 默认输出决策值而非概率,若需按业务调整阈值(如召回优先),需先用 Platt scaling 或 isotonic regression 在验证集上校准,再按代价矩阵选阈值。⑥ 替代方案——不平衡 + 噪声场景下,集成方法(RF/GBDT 配 class_weight 或 Focal loss)通常比 SVM 更易调优。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    用硬间隔或不调 C 处理噪声标签
  • ✕
    不做校准就把 SVM 决策值当概率使用
🎯 面试官连环追问与延伸考察
  • ?
    SVM 如何输出概率?(Platt scaling)
  • ?
    为什么 SVM 对重叠类效果一般?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M2-039: 比较 RBF 核、多项式核与线性核的适用场景。📋 返回题库下一题 →M2-041: 写出朴素贝叶斯的分类决策式,并说明'朴素'指什么。