M2-054M2: 经典机器学习聚类Medium
⚡闪卡盲测➔掌握度:
比较 K-means、GMM(EM)与 DBSCAN。
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
K-means 硬分配+球形;GMM 软分配+椭圆+概率模型;DBSCAN 密度聚类,可发现任意形状与噪声。
📌 核心要点提炼
- •GMM 用 EM 优化,可给后验概率
- •DBSCAN 无需指定 K,但对密度参数敏感
📐 数学机理与严密推导
三者假设与能力对比:① K-means——硬分配(每点属于一个簇)、隐式假设球形等方差簇、目标是最小化簇内平方和;优点是简单快速(O(nKd) 每次迭代)、可扩展;缺点是无法表达簇的形状/大小差异、对初始化与异常值敏感、需预先指定 K。② GMM——软分配(每点以概率属于各簇)、假设每簇为高斯分布(可学协方差矩阵 → 椭圆簇)、用 EM 最大化似然;优点是可给出后验概率(不确定性)、能表达椭圆与重叠簇、可用 BIC 选 K;缺点是对初始化敏感(可能收敛到局部最优)、协方差矩阵参数量 O(Kd²)(高维下需约束为对角/球形)、对异常值敏感。③ DBSCAN——基于密度(核心点:邻域内点数 ≥ minPts;密度可达的点连成簇),无需指定簇数、能发现任意形状的簇、天然识别噪声点;缺点是对参数(eps、minPts)极其敏感(eps 稍变结果剧变)、对密度差异大的数据失效(单一 eps 无法适应多密度)。
🏭 深度剖析与工业落地权衡
实践选择与联系:① EM 与 K-means 的关系——K-means 是 GMM 的极限情形:当 GMM 的所有协方差矩阵固定为 σ²I 且 σ→0 时,后验概率趋于 one-hot(软分配退化为硬分配),EM 退化为 K-means。这解释了为什么 K-means 是'硬'GMM。② 选择依据——数据量大、簇近似球形 → K-means;需概率输出或椭圆簇 → GMM;簇形状任意、含噪声 → DBSCAN;密度差异大 → HDBSCAN(层次化 DBSCAN,自动适应多密度,无需 eps)。③ 评估——有标签时用 ARI/NMI;无标签时用轮廓系数(凸簇)、Calinski-Harabasz、Davies-Bouldin;但无标签指标偏向凸簇,对 DBSCAN 的结果可能给出误导性低分。④ 高维问题——所有基于距离的方法在高维下都受维度灾难影响,聚类前应降维(如先 PCA 到 10–50 维)。
⚠️ 常见面试陷阱与高频失分点
- ✕用 K-means 处理环形/非凸簇
- ✕对密度差异大的数据用单一 eps 的 DBSCAN
🎯 面试官连环追问与延伸考察
- ?EM 与 K-means 的关系?
- ?DBSCAN 为什么对参数敏感?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!