Probability Foundations: 解释条件概率与全概率公式，并说明为什么它是一切贝叶斯方法的基础。

Core Concept: 条件概率是'已知部分信息后重新分配概率'；全概率公式把复杂事件按完备划分拆开加权。

条件概率的定义 P(A|B)=P(A∩B)/P(B) 本质是一次<strong>重新归一化</strong>：把样本空间收缩到 B 内，再把 B 内的概率质量重新分配为总和 1。这解释了一个反直觉的事实——P(A|B) 与 P(B|A) 可以差别极大，因为两者收缩到不同的子空间（这就是为什么 P(阳性|患病) 很高但 P(患病|阳性) 可能很低，即基率谬误）。全概率公式 P(A)=ΣᵢP(A|Bᵢ)P(Bᵢ) 是<strong>边缘化</strong>的具体实现：把 A 按一个完备互斥的事件组 {Bᵢ} 分解后加权求和。它的工程价值在于——当 P(A|Bᵢ) 容易估计而 P(A) 难直接估计时，可以从条件概率反推边缘概率。与乘积法则 P(A∩B)=P(A|B)P(B) 联立，把 P(A|B) 与 P(B|A) 通过 P(B) 连接，就得到贝叶斯定理。

在机器学习中，全概率公式出现在两个高频位置：① <strong>生成模型</strong>（朴素贝叶斯、GMM、HMM）里，联合分布 p(x,y) 通过对隐变量边缘化得到；② <strong>贝叶斯推断</strong>中分母 p(D)=∫p(D|θ)p(θ)dθ 就是全概率公式，它通常是不可解析的积分——这正是需要 MCMC、变分推断或拉普拉斯近似的原因。工程权衡上，完备事件组的选择决定了计算可行性：选得越细越精确但计算量越大（如 GMM 的混合分量数），实践中常在精度与成本间取折中。