M1-006M1: Mathematics & Statistics FundamentalsCommon DistributionsEasy
Mastery:
Common Distributions: 列举常见离散/连续分布及其典型使用场景。
📐 Mathematical Definition
⚡ Executive Summary
Core Concept: Bernoulli/Binomial/Poisson(离散),Uniform/Gaussian/Exponential/Beta/Gamma(连续)。
📌 Key Takeaways
- •Poisson 建模单位时间事件数(点击/请求)
- •Beta 是 Bernoulli 的共轭先验(CTR 平滑)
- •Gamma 是 Poisson/Exponential 率的共轭先验
- •Gumbel 出现在极值理论与 Gumbel-Softmax
📐 Mathematical Derivations
按'建模什么'分类更易记:<strong>计数</strong>用 Binomial(固定试验数的成功数)与 Poisson(单位时间/空间的稀有事件数);<strong>等待时间</strong>用 Exponential(Poisson 过程的间隔)与 Gamma(多个 Exponential 之和,即第 k 次事件的时间);<strong>比例/概率</strong>用 Beta([0,1] 上的分布,Bernoulli 的共轭先验);<strong>噪声/求和</strong>用 Gaussian(CLT 的极限);<strong>极值</strong>用 Gumbel/Frechet/Weibull(Fisher-Tippett 定理:极值的三种吸引子)。参数化的直觉——Beta(a,b) 中 a、b 可理解为'伪成功数'与'伪失败数',故后验更新只是把观测计数加到 a、b 上。
🏭 Production Trade-offs
工程上的选择往往由<strong>共轭性与计算便利</strong>决定,而非纯理论:① CTR/CVR 估计用 Beta-Bernoulli 共轭,使 Thompson Sampling 可直接从后验采样,无需数值积分;② 计数数据若方差远大于均值(过度离散),Poisson 不适用,应换 Negative Binomial(等价于 Gamma-Poisson 混合);③ 排序/采样的可微化需要 Gumbel-Max 技巧(argmax 采样等价于加 Gumbel 噪声后取 argmax),这是 Gumbel-Softmax 与离散潜变量 VAE 的基础。
⚠️ Common Interview Pitfalls
- ✕对过度离散的计数数据仍用 Poisson
- ✕混淆 Gamma(和的分布)与 Exponential(间隔的分布)
🎯 Interviewer Follow-ups
- ?为什么 CTR 平滑常用 Beta 先验?
- ?Gumbel 分布在哪里出现?(argmax 采样 / 极值)
📚
Associated Knowledge Base Guides & Mindmaps
Explore the comprehensive technical article, exam cards, and global architecture tree.