M8-059M8: 系统架构、MLOps 与工程实战可靠性与降级Medium
⚡闪卡盲测➔掌握度:

解释容量规划与压测的方法

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M8-060 →
📐 核心数学机理公式
capacity=peak QPS⋅rreq⋅(1+m)rnode,headroom=1−peakprovisioned\text{capacity}=\frac{\text{peak QPS}\cdot r_{\text{req}}\cdot(1+m)}{r_{\text{node}}},\qquad \text{headroom}=1-\frac{\text{peak}}{\text{provisioned}}
⚡ 一句话直击要害答案
由峰值 QPS × 单请求资源 × 冗余系数估算容量,用负载/压力/浸泡测试验证,并保留 headroom 应对突发与故障切换。

📌 核心要点提炼

  • •
    需求估算——峰值 QPS(含促销/突发)、每请求资源(CPU/GPU/显存/带宽)
  • •
    冗余系数——为突发、故障切换(N+1)、滚动发布留余量(常见 20%-50%)
  • •
    压测类型——负载测试(预期峰值)、压力测试(找拐点)、浸泡测试(长时间稳定性)、尖峰测试
  • •
    拐点与排队——吞吐随并发上升到拐点后延迟剧增,容量应设在拐点前
  • •
    成本-可靠性权衡——headroom 越大越可靠但越贵,需按 SLO 与故障模型定量

📐 数学机理与严密推导

数学机理:容量规划——(1) 需求侧——(a) 峰值 QPS——含日常峰、促销峰、突发(用历史分位数 + 业务预测);(b) 每请求资源 r_req——CPU/GPU 时间、显存、内存、带宽;(c) 请求分布——不同接口/模型资源差异大,需分类。(2) 供给侧——(a) 单节点容量 r_node——由压测测定(给定 SLO 下的最大 QPS);(b) 节点数——capacity = peak·r_req·(1+m) / r_node。(3) 冗余系数 m——(a) 突发余量——应对超预期流量;(b) 故障切换——N+1(一个节点挂了其余承担);多可用区(一个 AZ 挂了另一 AZ 承担);(c) 滚动发布——发布期间部分节点不可用;(d) 常见取值——20%-50%,关键系统更高。(4) 排队论视角——(a) 利用率与延迟——排队延迟随利用率非线性上升(接近 1 时爆炸);(b) 利特尔法则(Little's Law)——L = λW(在制请求数 = 到达率 × 停留时间);(c) 结论——容量不应按 100% 利用率设计,而应留 headroom(如 70% 目标利用率)。(5) 压测类型——(a) 负载测试——在预期峰值下验证 SLO;(b) 压力测试——逐步加压找拐点(吞吐不再上升、延迟剧增);(c) 浸泡测试(soak)——长时间运行检测内存泄漏、连接泄漏、缓存增长;(d) 尖峰测试(spike)——瞬时高压测试弹性与限流;(e) 故障注入——杀掉节点验证降级与切换。(6) 拐点(knee)——(a) 吞吐随并发上升到某点后饱和,继续加压延迟剧增;(b) 容量设在拐点前(如拐点的 70%);(c) 拐点由资源瓶颈(CPU/GPU/带宽/连接池)决定。(7) 瓶颈定位——(a) 用资源利用率找瓶颈(哪个资源先到 100%);(b) 常见瓶颈——GPU 显存/算力、CPU、连接池、DB、网络带宽。(8) 成本权衡——(a) headroom 越大越可靠但越贵(固定成本);(b) 定量——按 SLO 与故障模型(允许的不可用时间)算所需冗余;(c) 弹性伸缩——云上用自动扩缩容按需调整(但冷启动有延迟,需预热/预留)。(9) 持续——(a) 流量增长与代码变更需重新评估容量;(b) 定期压测(而非一次性)。与其他问题的关系——(a) 与限流熔断(保护容量);(b) 与延迟分解(拐点由瓶颈决定);(c) 与成本优化(headroom 即成本);(d) 与可靠性(冗余)。度量——(a) 峰值利用率与 headroom;(b) 拐点位置;(c) SLO 达标率;(d) 单位容量成本。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① 容量应设在拐点前——面试中能解释'吞吐拐点'是深度理解的标志。② 排队延迟随利用率非线性上升——不能按 100% 利用率设计。③ 冗余需覆盖故障切换——N+1 与多 AZ 都消耗容量。④ 浸泡测试查泄漏——短时压测查不出内存/连接泄漏。⑤ headroom 是成本与可靠性的权衡——需定量而非拍脑袋。⑥ 弹性伸缩有冷启动——需预热或预留容量。⑦ 面试要点——被问怎么定容量,应给出'需求(峰值 QPS × 每请求资源)+ 冗余(突发/N+1/多 AZ/发布)+ 压测(负载/压力/浸泡/尖峰)找拐点 + headroom 定量 + 弹性与预热';能指出拐点与排队非线性是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    按 100% 利用率设计容量(无 headroom)
  • ✕
    只做短时压测(漏掉内存/连接泄漏)
🎯 面试官连环追问与延伸考察
  • ?
    为什么容量要设在吞吐拐点之前?
  • ?
    N+1 冗余与多可用区如何影响容量估算?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M8-058: 解释超时与重试的设计要点📋 返回题库下一题 →M8-060: 解释事故复盘的要点与产出