← 复习路线图

🖥️ AI 基础设施 思维导图

32 个知识点 · 点击节点弹出结构化卡片

流水线视图:阶段从左到右 = 模型生命周期(数据 → 训练 → 推理 → 优化 → 工程化 → 安全 → Agentic),每个知识点锚定到对应阶段。虚线外框 = 跨模块。

🗄️数据与存储 阶段🏋️训练基础设施 阶段⚡推理服务 阶段🔧推理优化 阶段🛠️工程化与 MLOps 阶段🛡️安全与治理 阶段🤖Agentic 基础设施 阶段数据集管理与血缘数据集管理与血缘点击查看定义和考点模型权重与检查点存储模型权重与检查点存储点击查看定义和考点训练数据加载与 IO训练数据加载与 IO点击查看定义和考点数据管线与流处理数据管线与流处理点击查看定义和考点GPU 硬件与 HBMGPU 硬件与 HBM点击查看定义和考点集合通信与 NVLink 拓扑集合通信与 NVLink 拓扑点击查看定义和考点4D 并行 DP/TP/PP/SP4D 并行 DP/TP/PP/SP点击查看定义和考点Megatron TP/PP 与气泡率Megatron TP/PP 与气泡率点击查看定义和考点ZeRO-1/2/3 显存切分ZeRO-1/2/3 显存切分点击查看定义和考点激活显存估算激活显存估算点击查看定义和考点集群调度 Ray/K8s集群调度 Ray/K8s点击查看定义和考点训练框架与 Profiling训练框架与 Profiling点击查看定义和考点检查点与故障恢复检查点与故障恢复点击查看定义和考点KV Cache 与 PagedAttentionKV Cache 与 PagedAttention点击查看定义和考点推测解码推测解码点击查看定义和考点推理引擎 vLLM/SGLang推理引擎 vLLM/SGLang点击查看定义和考点Continuous BatchingContinuous Batching点击查看定义和考点Prompt Caching/RadixAttentionPrompt Caching/RadixAttention点击查看定义和考点高并发与负载均衡高并发与负载均衡点击查看定义和考点推理量化(跨模块)推理量化(跨模块)点击查看定义和考点FlashAttention 与 Online SoftmaxFlashAttention 与 Online Softmax点击查看定义和考点KV 缓存优化KV 缓存优化点击查看定义和考点Prefill/Decode 分离Prefill/Decode 分离点击查看定义和考点弹性伸缩与成本优化弹性伸缩与成本优化点击查看定义和考点MLOps 训练管线MLOps 训练管线点击查看定义和考点模型测试与评估门禁模型测试与评估门禁点击查看定义和考点监控与可观测性监控与可观测性点击查看定义和考点安全与隐私安全与隐私点击查看定义和考点模型风险治理模型风险治理点击查看定义和考点Agent 运行时(跨模块)Agent 运行时(跨模块)点击查看定义和考点上下文缓存与记忆服务上下文缓存与记忆服务点击查看定义和考点RL 训练与推理服务(跨模块)RL 训练与推理服务(跨模块)点击查看定义和考点
100%
🖱️ 可拖拽平移画布 · 悬停点亮知识依赖链 · 点击打开知识卡
数据集管理与血缘数据管线与流处理GPU 硬件与 HBM集合通信与 NVLink 拓扑集群调度 Ray/K8sKV Cache 与 PagedAttention推测解码推理量化(跨模块)安全与隐私Agent 运行时(跨模块)RL 训练与推理服务(跨模块)