⬅ AI 全产业总图/Layer 02 · 02. 算力、网络与云基础设施
2.1

2.1 AI 集群工程与 GPU Fleet 运维

万卡 GPU 超算集群、Rack-Scale 拓扑架构、导轨优化 (Rail-Optimized)、DCGM 实时监控、MIG 硬件切分与 Fleet 故障自愈自动化。

万卡 GPU 超算集群与拓扑架构

Rack-Scale GPU 架构、Fat-Tree 胖树无阻塞拓扑、Rail-Optimized 导轨网络、硬件故障域隔离与万卡扩展效率 (Scaling Efficiency) 调优。

🏢 标杆代表企业
CoreWeave、AWS、Microsoft Azure、Google Cloud、Oracle Cloud、Lambda Labs、Crusoe、Nebius
🛠️ 核心技术栈
GPU ClusterSuperPODFat-TreeRail-OptimizedFault DomainsScaling EfficiencyBespoke AI Cloud
💼 典型岗位与薪资
GPU Infrastructure Engineer、HPC Engineer、Cluster Engineer
💰 $220K - $460K / 年 (硅谷 AI 云) | ¥60W - ¥150W / 年 (国内超算集群)
📚 先决掌握技能:分布式超算集群架构 • Linux 内核网络与 NUMA 调优 • GPU 拓扑与 PCIe/NVLink 带宽剖析 • 大规模硬件故障容错设计

GPU Fleet 自动化运维与节点健康管理

NVIDIA DCGM 实时遥测、MIG 多租户硬件切分、裸机自动化供应 (Bare-metal Provisioning)、固件生命周期管理与异常节点自动隔离修复。

🏢 标杆代表企业
NVIDIA、CoreWeave、AWS、Google Cloud、Microsoft Azure
🛠️ 核心技术栈
DCGMMIG SlicingFleet ReliabilityBare-metal ProvisioningFirmware LifecycleNode RemediationSLO Monitoring
💼 典型岗位与薪资
GPU Infrastructure Engineer、Fleet Reliability Engineer、DevOps / SRE
💰 $195K - $420K / 年 (Fleet 运维架构) | ¥50W - ¥130W / 年
📚 先决掌握技能:DCGM 驱动与性能计数器 (Profiling) • IPMI/Redfish 裸机管理协议 • Prometheus/Grafana 遥测与告警体系 • Python/Go 集群自动化工具链