🛠️ 工具库/AI Coding Bridge 算法手撕双轨全景图
⚡左轨:16 工业大模型全生命周期系统 ⟷ 右轨:32 LeetCode 经典算法母体

AI Coding Bridge 工业大模型 ⟷ 经典算法双轨全景图

左侧聚焦现代大模型从海量语料清洗、底层算子、千卡训练到对齐推理与 Agent 的端到端工业全流程;右侧对应经典数据结构与算法母体进阶路线。点击大模块查看该模块的习题汇总,点击两端连线开启第一性原理综述与题目映射。

🔍
⚡

LLM 工业生命周期流程 (16 核心系统)

6 阶段
演进全景:语料清洗 ➔ 基础算子 ➔ 分布式训练 ➔ 强化对齐 ➔ 显存分页 ➔ Agent编排
01
海量语料清洗与数据工程
水塘在线无偏采样 · 多轮对话 SFT 构建与掩码重排
海量流式语料均匀采样 (Reservoir Sampling)
数据工程与离散采样
💻 1 手撕算子
SFT 数据构建与 Token 级损失掩码 (Loss Masking)
指令微调与数据预处理
💻 1 手撕算子
02
基础底层算子与模型架构
PyTorch 动态计算图求导 · RoPE 旋转位置编码 · 片上分块加速
PyTorch 动态计算图与自定义算子反向传播链
深度学习框架底层
💻 3 手撕算子
RoPE 旋转位置编码与高维几何空间变换
大模型架构核心算子
💻 3 手撕算子
FlashAttention 与 Online Softmax 片上分块加速
底层硬件与算子优化
💻 3 手撕算子
03
架构扩展与千卡集群训练
MoE Top-K 稀疏门控路由 · 1F1B 调度与通信气泡重叠
MoE 混合专家稀疏门控路由与高吞吐分发
大模型架构与参数扩展
💻 3 手撕算子
分布式并行训练拓扑与 1F1B 流水线气泡优化
大规模集群训练
💻 3 手撕算子
04
偏好对齐与强化学习推理
PPO/DPO 偏好对齐 · DeepSeek-R1 / o1 蒙特卡洛思考树搜索
强化学习对齐 (PPO / DPO / GRPO) 与奖励模型
偏好对齐与强化学习
💻 1 手撕算子
DeepSeek-R1 / o1 MCTS 蒙特卡洛树搜索与反思回溯
强化学习与模型推理 (System 2)
💻 1 手撕算子
05
显存虚拟化与树状缓存复用
INT4/NF4 低比特量化 · vLLM 分页显存 · SGLang 前缀树复用
模型低比特量化 (INT4 / NF4) 与位解包操作
模型压缩与轻量化部署
💻 1 手撕算子
vLLM PagedAttention 分页虚拟显存与连续批调度
推理引擎与显存分配
💻 1 手撕算子
SGLang RadixAttention 树状显存复用与多轮对话缓存
推理加速与显存管理
💻 2 手撕算子
06
高并发推理与 Agent 编排调度
投机采样验证 · Stop Words 自动机中断 · Hybrid RAG · LangGraph DAG
Speculative Decoding 投机采样与草稿树验证
自回归推理吞吐加速
💻 1 手撕算子
大模型自回归流式生成中的 Stop Words 即时中断
推理生成控制
💻 1 手撕算子
Hybrid RAG 混合检索、切片合并与上下文背包装填
知识库与 AI 应用工程
💻 2 手撕算子
LangGraph / Multi-Agent 编排、DAG 调度与死锁防御
Agentic 系统与运行时调度
💻 1 手撕算子
🌿

LeetCode 算法母体进阶路线 (32 原子模块)

5 阶段
演进全景:线性表 ➔ 双指针 ➔ 栈队列 ➔ 高级树论 ➔ 搜索与动态规划
01
线性表与前缀技巧
数组操作 · 前缀和 · 差分 · 矩阵旋转
前缀和与差分数组
线性表与双指针
6 题
二维矩阵变换与空间旋转
矩阵与几何变换
4 题⚡ 1 直连
02
双指针与滑动窗口
快慢双指针 · 左右对撞 · 滑动窗口 · 区间调度
快慢双指针
线性表与双指针
7 题⚡ 2 直连
左右对撞双指针
线性表与双指针
6 题⚡ 2 直连
滑动窗口
线性表与双指针
4 题⚡ 2 直连
区间合并与调度
线性表与双指针
10 题⚡ 2 直连
03
栈队列与链表重构
单调栈 · 单调队列 · 堆/优先队列 · 链表反转 · 多路归并
基础栈与符号平衡
栈与队列
6 题⚡ 1 直连
单调栈
栈与队列
4 题⚡ 2 直连
单调队列
栈与队列
1 题⚡ 1 直连
二叉堆与优先队列
栈与队列
4 题⚡ 1 直连
虚拟头节点与多路合并
链表与结构重构
8 题⚡ 1 直连
链表局部反转与重构
链表与结构重构
7 题⚡ 1 直连
04
高级结构与树论
Trie 字典树 · LRU/LFU 缓存 · O(1)哈希 · 二叉树分解 · LCA
前缀树
哈希与高级数据结构设计
2 题⚡ 2 直连
LRU / LFU 缓存设计
哈希与高级数据结构设计
5 题⚡ 2 直连
常数时间哈希映射与随机采样
哈希与高级数据结构设计
4 题⚡ 1 直连
二叉树递归:遍历思维 vs 分解问题思维
树与分治
18 题⚡ 1 直连
二叉树层序遍历
树与分治
5 题⚡ 1 直连
二叉搜索树特性与动态查询
树与分治
9 题⚡ 1 直连
最近公共祖先
树与分治
2 题⚡ 1 直连
05
搜索图论与动态规划
DAG 拓扑排序 · 并查集 · Dijkstra · 回溯搜索 · 状态机/背包 DP · 二分答案
拓扑排序与有向无环图
图论与网络
2 题⚡ 1 直连
并查集
图论与网络
3 题⚡ 1 直连
最短路径与贪心图遍历
图论与网络
1 题
回溯与决策树搜索
暴力搜索与回溯
16 题⚡ 1 直连
状态空间 BFS 与最少动作求解
暴力搜索与回溯
4 题⚡ 1 直连
序列与匹配动态规划
动态规划
80 题⚡ 1 直连
状态机动态规划
动态规划
9 题⚡ 1 直连
背包动态规划与预算优化
动态规划
4 题⚡ 1 直连
二分查找与左右边界判定
二分搜索与分治
11 题⚡ 1 直连
位运算与低位屏蔽
位运算与数学技巧
4 题⚡ 1 直连
随机采样与水塘抽样
位运算与数学技巧
15 题⚡ 1 直连
字符串高效匹配与状态机
字符串与模式匹配
1 题⚡ 1 直连
十大排序与分治思想
排序与分治算法
5 题⚡ 1 直连