🌉 单题同构迁移解析LC_208 · 中等
LC_208 (实现Trie) ➔ Prefix Cache Attention
不要把 Trie 当作普通的字符串字典,它是 vLLM / SGLang 显存共享和结构化输出验证的核心算法。
1️⃣ 经典算法母体 (LeetCode Origin)
LC_208 · 实现Trie
所属范式:前缀树 (Trie / Prefix Tree) — 将字符串或 Token 序列的公共前缀在多叉树上进行重叠压缩存储。树上每条从根向下的路径代表一个公共前缀,单次查询和插入时间复杂度仅与前缀长度成正比 O(L)。
⚡ 查看 LC-208 算法原题精解 ➔2️⃣ 大模型工业系统落地 (Production AI System)
SGLang RadixAttention 树状显存复用与多轮对话缓存 · Prefix Cache Attention
工程映射场景:SGLang 中通过多叉前缀树复用多轮对话的 KV 显存块,将 Prefill 计算量降低 80%
🧬 对应工业算子接口签名
def prefix_cache_attention(q: torch.Tensor, k_new: torch.Tensor, v_new: torch.Tensor, k_cached: torch.Tensor, v_cached: torch.Tensor) -> torch.Tensor🔗 同源拓展迁移桥梁
LC_140 ➔ RadixAttention 前缀缓存:最长前缀匹配
BPE 和 SentencePiece 分词的底层也是在 Trie 树上运行动态规划寻找最大词表子串。...
LC_140 ➔ Prefix Cache Attention
BPE 和 SentencePiece 分词的底层也是在 Trie 树上运行动态规划寻找最大词表子串。...
LC_208 ➔ RadixAttention 前缀缓存:最长前缀匹配
不要把 Trie 当作普通的字符串字典,它是 vLLM / SGLang 显存共享和结构化输出验证的核心算法。...
LC_146 ➔ RadixAttention 前缀缓存:最长前缀匹配
大模型推理最容易 OOM,LRU 缓存机制直接决定了多请求高并发下谁的显存被换出到 CPU。...
LC_146 ➔ Prefix Cache Attention
大模型推理最容易 OOM,LRU 缓存机制直接决定了多请求高并发下谁的显存被换出到 CPU。...
LC_236 ➔ RadixAttention 前缀缓存:最长前缀匹配
LCA 算法在树形组织结构中快速找到两个叶子节点的最小共同管理者。...