🌉 单题同构迁移解析LC_239 · 困难
LC_239 (滑动窗口最大值) ➔ Sliding Window Attention
单调队列维护窗口最大值的思想,与 Online Softmax 动态更新 running max 完全等价。
1️⃣ 经典算法母体 (LeetCode Origin)
LC_239 · 滑动窗口最大值
所属范式:单调队列 (Monotonic Queue) — 双端队列(Deque)同时维护时间有效性与数值单调性。新元素入队时尾部弹出劣解,头部定期淘汰过期滑出窗口的元素,实现滑动窗口最值在 O(1) 均摊时间查询。
⚡ 查看 LC-239 算法原题精解 ➔2️⃣ 大模型工业系统落地 (Production AI System)
FlashAttention 与 Online Softmax 片上分块加速 · Sliding Window Attention
工程映射场景:单调结构追踪历史分块最大 Logit,实现无需落盘 GPU HBM 的核函数计算
🧬 对应工业算子接口签名
def sliding_window_attention(Q: torch.Tensor, K: torch.Tensor, V: torch.Tensor, window_size: int = 4) -> torch.Tensor🔗 同源拓展迁移桥梁
LC_3 ➔ 在线分块 Softmax (Online Softmax)
滑动窗口算法将复杂度从 O(S^2) 直降为 O(S * W),是长文本能够扩展到 128k 的关键。...
LC_3 ➔ Flash Attention (Tiled)
滑动窗口算法将复杂度从 O(S^2) 直降为 O(S * W),是长文本能够扩展到 128k 的关键。...
LC_3 ➔ Sliding Window Attention
滑动窗口算法将复杂度从 O(S^2) 直降为 O(S * W),是长文本能够扩展到 128k 的关键。...
LC_42 ➔ 在线分块 Softmax (Online Softmax)
接雨水的左右最高柱维护逻辑,是理解双向注意力掩码和因果边界截断的最佳思维体操。...
LC_42 ➔ Flash Attention (Tiled)
接雨水的左右最高柱维护逻辑,是理解双向注意力掩码和因果边界截断的最佳思维体操。...
LC_42 ➔ Sliding Window Attention
接雨水的左右最高柱维护逻辑,是理解双向注意力掩码和因果边界截断的最佳思维体操。...