Inference-time Compute 缩放定律

推理期算力缩放定律与测试期树搜索演进 (Inference-Time Compute Scaling Laws & Test-Time Search Paradigm / OpenAI o1, DeepSeek-R1 理论基础) 标志着大模型从“单向纯预训练 Scaling”迈向“预训练 + 推理期自适应思考 Scaling”的双引擎全新时代；核心理论：传统 LLM 在推理时对每个 Token 仅分配恒定的前向计算量；推理期 Scaling 允许模型在面对高难度数学、代码与科学推理时，通过投入更多的测试期计算量 (Test-time FLOPs) 实现性能的对数/幂律持续攀升；三大核心推理期搜索机制：1) 最佳采样搜索 (Best-of-$N$ Sampling with Verifier / PRM): 并行采样 $N$ 条候选解答，利用过程奖励模型打分选优；2) 束搜索与蒙特卡洛树搜索 (Beam Search & MCTS over Thought Tokens): 在思考 Token 空间进行树状前瞻展开与分支剪枝；3) 自回归长链自我纠错 (Long Chain-of-Thought with Backtracking): 允许模型生成“Wait, let me re-evaluate...”长反思 Token，动态拓展思考深度。

复杂数学奥赛题求解 (AIME, IMO)、高难度算法竞赛代码合成 (Codeforces)、前沿科学假设推导。

复杂长链逻辑问题无法在单一的前向直觉中一次性答对；推理期算力扩展将 System-1 快思考升华至具备搜索、反思与回溯能力的 System-2 深度思考。

详细对比 Best-of-$N$ 拒绝采样、Beam Search 与 MCTS 在测试期算力消耗 (FLOPs) 与最终求解成功率 (Pass@1) 上的缩放曲线？

过程奖励模型 (Process Reward Model, PRM) 相比结果奖励模型 (Outcome Reward Model, ORM) 在树搜索中提供单步细粒度打分 (Step-level Credit Assignment) 的数学优势？

自回归长思维链 (Thinking Tokens) 中的自我纠错与回溯 (Self-Correction & Backtracking) 是如何通过纯强化学习在无人工标注监督下自发涌现的？

推理期算力与预训练算力的等价置换模型：一个经过大量推理思考的小模型（如 1.5B R1-Distill）在数学能力上为什么能超越单向前向的 70B/400B 巨型模型？

测试期搜索遭遇的“奖励黑客 (Reward Hacking)”与“过拟合验证器 (Overfitting the Verifier)”的防御策略？