顶级学术科研实验设计三原则(单变量控制、严格对照基线、多种子方差聚合)体系 (Rigorous Experiment Design: Controlled Variables, Baseline Parity & Multi-Seed Variance Analysis) 是区分专业研究科学家 (RS) 与盲目调参工程师的分水岭方法论;三大铁律:1) 单变量控制 (Controlled Single Variable): 每次实验对比有且仅改变一个变量(如仅改变优化器或注意力变体),其余超参数(学习率、Batch Size、数据打乱顺序、Warmup 步数、Token 预算)必须 100% 绝对一致;2) 对照基线平权 (Baseline Parity): 必须在相同的算力预算与调参强度下,与经过充分优化的既有 SOTA 基线(而非未调参的弱基线)进行公平横向对比;3) 多种子配对与方差控制 (Multi-Seed Paired Variance): 严禁仅汇报单个最优随机种子 (Lucky Seed) 的结果,必须使用至少
S=5 个固定随机种子运行全量实验,汇报
Mean±Std,并通过配对样本双尾
t-检验 (
p<0.05) 证明性能提升具备统计学显著性。