Research: Replication & Debugging: 复现他人结果失败时，你会怎么排查？

Core Concept: 从数据、预处理、模型配置、初始化、优化、训练细节到评估口径逐层对齐，先在最小规模上复现再放大，用单元级 sanity check 定位偏差来源。

数学机理：<strong>复现排查的层次化方法</strong>——(1) <strong>先对齐数据</strong>——(a) <strong>数据版本</strong>——是否同一版本/时间快照；(b) <strong>划分</strong>——训练/验证/测试划分是否一致（随机种子）；(c) <strong>数量</strong>——数据量是否相同；(d) <strong>标签</strong>——标签是否正确对齐（常见 bug：标签错位）；(e) <strong>泄漏</strong>——是否无意中用了测试数据。(2) <strong>预处理</strong>——(a) 分词（词表/特殊 token）；(b) 归一化（均值/方差来源）；(c) 数据增强（种类与强度）；(d) 截断/填充；(e) 图像：色彩空间、resize 方式、通道顺序。(3) <strong>模型配置</strong>——(a) 架构细节（层数、隐藏维度、激活、dropout 位置）；(b) 注意力实现（是否 flash/是否 causal）；(c) 预训练权重（版本、是否加载正确）；(d) 参数初始化（分布/缩放）。(4) <strong>优化与训练</strong>——(a) 优化器与超参（lr、betas、weight decay）；(b) 学习率调度（warmup、cosine）；(c) 批大小与梯度累积；(d) 训练步数/epoch；(e) 梯度裁剪与混合精度；(f) EMA/权重平均。(5) <strong>评估口径</strong>——(a) 指标实现（同一公式/库）；(b) 阈值与后处理（NMS、beam search 参数）；(c) 测试集与评估脚本；(d) <strong>注意</strong>——很多'复现失败'实为评估口径不同。(6) <strong>分层策略</strong>——(a) <strong>先最小规模</strong>——用小数据集/小模型/少步数快速迭代，定位偏差；(b) <strong>再放大</strong>——小规模一致后放大到完整规模；(c) <strong>理由</strong>——大模型训练一次数小时到数天，小规模可在分钟级试错。(7) <strong>sanity check</strong>——(a) <strong>过拟合小数据集</strong>——模型能否记住（验证实现正确）；(b) <strong>随机标签</strong>——应无法学到（验证无泄漏）；(c) <strong>单 batch</strong>——损失应快速下降；(d) <strong>形状/梯度检查</strong>——张量形状与梯度流。(8) <strong>判断'实现错误' vs '方法不 work'</strong>——(a) <strong>实现错误</strong>——sanity check 失败、损失异常、梯度异常；(b) <strong>方法不 work</strong>——sanity check 通过但指标差（可能超参/数据/任务不匹配）；(c) <strong>对策</strong>——先确保实现正确，再判断方法。(9) <strong>沟通</strong>——联系作者索取细节/代码；查看后续复现报告（Papers with Code/复现博客）。<strong>与其他问题的关系</strong>——(a) 与可复现性（环境/种子）；(b) 与调试训练不收敛；(c) 与 sanity check。<strong>度量</strong>——(a) 复现指标与原文的差距；(b) 定位到根因的层次；(c) 迭代次数。

深度剖析与工程权衡：① <strong>很多'复现失败'其实是评估口径不同</strong>——面试中能指出这点是深度理解的标志。② <strong>先最小规模再放大</strong>——小规模分钟级试错，效率高。③ <strong>标签错位与数据泄漏是常见 bug</strong>——需优先排查。④ <strong>sanity check 区分实现错误与方法不 work</strong>。⑤ <strong>预处理差异常被忽略</strong>——分词/归一化/增强。⑥ <strong>联系作者与看复现报告</strong>——减少重复劳动。⑦ <strong>面试要点</strong>——被问复现失败怎么办，应给出'<strong>分层排查（数据→预处理→模型→优化→评估）+ 先最小规模 + sanity check + 区分实现错误与方法不 work + 联系作者</strong>'；能指出评估口径差异是常见原因是深度理解的标志。