排序学习 LTR

排序学习(Learning to Rank)把“给 query 的候选集打分排序”建模为监督学习,三类范式: Pointwise 逐文档回归/分类(如 CTR 预估),只拟合单个文档与相关性的关系,完全不看相对顺序;Pairwise 把排序转为文档对二分类(文档 $i$ 应排在 $j$ 前),代表 RankNet、RankSVM,损失只覆盖局部两两关系;Listwise 直接以整个列表为单位优化排序指标,代表 ListNet、LambdaRank。LambdaMART = GBDT + LambdaRank,是工业界 tabular 排序的事实标准,对每个文档对 $(i, j)$ 定义 Lambda 梯度: $\lambda_{ij} = -\frac{\sigma \Delta NDCG}{1 + e^{\sigma(s_i - s_j)}}$,其中 $s_i, s_j$ 为当前得分、$\Delta NDCG$ 是交换 $i, j$ 位置引起的 NDCG 变化量、$\sigma$ 控制 sigmoid 陡峭度;负号表示沿提升 NDCG 的方向更新——用不可导的排序指标变化量为可导的 pairwise 梯度加权,每个文档累积 $\lambda_i = \sum_j \lambda_{ij}$,回归树直接拟合该目标。

搜索引擎、推荐、广告排序的核心技术;面试常问“Pointwise/Pairwise/Listwise 区别”“LambdaMART 的 λ 是怎么来的”;工程上用 LightGBM/XGBoost 的 rank 目标(lambdarank)直接训练,评估用 NDCG/MRR 等位置敏感指标。

Pointwise 优化单点误差、无视顺序(位置越靠前错误代价越大);Pairwise 只处理两两关系,对“排名 1→2”和“排名 99→100”一视同仁;Listwise/LambdaMART 用 $\Delta NDCG$ 让优化目标逼近线上指标——排名越靠前、文档越相关,梯度权重越大,从而直接优化不可导的 NDCG。

检验攻克程度：针对「排序学习 LTR」专属刷题排雷

做单选排雷题、推导选项机制，答错自动收录进专属错题本。