Learning to Rank using Gradient Descent

Abstract 本文提出了 RankNet, 引出pairwise排序方法梯度下降法来学习排序. 我们使用神经网络来实现这个 idea本文使用 toy data来测试结果.这是第一篇关于 AUC 优化 pairwise 方法的论文, 虽然已经过去了几年,但是对于初学者的我来说仍然具有很大的意义. Introduction 我们使用神经网络来学习排序函数, 一个常见的例子是搜索引擎排名.对于此问题,数据由一组查询关键字组成,对于每个查询关键字,都包含一组返回的文档.在训练阶段,一些查询关键词/文档对对被标记为相关性(“优秀匹配”,“良好匹配”等).因此所有的数据集中的数据都会参与排名,只有满足召回条件的文档才会参加排名.本文的贡献在于1.不需要向 point wise 那样需要回归预测相关性,而是直接进行排序. 2. 提出 pair wise 的概率代价函数,这种方法不是特定于基础学习算法 去看看~