Learn to Rank（LTR）是使用机器学习技术解决排序问题的方法。
排序是信息检索（IR）的核心问题，比如文件检索，协同过滤，关键词提取，情感分析等，本文以文件检索为例进行讲解。
文件检索并不是一个狭小的领域，其实，网页、邮件、论文、书和新闻都属于文件检索中的例子。
机器学习框架组件
在许多机器学习的研究中，需要注意以下几个关键组件（key components）：
输入空间（input space）
包含了我们要研究的对象：通常，我们通过提取出的特征向量表达某个对象。
输出空间（output space）
包含了与输入对象相关的学习目标：在机器学习中，对于输出空间有两种相关但不同的定义。
- 极度依赖应用的任务输出空间：例如，在回归问题中，输出空间是实数 ；在分类问题中，输出空间是离散类别 。
- 帮助学习过程的输出空间：这与任务的输出空间不同，例如，使用回归算法解决分类问题时，这种情况下有助于学习过程的输出空间是实数，而不是离散的类别。
假设空间（hypothesis space）
定义了从输入空间到输出空间的映射类别：这些函数处理输入对象的特征向量，然后根据输出空间的格式预测。
损失函数（loss function）
LTR 方法
根据上述四个组件，可以把 LTR 的方法分为三类：
- The pointwise approach
- The pairwise approach
- The listwise approach
不同的方法定义了不同的输入和输出空间，使用了不同的假设和不同的损失函数。
The pointwise approach
输入空间
每个文档的特征向量
输出空间
query 与每个文档的相关度
假设空间
包括了使用文档的特征向量作为输入，预测相关度的函数，基于这个函数，我们可以排序所有文档。
损失函数
不同的 pointwise 算法中，排序被建模为回归、分类、有序回归问题，因此对应的损失函数也有所不同。
需要注意的是：
- pointwise 不考虑文档和文档之间的内在依赖关系，因此在损失函数中，最终的排序列表中每个文件的位置是不可视的。
- pointwise 没有使用不同文档都对同一 query 有关联这一特性。
因此一般来说，pointwise 有一定的局限性。
The pairwise approach
输入空间
被表示为特征向量的文件对（pair of documents)。
输出空间
每对文档的 pairwise 偏好值（1 或 -1）。比如一个 pair 是（文件 A，文件 B），那么 A 的 label（rank） 大于 B 的 label，可以视为 +1，反之 -1。
假设空间
以每对文件（两个变量）作为输入，输出他们的相对顺序的函数 h（可能是排序算法或评分函数）。
损失函数
损失函数度量了 h 和 label 的差异。
The listwise approach
输入空间
与 query 整个文件组（group of documents）
输出空间
- 对于一个 query，所有文件与其的相关度。
- 所有文件排好序的列表（或排列）。
假设空间
操作所有文件的包含多个变量的函数 h，预测他们的相关度或排列。
损失函数
与输出空间对应，有两种损失函数。
- label 是 y 时，损失函数通常基于广泛使用的信息检索评估方法或近似值的偏差。
- label 是排好序的序列时，损失函数度量输出的排序后的列表和样本 label。
listwise 的优点是，对于同一 query，损失函数能天然考虑到文件的在列表中的位置。
经过实验，以 LETOR 作为 benchmark 数据集，listwise 表现的效果最好。
Reference
Liu, Tie-Yan. “Learning to rank for information retrieval.” Foundations and Trends® in Information Retrieval 3.3 (2009): 225-331.