[Active Learning] 01 A Brief Introduction to Active Learning 主动学习简介

青旅半醒 2021-11-02 12:28 339阅读 0赞

*  什么是主动学习？
    
     *  主动学习 vs. 被动学习
 *  为什么需要主动学习？
 *  主动学习与监督学习、弱监督学习、半监督学习、无监督学习之间的关系
 *  主动学习的种类
 *  主动学习的一个例子
 *  主动学习工具包 ALiPy
 *  References

本文将简单介绍什么是主动学习（Active Learning，AL），为什么需要主动学习，主动学习和监督学习、弱监督学习、半监督学习、无监督学习之间是什么关系。最后再简单介绍主动学习的分类。（这里介绍的主动学习是机器学习的一个子领域。）

## 什么是主动学习？ ##

主动学习（Active Learning），在统计学领域有时也叫“查询学习”（query learning）、“最优实验设计”（optimal experimental design），是机器学习的一个子领域。

主动学习背后一个关键的假设：

*  一个机器学习算法如果能够自行选择从哪些数据进行学习，通过较少的训练数据，它将表现得更好。

> If the learning algorithm can choose the data from which it learns, it will perform better with less training.\[1\]

主动学习之所以叫主动学习，是因为算法从数据集中主动地选择一些不带标签的数据进行标注，而不是被动地选择。在每一次标注之后，模型重新或者增量地在带标签的数据上训练，然后再主动地选择不带标签数据进行标注，重复这个过程，这就是主动学习的流程。

### 主动学习 vs. 被动学习 ###

被动学习（passive learning）被认为是从数据集中随机选择（randomly select）数据进行标注。

而主动学习选择要标注的样本时，有一些 criteria 进行指导，这就是主动学习和被动学习的区别。

不过被动学习似乎叫的不多，一般用 random selection 与主动学习的 criteria 比较就好。

## 为什么需要主动学习？ ##

数据标注的成本高昂，迫使我们想要用更少的标注数据来获得更有效的模型，这就是主动学习产生的原因。

## 主动学习与监督学习、弱监督学习、半监督学习、无监督学习之间的关系 ##

我们根据训练数据集标签的情况来划分这几者：（欢迎大佬指正）

*  监督学习（Supervised learning）任务中，数据集的标签都是完整而精确的。
 *  无监督学习（Unsupervised learning）任务中，数据集是不含标签的。
 *  弱监督学习（Weakly-supervised learning）任务中，数据集的标签分为三种情况：（这三种情况可能同时出现）
    
     *  部分数据有标签，部分数据没有标签。一般有标签的数据占少数，大部分数据没有标签。(Incompelet supervison）
     *  数据都有标签，但是标签的粒度不够。例如，在图像语义分割中，细粒度的标签应该是 pixel-level 的，但给出的标签仅仅是 image-level 的，这就是标签的粒度不够。(Inexact supervison)
     *  数据都有标签，但是标签有很多错误。(Inaccurate supervison)

![1351564-20190423222639794-1146127967.png][]

Fig. 1 \[2\] Illustration of three typical types of weak supervision.

而主动学习对应弱监督学习的第一种情况，少部分数据含标签，但是大部分数据不含标签。

主动学习和半监督学习是什么关系？两者都可以认为是弱监督学习第一种情况的处理方式，但两者也有不一样的地方，比如主动学习需要人工标注数据，而半监督学习不要。

## 主动学习的种类 ##

![1351564-20190423225229018-1392472490.png][]

Fig. 2 \[1\] Diagram illustrating the three main active learning scenarios.

根据应用场景，将主动学习划分为 3 类：

*  第一种是“Membership query synthesis”，字面意思上很难理解，不过这种方式的 instance 是算法从整个可能的样本空间中生成的，模型从头开始生成一个 instance 然后送去 oracle 打标签。
 *  第二种是“steam-based selective sampling”，每一次我们能够从数据流得到一个 instance，然后判断其是否要送去 oracle 打标签。
 *  第三种是“**pool-based sampling**”，初始时，我们就有很多 unlabeled data，只需要从这些 unlabeled data 中选择数据送到 oracle 打标签。（*这种情况是最常见的*。）

![1351564-20190423230910594-755792939.png][]

Fig. 3 \[1\] Pool-based active learning.

可能会有一个疑问，主动学习中的 oracle 是什么？oracle 可以是一个专家，打标签百分之百正确；也可以是很多拥有不同专业知识的人，打标签不是百分百对，如众包。

## 主动学习的一个例子 ##

![1351564-20190423231239058-8382494.png][]

Fig. 4 \[1\] An example of pool-based active learning.

Example from \[1\]：

*  (a) A toy data set of 400 instances, evenly sampled from two class Gaussians.
 *  (b) A logistic regression model trained with 30 labeled instances randomly drawn from the problem domain.(accuracy:70%)
 *  (c) A logistic regression model trained with 30 actively queried instances using uncertainty sampling.(accuracy:90%)

## 主动学习工具包 ALiPy ##

ALiPy (Active Learning in Python) \[3\] 是[南京航空航天大学黄圣君老师][Link 1]做的一个开源的主动学习工具包，我们可以很轻松地基于该工具包开发主动学习的程序，强烈推荐。

ALiPy 主页：[http://parnec.nuaa.edu.cn/huangsj/alipy/][http_parnec.nuaa.edu.cn_huangsj_alipy]。

## References ##

\[1\] Burr Settles.(2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin-Madison.  
\[2\] Zhou, Z.-H. (2018). A brief introduction to weakly supervised learning. National Science Review, 5(1), 44–53. [https://doi.org/10.1093/nsr/nwx106][https_doi.org_10.1093_nsr_nwx106]  
\[3\] Tang, Y.-P., Li, G.-X., & Huang, S.-J. (2019). ALiPy: Active Learning in Python, 1–5. Retrieved from [http://arxiv.org/abs/1901.03802][http_arxiv.org_abs_1901.03802]

转载于:https://www.cnblogs.com/wuliytTaotao/p/10758963.html

[1351564-20190423222639794-1146127967.png]: /images/20211101/9ee39358d342463ca59d89ce9b54d3e9.png
[1351564-20190423225229018-1392472490.png]: /images/20211101/c2d1e60c70854162a7afa8afa83975dd.png
[1351564-20190423230910594-755792939.png]: /images/20211101/496c656cf9a54c488fd27cf5715a7ba5.png
[1351564-20190423231239058-8382494.png]: /images/20211101/369739fbd923424096fb0ef538ec4a90.png
[Link 1]: http://parnec.nuaa.edu.cn/huangsj/
[http_parnec.nuaa.edu.cn_huangsj_alipy]: http://parnec.nuaa.edu.cn/huangsj/alipy/
[https_doi.org_10.1093_nsr_nwx106]: https://doi.org/10.1093/nsr/nwx106
[http_arxiv.org_abs_1901.03802]: http://arxiv.org/abs/1901.03802