长尾分布数据的理解

梦里梦外; 2023-09-27 15:15 117阅读 0赞

#### 文章目录 ####

*  一、前言
 *  二、长尾分布数据
 *   *  2.1 什么是长尾分布
     *  2.2 解决办法
     *   *  2.2.1 数据级方法
         *  2.2.2 算法级方法

## 一、前言 ##

最近在阅读文献的时候，遇到了一个新的名词：`long-tailed distribution`

![在这里插入图片描述][6b63026e817640efa05f5993e920b703.png]

对于这个名词，不是很理解，查找资料得出长尾分布数据集的含义。

## 二、长尾分布数据 ##

### 2.1 什么是长尾分布 ###

长尾分布数据是一种偏态分布，是指几个类别（亦叫头类）包含大量的样本，而大多数类别（亦叫尾类）只有非常少量的样本。

即一小部分标签（即头部标签）有很多数据实例，而大多数标签（即尾部标签）只有很少数据实例的不平衡分类情况。例如：在动物识别数据集中，常见家禽类别的数据非常多，但是大熊猫东北虎的类别非常少。

![在这里插入图片描述][9d96c92dd15a49178a67d3476471fece.png]

类似这样的数据集会使得深度学习网络在头部类中表现良好，在尾部类中效率不高，整体的识别精度显著下降。

### 2.2 解决办法 ###

大多数研究者通过不平衡学习策略来解决长尾识别问题，主要分为两类：`数据级方法`和`算法级方法`。

#### 2.2.1 数据级方法 ####

数据水平的策略包括尾部类过采样，头部类欠采样，以及其他新的抽样方法。

所以解决手段主要着力于如何对数据进行抽样。这种方法存在的问题是，过采样会导致过拟合，欠采样会导致头部类大量有效信息丢失。

#### 2.2.2 算法级方法 ####

*  通过成本敏感算法来调整类别权重，一定程度缓解长尾分布不平衡问题，提高了尾类识别精度，但降低了头类精度。
 *  将头部数据中学习到的知识迁移到尾类，这种迁移学习的缺点是在头尾类特征相差特别大的时候，效果不好。如头类是动物，尾类是植物。
 *  层次学习方法，将长尾识别问题转为层次化超类学习问题。知识的迁移是受限的，只能从超类转移到它的直接子类。如尾类哈士奇的识别过程中，首先将其识别为头类的动物类，再归类为一只哈士奇狗。这个过程中，动物的知识不会转移到植物类。即，对头部类的知识迁移进行了限制，限制的方式是父子类层次关联。

[6b63026e817640efa05f5993e920b703.png]: https://img-blog.csdnimg.cn/6b63026e817640efa05f5993e920b703.png
[9d96c92dd15a49178a67d3476471fece.png]: https://img-blog.csdnimg.cn/9d96c92dd15a49178a67d3476471fece.png

发表评论取消回复

表情：

评论列表（有 0 条评论，117人围观）

还没有评论，来说两句吧...

相关阅读

相关【计算机视觉】CCV 2020 | “劫富济贫”：长尾数据的特征空间增强

文章目录一、贡献二、思路三、两个假设四、方法 4.1 CAM（类激活图） 4.2 可视化特征 4.

叁歲伎倆/ 2023年09月27日 16:32/ 0 赞/ 12 阅读

相关长尾分布数据的理解

文章目录一、前言二、长尾分布数据 2.1 什么是长尾分布 2.2 解决办法 2.2.1 数据级方法

梦里梦外;/ 2023年09月27日 15:15/ 0 赞/ 118 阅读

相关数据类别不平衡/长尾分布？不妨利用半监督或自监督学习

点击上方“机器学习与生成对抗网络”，关注星标获取有趣、好玩的前沿干货！文章知乎侵删链接：https://zhuanlan.zhihu.com/p/25971

我就是我/ 2023年01月23日 15:50/ 0 赞/ 19 阅读

相关长尾关键词（笔记）

　一、长尾关键词的特征　　长尾关键词通常比较长，往往是2-3个词组成，甚至是短语，存在于内容页面，除了内容页的标题，还存在于内容中。长尾关键词搜索量虽然非常少，而且不

ゝ一纸荒年。/ 2022年06月01日 10:40/ 0 赞/ 335 阅读

相关关于效率长尾现象

不少人一定看过[《长尾理论》][Link 1]这本书，它是由美国《连线》杂志主编克里斯·安德森所著，阐述的是：商业和文化的未来不在于传统需求曲线上那个代表“畅销产品”的头部，而

左手的ㄟ右手/ 2022年05月21日 07:21/ 0 赞/ 168 阅读

相关长尾请求

1. 什么是长尾？长尾请求一般是指明显高于均值的那部分占比较小的请求。业界关于延迟有一个常用的P99标准，也就是99%的请求延迟要满足在一定耗时以内， 1%的请求会

谁借莪１个温暖的怀抱￠/ 2022年04月24日 03:54/ 0 赞/ 234 阅读

相关关于效率长尾现象

不少人一定看过[《长尾理论》][Link 1]这本书，它是由美国《连线》杂志主编克里斯·安德森所著，阐述的是：商业和文化的未来不在于传统需求曲线上那个代表“畅销产品”的头部，而

浅浅的花香味﹌/ 2022年04月15日 04:18/ 0 赞/ 212 阅读

相关让“龙头”与“长尾”共舞 - 长尾理论在Web2.0网站中的应用

最近一直在阅读“长尾理论”、“将企业搬到博客” 以及介绍Google搜索方面的书。颇有感触，目前在国内提供IT技术类资讯的网站有很多，每天产生大量原创的优秀内容。依靠编辑的力量

落日映苍穹つ/ 2021年09月19日 06:44/ 0 赞/ 375 阅读

相关长尾请求

1. 什么是长尾？长尾请求一般是指明显高于均值的那部分占比较小的请求。业界关于延迟有一个常用的P99标准，也就是99%的请求延迟要满足在一定耗时以内， 1%的请求会

小鱼儿/ 2021年06月22日 15:37/ 0 赞/ 513 阅读

相关长尾关键词如何部署？

长尾关键词如何部署？长尾关键词部署好了，可以给网站带来很大的效益，怎么部署和选择长尾词是SEO人员的一项重要工作。长尾关键词的选择：长尾关键词的选择是一项非常重...

朱雀/ 2021年05月31日 11:32/ 0 赞/ 716 阅读