NLP数据扩增方法

- 日理万妓 2023-01-18 11:29 20阅读 0赞

## 扩增方法：回译 ##

将文本数据翻译成某种语言，然后再将其翻译回原始语言。回译可以生成带有不同单词的文本数据，同时保留文本数据的上下文。

一般情况下回译需要借助翻译API来完成，需要耗费一定的时间。

## 扩增方法：同义词替换 ##

从句子中随机选择N个非停止词，随机选择的同义词替换这些单词。

替换前：This `article` will focus on summarizing data augmentation `techniques` in NLP.

替换后：This `write-up` will focus on summarizing data augmentation `methods` in NLP.

在进行同义词替换时，关键是计算得到同义词的方法：

*  word2vec距离
 *  Bert Mask预测

## 扩增方法：同义词插入 ##

在句子中随机找一个非停止词的同义词。把同义词插入句子中的任意位置。

替换前：This `article` will focus on summarizing data augmentation `techniques` in NLP.

替换后：This `article` will focus on `write-up` summarizing data augmentation techniques in NLP methods.

## 扩增方法：随机替换 ##

从句子中随机选取两个单词，互换它们的位置。

替换前：This `article` will focus on summarizing data augmentation `techniques` in NLP.

替换后：This `techniques` will focus on summarizing data augmentation `article` in NLP.

## 扩增方法：随机删除 ##

随机删除句子中的单词。

替换前：This `article` will focus on summarizing data augmentation `techniques` in NLP.

替换后：This `article` focus on summarizing data augmentation in NLP.

## 扩增方法：对抗训练 ##

对抗样本是让能够模型误分类的样本，且对抗样本与原始样本区别不大。将模型生成的对抗样本加入训练过程，即为对抗训练

对抗训练思路：通过产生对抗样本的思路，如FGSM来计算出扰动，添加到到连续的Word Embedding上产生，然后将再进行一次正向传播和反向传播。

https://arxiv.org/abs/1605.07725

## 扩增库：EDA ##

EDA是**Easy Data Augmentation**的缩写，原始提出于论文EDA: Easy Data Augmentation techniques for boosting performance on text classification tasks.

EDA库实现了同义词替换、随机插入、随机交换和随机删除等操作，使用起来非常简单。

英文版：https://github.com/jasonwei20/eda\_nlp

中文版：https://github.com/zhanlaoban/EDA\_NLP\_for\_Chinese

## 扩增库：nlpaug ##

nlpaug是一个非常常用的数据扩增库，支持文本和音频数据。nlpaug实现了较多的同义词替换方法，底层支持pytorch和tf。

https://github.com/makcedward/nlpaug

使用案例：https://github.com/makcedward/nlpaug/blob/master/example/textual\_augmenter.ipynb

发表评论取消回复

表情：

评论列表（有 0 条评论，20人围观）

还没有评论，来说两句吧...

相关阅读

相关 MySQL性能瓶颈：实例扩增后的问题案例

在MySQL数据库的使用过程中，可能会遇到实例扩增后的性能瓶颈问题。以下是一些具体案例： 1. 数据量激增：假设你有一个在线购物网站，业务增长迅速，商品数据瞬间增加数百万条。

╰+攻爆jí腚メ/ 2024年12月26日 07:15/ 0 赞/ 1 阅读

相关深度学习中的图像数据扩增(Data Augmentations)方法总结：常用传统扩增方法及应用

深度学习中的图像数据扩增(Data Augmentations)方法总结：常用传统扩增方法及应用 1. 前言这篇文章主要参考 [A survey on Image

墨蓝/ 2023年02月16日 00:41/ 0 赞/ 14 阅读

相关 NLP数据扩增方法

扩增方法：回译将文本数据翻译成某种语言，然后再将其翻译回原始语言。回译可以生成带有不同单词的文本数据，同时保留文本数据的上下文。一般情况下回译需要借助翻译API来完

- 日理万妓/ 2023年01月18日 11:29/ 0 赞/ 21 阅读

相关【python】批量实现图像数据增强（扩增）并复制xml标签文件

数据扩增的概念数据扩增是指不实际增加原始数据，只是对原始数据做一些变换，从而创造出更多的数据。数据扩增的目的数据扩增的目的是增加数据量、丰富数据多样性、提高模型的泛

迷南。/ 2023年01月16日 12:27/ 0 赞/ 197 阅读

相关最强的数据扩增方法竟然是添加标点符号？

今天的这篇文章源自于EMNLP 2021 Findings，论文标题为[《AEDA: An Easier Data Augmentation Technique for Tex

浅浅的花香味﹌/ 2022年09月10日 10:16/ 0 赞/ 17 阅读

相关正则化方法：L1和L2 regularization、数据集扩增、dropout

正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程

小咪咪/ 2022年08月22日 04:45/ 0 赞/ 169 阅读

相关正则化方法：L1和L2 regularization、数据集扩增、dropout

正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程

桃扇骨/ 2022年06月08日 14:24/ 0 赞/ 182 阅读

相关过拟合的解决方法，正则化方法：L1和L2 regularization、数据集扩增、dropout

对于过拟合的解决方法的讲解，简单明了，受用～ [https://blog.csdn.net/u012162613/article/details/44261657][htt

深碍√TFBOYSˉ_/ 2022年05月24日 05:35/ 0 赞/ 162 阅读

相关正则化方法：L1和L2 regularization、数据集扩增、dropout

正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，经常会导致overfitting（过拟合）。其直观的表现例如以下图所看到的。随着

朴灿烈づ我的快乐病毒、/ 2022年03月18日 04:18/ 0 赞/ 235 阅读

相关深度学习目标检测数据集扩增方法

先放出链接吧，后续跑得时候补充论文传送门： [https://arxiv.org/abs/1906.11172][https_arxiv.org_abs_1906.1

淡淡的烟草味﹌/ 2021年12月16日 00:07/ 0 赞/ 360 阅读