EDA: Easy Data Augmentation

文章结构:原理、设置参数、代码。

一、原理

文章来源:https://arxiv.org/abs/1901.11196

通过对文本中部分词的改变,达到重写文本,让样本数量增多的目的,并增强对应训练模型的泛化能力。

具体有四种方式:

1、同义词替换:在句子中的词中随即选择n个非停用词。将每个词换成一个随即的同义词。

2、随机插入:在句子中的词中随即选择一个非停用词的一个随即同义词,将其插入句中的随机位置。做n次。

3、随机交换:在句子中随机选两个词做交换。做n次。

4、随机删词:对每个词做随机删除处理,概率是p。

EDA 文本增强(和我的思考)

二、参数

上面说了“xxxx,做n次”。究竟几次呢?

前三个任务:n=αl;l是句子长度

随机删除任务:p=α

α取值根据训练集原数据量决定,具体见下表。
EDA 文本增强(和我的思考)

另外,增强的样本量的数量也许受到限制,否则会过犹不及。具体见上表的n_aug,为适合的倍数。比如,原数据量为500个样板,则生成500*16=8000个样本。

三、代码

感觉挺好的一个代码:https://github.com/zhanlaoban/EDA_NLP_for_Chinese

其中的同义词用的 import synonyms 。有停用词库,也可改用自己的。

四、我的思考

在我工作的场景下,遇到了这样的情况,有些词汇时不能被改写的,如专有名词、核心词汇。如果修改了这些词,不仅达不到泛化的目的,还可能会导致样本类别的变化(论文中说不会变,那是普遍的文本和某些情况的类别下,某些垂类真会变啊,,另外如果是做回归问题,也回有不好的影响,,我就遇到了文本回归的任务)。

解决方式是做一个自己的“固定词表”,使用方式类似于设置的停用词表。但需要注意,如果该“固定词表”中有的不是词,而是词组或是短句,则需要微改代码哈~~

类似的情况也可以用在“回译”的文本增强方式上!


如果有点用,请点赞哈~~~

相关文章: