Improving Named Entity Recognition for Chinese Social Media with Word Segmentation Representation Le

简介

文章主要贡献将训练分词的模型(单向LSTM-CRF)与NER的训练合并来试图提高NER模型的性能。
论文地址: https://arxiv.org/pdf/1603.00786.pdf
代码gitlab地址: https://github.com/hltcoe/golden-horse

模型结构

模型的总体结构如下：

左边是中文分词的模型结构(LSTM+CRF)，右边是NER的模型结构，NER模型的CRF前面的最后一层主要使用了三个特征：

• 字符的词性embedding
• 字符的embedding，即分词使用的字符embedding
• 分词模型中每个字符对应的隐藏层的输出(分词模型CRF层前面的一层输出)

训练时的目标函数如下：

第一项表示分词模型的损失函数，第二项表示NER的损失函数，$\lambda$λ表示权重，一般更关注NER的结果所以一般设置$\lambda<1$λ<1