李宏毅nlp学习笔记07：Coreference Resolution（共指消除）

1.一些概念：

2.两步：第一步：先找到mention。

3.两步：第二步：对所有找到的mention进行分类：

4.两步（两个模型）合成一个：

5.当下模型进行共指消除任务：

6.5中的Span Feature Extraction是怎么做的：

取出开头和结尾
把所有的做自注意力机制到各自的权重，加和得到自注意力机制的向量。
把上述三个拼接共同作为Span Feature Extraction的结果。

7.降低复杂度进行的操作：

一种方法是限制抽出mention的长度，
一种方法是先抽出来判断是不是mention，选择分数最高的K个。

进行上述的筛除后，再去跑完整的模型：

seq2seq：

有一个思想判断mention到底是不是一个？

利用bert的masked思想，直接盖住，让机器预测。