文章目录
摘要
文章设计了一种利用外部词典加强命名实体识别的方法,整个模型大致分为【Inner- 】、【】、【 】三个部分,模型概略图如下所示:
该模型有助于解决缺乏训练数据的场景
一、模型
【Inner- 】: 对应模型图的(a)部分左侧,其使用下式编码实体:
其中 h i A h_i^A hiA?为该实体的第一个词,h j A h_j^A hjA?为该实体的最后一个词 。整个 s i j \{s_{ij}} sij?代表了Name .
【】:对应模型图的(a)右侧部分,其使用下式编码实体:
即使用Name 的向量作为query 对句子中的其他单词进行,最后得到的 c i j \{c_{ij}} cij?代表了
【- ANN】:即对应模型图的(b)部分,使用下式进行编码
文章插图
其中 s s s为函数,u u u是通过(1)式得到的实体向量表示,然后通过多标签、多类别交叉熵损失函数对网络进行训练:
二、结果
可以看到,在数据集上,该模型较有较大的提升,并且也能在Bert模型的基础上进行Fine Tune.
【论文笔记:Gazetteer】三、疑惑
- 阅读笔记 MISA: Modality
- 【WWDC2016 Session笔记】 iOS 10 UICollection
- 2022年笔记本电脑十大品牌——“榜中榜” 中国十大电脑品牌
- 语音情感识别领域-论文阅读笔记1:融合语音和文字的句段级别情感识别技术
- AndroidAndroid应用资源 | 学习笔记
- 中国知网论文查询官网,中国知网论文查重原理?
- 中国知网专著查重步骤,淘宝知网查重会把论文卖掉吗
- 笔记本无法开机,联想笔记本无法开机
- 笔记本性价比排行2019,2019性价比最高的笔记本
- 笔记本电脑排行榜中关村,北京中关村笔记本电脑推荐