文档名：融入注意力机制的越南语组块识别方法
对于越南语组块识别任务,在前期对越南语组块内部词性构成模式进行统计调查的基础上,该文针对Bi-LSTM+CRF模型提出了两种融入注意力机制的方法:在输入层融入注意力机制,从而使得模型能够灵活调整输入的词向量与词性特征向量各自的权重;在Bi-LSTM之上加入了多头注意力机制,从而使模型能够学习到Bi-LSTM输出值的权重矩阵,进而有选择地聚焦于重要信息上.实验结果表明,在输入层融入注意力机制后,模型对组块识别的F值提升了3.08％,在Bi-LSTM之上加入了多头注意力机制之后,模型对组块识别的F值提升了4.56％,证明了这两种方法的有效性.
作者：王闻慧 毕玉德 雷树杰
作者单位：信息工程大学洛阳校区,河南省洛阳市471003复旦大学外国语言文学学院,上海市200433
母体文献：第十八届中国计算语言学大会暨中国中文信息学会2019学术年会论文集
会议名称：第十八届中国计算语言学大会暨中国中文信息学会2019学术年会
会议时间：2019年10月18日
会议地点：昆明
主办单位：中国中文信息学会
语种：chi
分类号：
关键词：越南语 组块识别 Bi-LSTM模型 CRF模型 注意力机制
在线出版日期：2021年8月24日
基金项目：
相似文献
相关博文
- 文件大小:
- 776.79 KB
- 下载次数:
- 60
-
高速下载
|
|
