基于BERT与LocAttention的文本情感分析模型
文档名:基于BERT与LocAttention的文本情感分析模型
摘要:传统的情感分析方法由于没有关注文本相对于主题词的位置(Loc)关系,分类效果并不理想.提出一种基于BERT与LDA的Loc-注意力(Attention)的双向长短期记忆(Bi-LSTM)模型的文本情感分析方法--BL-LABL方法.使用LDA主题模型获得每个评论的主题及其词分布,将筛选出的主题词和原文本拼接输入到BERT模型,进行词向量训练,得到包含主题信息的文本词向量以及包含文本信息的主题词向量;利用Bi-LSTM网络,加入文本的位置权重,结合注意力权重最终得到的文本特征表示为两者的加权求和;最后,再利用SoftMax分类器获得文本的情感类别.通过在两种数据集上的实验表明,该模型与传统的注意力情感分类模型相比,有效地提高了分类性能.
作者:何传鹏黄勃周科亮尹玲王明胜李佩佩Author:HEChuanpengHUANGBoZHOUKeliangYINLingWANGMingshengLIPeipei
作者单位:上海工程技术大学电子电气工程学院,上海201620
刊名:传感器与微系统 ISTICPKU
Journal:TransducerandMicrosystemTechnologies
年,卷(期):2023, 42(12)
分类号:TP391.1
关键词:情感分析主题模型BERT模型文本特征位置权重注意力
Keywords:sentimentanalysistopicmodelbidirectionalencoderrepresentationsfromtransformers(BERT)modeltextfeaturelocationweightattention
机标分类号:
在线出版日期:2024年1月3日
基金项目:国家自然科学基金基于BERT与Loc-Attention的文本情感分析模型[
期刊论文]传感器与微系统--2023, 42(12)何传鹏黄勃周科亮尹玲王明胜李佩佩传统的情感分析方法由于没有关注文本相对于主题词的位置(Loc)关系,分类效果并不理想.提出一种基于BERT与LDA的Loc-注意力(Attention)的双向长短期记忆(Bi-LSTM)模型的文本情感分析方法--BL-LABL方法.使用LDA主题模型获...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
基于BERT与Loc-Attention的文本情感分析模型Text sentiment analysis model based on BERT and Loc-Attention
基于BERT与Loc-Attention的文本情感分析模型.pdf
页:
[1]