文档名：基于深度残差循环神经网络的序列推荐模型
摘要：为解决基于RNN(RecurrentNeuralNetwork)的序列推荐模型在处理长序列时易出现梯度消失或爆炸从而导致推荐模型训练过程不稳定问题,在传统门控循环单元(GRU:GatedRecurrentUnit)基础上,引入了残差连接、层归一化以及前馈神经网络等模块,提出了基于深度残差循环神经网络的序列推荐模型DeepGRU.并在3个公开数据集上进行了验证,实验结果表明,该DeepGRU相较于目前最先进的序列推荐方法具有明显的优势(推荐精度平均提升8.68％).消融实验验证了引入的残差连接等模块在DeepGRU框架下的有效性.并且,该DeepGRU有效缓解了在处理长序列时训练过程不稳定的问题.
Abstract：ToavoidthegradientvanishingorexplodingissueintheRNN(RecurrentNeuralNetwork)-basedsequentialrecommenders,agatedrecurrentunitbasedsequentialrecommenderDeepGRUisproposedwhichintroducestheresidualconnection,layernormalizationandfeedforwardneuralnetwork.Theproposedalgorithmisverifiedonthreepublicdatasets,andtheexperimentalresultsshowthatDeepGRUhassuperiorrecommendationperformanceoverseveralstate-of-the-artsequentialrecommenders(averagelyimprovedby8.68％)overallcomparedmetrics.Theablationstudyverifiestheeffectivenessoftheintroducedresidualconnection,layernormalizationandfeedforwardlayer.ItisempiricallydemonstratedthatDeepGRUeffectivelyalleviatestheunstabletrainingissuewhendealingwithlongsequences.
作者：王浩宇 李蕴华Author：WANGHaoyu LIYunhua
作者单位：吉林大学大数据和网络管理中心,长春130012
刊名：吉林大学学报（信息科学版） ISTIC
Journal：JournalofJilinUniversity(InformationScienceEdition)
年，卷(期)：2023, 41(6)
分类号：TP3
关键词：序列推荐 循环神经网络 门控循环单元 残差网络
Keywords：sequentialrecommendation recurrentneuralnetwork gatedrecurrentunit residualnetwork
机标分类号：TP391TP183TE832
在线出版日期：2024年1月24日
基金项目：基于深度残差循环神经网络的序列推荐模型[
期刊论文] 吉林大学学报（信息科学版）--2023, 41(6)王浩宇 李蕴华为解决基于RNN(RecurrentNeuralNetwork)的序列推荐模型在处理长序列时易出现梯度消失或爆炸从而导致推荐模型训练过程不稳定问题,在传统门控循环单元(GRU:GatedRecurrentUnit)基础上,引入了残差连接、层归一化以及前...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
基于深度残差循环神经网络的序列推荐模型 Residual Connected Deep GRU for Sequential Recommendation
基于深度残差循环神经网络的序列推荐模型.pdf
- 文件大小:
- 6.17 MB
- 下载次数:
- 60
-
高速下载
|
