Long short-term memory based on a reward/punishment strategy for recurrent neural networks

惩罚(心理学) 计算机科学 期限(时间) 短时记忆 循环神经网络 人工神经网络 人工智能 认知心理学 心理学 发展心理学 量子力学 物理
作者
Jiangjiang Liu,Biao Luo,Pengfei Yan,Ding Wang,Derong Liu
标识
DOI:10.1109/yac.2017.7967428
摘要

Recurrent neural networks and their variants have received huge success in many difficult tasks, such as handwriting recognition and generation, natural language processing, acoustic modeling of speech, and so on. As a kind of recurrent neural network architectures, the long short-term memory (LSTM) has attracted great attention. Most research works focus on its structures, training algorithms and topology structures. As an improvement to the structure of LSTM, a reward/punishment strategy is developed for LSTM in this paper, which we call RP-LSTM. In RP-LSTM, a reward/punishment (RP) strategy is proposed to evaluate its memory cells' memorization such that it improves its efficiency by forgetting more reasonably. Analysis of properties of the developed RP-LSTM is conducted from the neuroscience aspect. To test the performance of the developed RP-LSTM, comparative simulation studies are conducted on three structures, i.e., LSTM, LSTM with forget gate (LSTM-FG) and RP-LSTM. Simulation results on sentiment analysis model and sequence to sequence model demonstrate that RP-LSTM achieves better performance.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
烟花应助小七2022采纳,获得10
1秒前
1秒前
科目三应助现代剑成采纳,获得10
3秒前
3秒前
5秒前
逆时针完成签到,获得积分10
5秒前
共享精神应助Grool采纳,获得30
6秒前
Sweet Hope发布了新的文献求助10
6秒前
调研昵称发布了新的文献求助10
7秒前
7秒前
脑洞疼应助英俊的咖啡豆采纳,获得10
8秒前
小蘑菇应助含糊的书雁采纳,获得10
8秒前
8秒前
跳跃的问薇完成签到 ,获得积分10
9秒前
9秒前
李蕤蕤完成签到,获得积分10
11秒前
11秒前
11秒前
眯眯眼的衬衫应助清如许采纳,获得10
11秒前
zfp完成签到,获得积分10
11秒前
初七123发布了新的文献求助10
12秒前
毛豆应助kevimfr采纳,获得10
12秒前
英俊的铭应助鹤轸采纳,获得10
12秒前
英俊绿海完成签到 ,获得积分10
13秒前
夜守发布了新的文献求助50
14秒前
fff发布了新的文献求助10
15秒前
16秒前
16秒前
zhongu应助瞿选葵采纳,获得10
17秒前
17秒前
小七2022发布了新的文献求助10
17秒前
紧张的文博完成签到 ,获得积分10
18秒前
19秒前
20秒前
谦让友绿发布了新的文献求助10
21秒前
21秒前
成就铸海关注了科研通微信公众号
22秒前
you发布了新的文献求助10
22秒前
23秒前
23秒前
高分求助中
Востребованный временем 2500
Agaricales of New Zealand 1: Pluteaceae - Entolomataceae 1040
지식생태학: 생태학, 죽은 지식을 깨우다 600
海南省蛇咬伤流行病学特征与预后影响因素分析 500
Neuromuscular and Electrodiagnostic Medicine Board Review 500
ランス多機能化技術による溶鋼脱ガス処理の高効率化の研究 500
Relativism, Conceptual Schemes, and Categorical Frameworks 500
热门求助领域 (近24小时)
化学 医学 材料科学 生物 工程类 有机化学 生物化学 纳米技术 内科学 物理 化学工程 计算机科学 复合材料 基因 遗传学 物理化学 催化作用 细胞生物学 免疫学 电极
热门帖子
关注 科研通微信公众号,转发送积分 3462807
求助须知:如何正确求助?哪些是违规求助? 3056372
关于积分的说明 9051665
捐赠科研通 2746018
什么是DOI,文献DOI怎么找? 1506751
科研通“疑难数据库(出版商)”最低求助积分说明 696202
邀请新用户注册赠送积分活动 695740