An Encoder-Decoder Approach to Handwritten Mathematical Expression Recognition with Multi-head Attention and Stacked Decoder

计算机科学 变压器 解码方法 软判决解码器 人工智能 编码器 模式识别(心理学) 解析 语音识别 计算机硬件 算法 卷积神经网络 电气工程 电压 操作系统 工程类
作者
Haisong Ding,Kai Chen,Qiang Huo
出处
期刊:Lecture Notes in Computer Science 卷期号:: 602-616 被引量:25
标识
DOI:10.1007/978-3-030-86331-9_39
摘要

Encoder-decoder framework with attention mechanism has become a mainstream solution to handwritten mathematical expression recognition (HMER) since "watch, attend and parse (WAP)" approach was proposed in 2017, where a convolutional neural network is used as encoder and a gated recurrent unit with attention is used in decoder. Inspired by the recent success of Transformer in many applications, in this paper, we adopt the design of multi-head attention and stacked decoder in Transformer to improve the decoder part of the WAP framework for HMER. Experimental results on CROHME tasks show that multi-head attention can boost the expression recognition rate (ExpRate) of WAP from 54.32%/58.05% to 56.76%/59.72% and stacked decoder can further improve ExpRate to 57.72%/61.38% on CROHME 2016/2019 test sets.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
机会啊完成签到,获得积分10
刚刚
123456完成签到,获得积分10
刚刚
迷路的鸽子完成签到,获得积分10
刚刚
苹果王子6699完成签到 ,获得积分10
1秒前
hani完成签到,获得积分10
2秒前
3秒前
激动的xx关注了科研通微信公众号
3秒前
4秒前
柠檬发布了新的文献求助10
5秒前
夸克的诗意完成签到,获得积分10
5秒前
无花果应助yy湫采纳,获得10
5秒前
5秒前
xlj完成签到,获得积分10
5秒前
清欢完成签到,获得积分10
5秒前
土土完成签到,获得积分10
6秒前
滕遥完成签到,获得积分10
6秒前
木木完成签到,获得积分10
7秒前
Oz完成签到,获得积分10
7秒前
迷人耗子精完成签到,获得积分10
7秒前
Shark完成签到,获得积分10
7秒前
Hello应助leo采纳,获得10
8秒前
沙力VAN完成签到,获得积分10
8秒前
gelinhao完成签到,获得积分10
8秒前
正经大善人完成签到,获得积分10
8秒前
CR7应助zhuww采纳,获得20
9秒前
9秒前
10秒前
赖建琛完成签到 ,获得积分10
10秒前
一叶知秋完成签到 ,获得积分10
10秒前
龙傲天完成签到,获得积分10
11秒前
liii完成签到,获得积分10
11秒前
醒不来的猫完成签到,获得积分10
12秒前
搜集达人应助夸克的诗意采纳,获得10
12秒前
解语花应助土土采纳,获得30
12秒前
刘博士完成签到,获得积分10
13秒前
善学以致用应助忽然之间采纳,获得10
14秒前
11完成签到,获得积分20
14秒前
饼饼发布了新的文献求助10
15秒前
研友_7LMbwn完成签到,获得积分10
15秒前
15秒前
高分求助中
【提示信息,请勿应助】关于scihub 10000
A new approach to the extrapolation of accelerated life test data 1000
Coking simulation aids on-stream time 450
北师大毕业论文 基于可调谐半导体激光吸收光谱技术泄漏气体检测系统的研究 390
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 370
Robot-supported joining of reinforcement textiles with one-sided sewing heads 360
Novel Preparation of Chitin Nanocrystals by H2SO4 and H3PO4 Hydrolysis Followed by High-Pressure Water Jet Treatments 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4015859
求助须知:如何正确求助?哪些是违规求助? 3555835
关于积分的说明 11318981
捐赠科研通 3288954
什么是DOI,文献DOI怎么找? 1812355
邀请新用户注册赠送积分活动 887882
科研通“疑难数据库(出版商)”最低求助积分说明 812027