Hierarchical Attention Learning for Multimodal Classification

计算机科学 模式 人工智能 多模式学习 机器学习 模态(人机交互) 特征(语言学) 情态动词 特征学习 代表(政治) 模式识别(心理学) 政治学 化学 高分子化学 法学 社会学 哲学 政治 语言学 社会科学
作者
Xin Zou,Chang Tang,Wei Zhang,Kun Sun,Liangxiao Jiang
出处
期刊: [Institute of Electrical and Electronics Engineers]
卷期号:: 936-941 被引量:1
标识
DOI:10.1109/icme55011.2023.00165
摘要

Multimodal learning aims to integrate complementary information from different modalities for more reliable decisions. However, existing multimodal classification methods simply integrate the learned local features, which ignore the underlying structure of each modality and the higher-order correlation across modalities. In this paper, we propose a novel Hierarchical Attention Learning Network (HALNet) for multimodal classification. Specifically, HALNet has three merits: 1) A hierarchical feature fusion module is proposed to learn multilevel features, aggregating multi-level features for a global feature representation with the attention mechanism and progressive fusion tactics. 2) A cross-modal higher-order fusion module is introduced to capture the prospective cross-modal correlations at label space. 3) A dual prediction pattern is designed to generate credible decisions. Extensive experiments on three real-world multimodal datasets demonstrate that HALNet achieves competitive performance compared to the state-of-the-art.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
2ilo_完成签到,获得积分10
刚刚
可研完成签到 ,获得积分10
1秒前
2秒前
liu完成签到,获得积分10
2秒前
小丁完成签到 ,获得积分10
3秒前
文艺草丛发布了新的文献求助10
3秒前
羊羊羊完成签到,获得积分10
4秒前
4秒前
捞鱼完成签到,获得积分0
5秒前
李小鱼完成签到,获得积分10
5秒前
JPEI完成签到,获得积分10
5秒前
zenithsf完成签到,获得积分10
5秒前
一心向雨完成签到,获得积分10
6秒前
MchemG的应助被qwer采纳,获得30
6秒前
零度完成签到 ,获得积分10
6秒前
er完成签到 ,获得积分10
6秒前
lvlulu21完成签到,获得积分10
6秒前
雅尔达完成签到 ,获得积分10
6秒前
jscr完成签到,获得积分10
6秒前
Hanni完成签到 ,获得积分10
7秒前
molihuakai的应助被123采纳,获得10
7秒前
ee完成签到,获得积分10
7秒前
拼搏尔风完成签到,获得积分10
8秒前
陈亚茹完成签到,获得积分10
8秒前
9秒前
格式标题完成签到,获得积分10
9秒前
9秒前
zqyzqy完成签到 ,获得积分10
9秒前
dougsong完成签到,获得积分10
10秒前
Aileen完成签到,获得积分10
10秒前
11秒前
木可完成签到,获得积分10
12秒前
小艾同学完成签到,获得积分10
12秒前
ZX完成签到,获得积分10
12秒前
12秒前
虚心无颜完成签到,获得积分10
12秒前
寒泉完成签到,获得积分10
12秒前
potato完成签到 ,获得积分10
13秒前
wwwcom完成签到,获得积分10
13秒前
宋芝恬完成签到,获得积分0
13秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8180135
求助须知:如何正确求助?哪些是违规求助? 9570290
关于积分的说明 21809391
捐赠科研通 7776237
什么是DOI,文献DOI怎么找? 3433266
关于科研通互助平台的介绍 2557465
邀请新用户注册赠送积分活动 2479039