Hierarchical Attention Learning for Multimodal Classification

计算机科学 模式 人工智能 多模式学习 机器学习 模态(人机交互) 特征(语言学) 情态动词 特征学习 代表(政治) 模式识别(心理学) 政治学 化学 高分子化学 法学 社会学 哲学 政治 语言学 社会科学
作者
Xin Zou,Chang Tang,Wei Zhang,Kun Sun,Liangxiao Jiang
出处
期刊: [Institute of Electrical and Electronics Engineers]
卷期号:: 936-941 被引量:1
标识
DOI:10.1109/icme55011.2023.00165
摘要

Multimodal learning aims to integrate complementary information from different modalities for more reliable decisions. However, existing multimodal classification methods simply integrate the learned local features, which ignore the underlying structure of each modality and the higher-order correlation across modalities. In this paper, we propose a novel Hierarchical Attention Learning Network (HALNet) for multimodal classification. Specifically, HALNet has three merits: 1) A hierarchical feature fusion module is proposed to learn multilevel features, aggregating multi-level features for a global feature representation with the attention mechanism and progressive fusion tactics. 2) A cross-modal higher-order fusion module is introduced to capture the prospective cross-modal correlations at label space. 3) A dual prediction pattern is designed to generate credible decisions. Extensive experiments on three real-world multimodal datasets demonstrate that HALNet achieves competitive performance compared to the state-of-the-art.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
风趣的寻凝完成签到 ,获得积分10
刚刚
多情的寻真完成签到,获得积分10
刚刚
DOC_XIONG的应助被ale采纳,获得10
刚刚
刻苦以云完成签到 ,获得积分10
1秒前
1秒前
阿飞大师完成签到,获得积分10
1秒前
XPDrake完成签到,获得积分10
1秒前
JL完成签到 ,获得积分10
1秒前
TheDing完成签到,获得积分10
2秒前
武陵济世完成签到,获得积分10
2秒前
horse888完成签到,获得积分10
3秒前
风不言喻完成签到,获得积分10
3秒前
Ya_Yen完成签到,获得积分10
3秒前
zjh完成签到 ,获得积分10
4秒前
5秒前
27完成签到 ,获得积分10
6秒前
6秒前
秋月明完成签到,获得积分10
6秒前
科研通AI6.2的应助被武陵济世采纳,获得10
6秒前
墨z完成签到 ,获得积分10
7秒前
小亮哈哈完成签到,获得积分0
7秒前
奥特曼发布了新的文献求助30
7秒前
小水蜜桃完成签到 ,获得积分10
8秒前
8秒前
xiaoxu小徐完成签到 ,获得积分10
8秒前
娃哈哈完成签到,获得积分10
9秒前
顾志成发布了新的文献求助10
10秒前
周海涛发布了新的文献求助10
10秒前
自由念露完成签到 ,获得积分0
11秒前
独特的飞烟完成签到,获得积分10
13秒前
14秒前
14秒前
kkk完成签到,获得积分10
15秒前
bkagyin的应助被奥特曼采纳,获得10
15秒前
sls完成签到,获得积分10
15秒前
文静的行恶完成签到,获得积分10
16秒前
odell完成签到,获得积分10
17秒前
顺心的皮卡丘完成签到 ,获得积分10
19秒前
鹤雪完成签到,获得积分10
19秒前
fashing完成签到,获得积分10
19秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8159151
求助须知:如何正确求助?哪些是违规求助? 9554617
关于积分的说明 21719982
捐赠科研通 7748814
什么是DOI,文献DOI怎么找? 3427149
关于科研通互助平台的介绍 2552091
邀请新用户注册赠送积分活动 2471436