亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

UniMF: A Unified Multimodal Framework for Multimodal Sentiment Analysis in Missing Modalities and Unaligned Multimodal Sequences

计算机科学 模式 多模态 模式治疗法 人工智能 情绪分析 变压器 自然语言处理 万维网 社会科学 量子力学 医学 物理 外科 社会学 电压
作者
Ruohong Huan,Guowei Zhong,Peng Chen,Ronghua Liang
出处
期刊:IEEE Transactions on Multimedia [Institute of Electrical and Electronics Engineers]
卷期号:26: 5753-5768 被引量:57
标识
DOI:10.1109/tmm.2023.3338769
摘要

In current multimodal sentiment analysis, aligned and complete multimodal sequences are often crucial. Obtaining complete multimodal data in the real world presents various challenges, and aligning multimodal sequences often requires a significant amount of effort. Unfortunately, most multimodal sentiment analysis methods fail when dealing with missing modalities or unaligned multimodal sequences. To tackle these two challenges simultaneously in a simple and lightweight manner, we present the Unified Multimodal Framework (UniMF). The primary components of UniMF comprise two distinct modules. The first module, Translation Module, translates missing modalities using information from existing modalities. The second module, Prediction Module, uses the attention mechanism to fuse the multimodal information and generate predictions. To enhance the translation performance of the Translation Module, we introduce the Multimodal Generation Mask (MGM) and utilize it to construct the Multimodal Generation Transformer (MGT). The MGT can generate the missing modality while focusing on information from existing modalities. Furthermore, we introduce the Multimodal Understanding Transformer (MUT) in the Prediction Module, which includes the Multimodal Understanding Mask (MUM) and a unique sequence,MultiModalSequence(MMSeq), representing a unified multimodality. To assess the performance of UniMF, we perform experiments on four multimodal sentiment datasets, and UniMF attains competitive or state-of-the-art outcomes with fewer learnable parameters. Furthermore, the experimental outcomes signify that UniMF, supported by MGT and MUT - two transformers utilizing special attention mechanisms, can efficiently manage both generating task of missing modalities and understanding task of unaligned multimodal sequences.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
KKIII发布了新的文献求助10
2秒前
2589完成签到,获得积分10
2秒前
淡然的冰淇淋完成签到 ,获得积分10
10秒前
坦率的邑完成签到 ,获得积分10
18秒前
22秒前
冷酷的祥完成签到,获得积分10
22秒前
睡觉大王__完成签到,获得积分10
24秒前
科研小白发布了新的文献求助10
25秒前
obedVL完成签到,获得积分10
26秒前
风趣含双发布了新的文献求助10
34秒前
背后寒烟完成签到 ,获得积分10
37秒前
Yh完成签到,获得积分10
42秒前
从容棉花糖完成签到,获得积分10
43秒前
cloud完成签到 ,获得积分10
44秒前
Yh发布了新的文献求助10
45秒前
敬业乐群完成签到,获得积分10
49秒前
陈龙完成签到,获得积分10
54秒前
aa完成签到,获得积分10
58秒前
LSQ完成签到,获得积分10
1分钟前
1分钟前
foden完成签到,获得积分10
1分钟前
xinran完成签到,获得积分10
1分钟前
温暖的帆布鞋完成签到,获得积分10
1分钟前
yli130完成签到,获得积分10
1分钟前
1分钟前
1分钟前
Sarahminn发布了新的文献求助10
1分钟前
1分钟前
俏皮的灵发布了新的文献求助10
1分钟前
机灵的沂完成签到,获得积分10
1分钟前
奔跑的应助被虚心的灵寒采纳,获得10
1分钟前
奔跑的应助被虚心的灵寒采纳,获得10
1分钟前
欢呼的兰完成签到,获得积分10
1分钟前
华仔的应助被lmn采纳,获得10
1分钟前
酒酿是也完成签到 ,获得积分10
1分钟前
满意的楷瑞完成签到,获得积分10
1分钟前
顺利的水瑶完成签到 ,获得积分10
1分钟前
1分钟前
我是老大的应助被科研通管家采纳,获得10
1分钟前
彭于晏的应助被科研通管家采纳,获得10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8172954
求助须知:如何正确求助?哪些是违规求助? 9565447
关于积分的说明 21780029
捐赠科研通 7764817
什么是DOI,文献DOI怎么找? 3431496
关于科研通互助平台的介绍 2555519
邀请新用户注册赠送积分活动 2476571