An Improved Hybrid Network With a Transformer Module for Medical Image Fusion

计算机科学 人工智能 编码器 变压器 像素 图像融合 模式识别(心理学) 计算机视觉 特征提取 数据挖掘 图像(数学) 量子力学 操作系统 物理 电压
作者
Yanyu Liu,Yongsheng Zang,Dongming Zhou,Jinde Cao,Rencan Nie,Ruichao Hou,Zhaisheng Ding,Jiatian Mei
出处
期刊:IEEE Journal of Biomedical and Health Informatics [Institute of Electrical and Electronics Engineers]
卷期号:27 (7): 3489-3500 被引量:16
标识
DOI:10.1109/jbhi.2023.3264819
摘要

Medical image fusion technology is an essential component of computer-aided diagnosis, which aims to extract useful cross-modality cues from raw signals to generate high-quality fused images. Many advanced methods focus on designing fusion rules, but there is still room for improvement in cross-modal information extraction. To this end, we propose a novel encoder-decoder architecture with three technical novelties. First, we divide the medical images into two attributes, namely pixel intensity distribution attributes and texture attributes, and thus design two self-reconstruction tasks to mine as many specific features as possible. Second, we propose a hybrid network combining a CNN and a transformer module to model both long-range and short-range dependencies. Moreover, we construct a self-adaptive weight fusion rule that automatically measures salient features. Extensive experiments on a public medical image dataset and other multimodal datasets show that the proposed method achieves satisfactory performance.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
1秒前
小章鱼完成签到,获得积分10
1秒前
吉吉国王完成签到,获得积分10
2秒前
张杠杠完成签到 ,获得积分10
2秒前
科研狗发布了新的文献求助10
3秒前
共享精神应助醉熏的老师采纳,获得20
3秒前
虚心醉蝶完成签到 ,获得积分10
3秒前
3秒前
3秒前
atom完成签到,获得积分10
3秒前
4秒前
4秒前
Zp完成签到,获得积分10
5秒前
happyseagod完成签到,获得积分10
5秒前
5秒前
lixm发布了新的文献求助10
5秒前
共享精神应助刘晓丹采纳,获得10
6秒前
上官若男应助优美一寡采纳,获得10
6秒前
Violet完成签到,获得积分20
7秒前
陈曦发布了新的文献求助10
7秒前
行万里完成签到,获得积分10
8秒前
爱因斯宣发布了新的文献求助10
8秒前
galvin发布了新的文献求助20
9秒前
阁主发布了新的文献求助10
9秒前
10秒前
MTF发布了新的文献求助10
10秒前
落后觅云完成签到 ,获得积分10
10秒前
科研狗完成签到,获得积分10
11秒前
沐风应助Tjx采纳,获得20
11秒前
12秒前
我是快乐的小行家完成签到,获得积分10
12秒前
乖猫要努力应助morlison采纳,获得10
13秒前
温婉的明辉完成签到,获得积分10
13秒前
14秒前
14秒前
油柑美式发布了新的文献求助10
16秒前
16秒前
16秒前
17秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Handbook of Marine Craft Hydrodynamics and Motion Control, 2nd Edition 500
‘Unruly’ Children: Historical Fieldnotes and Learning Morality in a Taiwan Village (New Departures in Anthropology) 400
Indomethacinのヒトにおける経皮吸収 400
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 370
基于可调谐半导体激光吸收光谱技术泄漏气体检测系统的研究 350
Robot-supported joining of reinforcement textiles with one-sided sewing heads 320
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3987314
求助须知:如何正确求助?哪些是违规求助? 3529599
关于积分的说明 11246129
捐赠科研通 3268190
什么是DOI,文献DOI怎么找? 1804089
邀请新用户注册赠送积分活动 881385
科研通“疑难数据库(出版商)”最低求助积分说明 808663