Diffusion Mechanism in Residual Neural Network: Theory and Applications

残余物 计算机科学 人工智能 人工神经网络 模式识别(心理学) 扩散 算法 物理 热力学
作者
Tangjun Wang,Zehao Dou,Chenglong Bao,Zuoqiang Shi
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:46 (2): 667-680 被引量:6
标识
DOI:10.1109/tpami.2023.3272341
摘要

Diffusion, a fundamental internal mechanism emerging in many physical processes, describes the interaction among different objects. In many learning tasks with limited training samples, the diffusion connects the labeled and unlabeled data points and is a critical component for achieving high classification accuracy. Many existing deep learning approaches directly impose the fusion loss when training neural networks. In this work, inspired by the convection-diffusion ordinary differential equations (ODEs), we propose a novel diffusion residual network (Diff-ResNet), internally introduces diffusion into the architectures of neural networks. Under the structured data assumption, it is proved that the proposed diffusion block can increase the distance-diameter ratio that improves the separability of inter-class points and reduces the distance among local intra-class points. Moreover, this property can be easily adopted by the residual networks for constructing the separable hyperplanes. Extensive experiments of synthetic binary classification, semi-supervised graph node classification and few-shot image classification in various datasets validate the effectiveness of the proposed method.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
爰采唐矣发布了新的文献求助10
刚刚
1秒前
1秒前
善学以致用应助小芭乐采纳,获得10
1秒前
拂晓发布了新的文献求助10
1秒前
SciGPT应助feihua采纳,获得10
2秒前
2秒前
2秒前
dongdong发布了新的文献求助10
3秒前
3秒前
sdl发布了新的文献求助10
3秒前
3秒前
沉静丹寒发布了新的文献求助10
4秒前
泽丶完成签到,获得积分10
4秒前
AI_S发布了新的文献求助10
4秒前
情怀应助周常通采纳,获得10
5秒前
知栀完成签到 ,获得积分10
6秒前
lubo发布了新的文献求助10
6秒前
6秒前
SUN发布了新的文献求助10
6秒前
6秒前
6秒前
大个应助石贵远采纳,获得10
6秒前
九点半上课了完成签到,获得积分10
7秒前
hang完成签到,获得积分10
8秒前
8秒前
10秒前
dwct完成签到,获得积分10
10秒前
10秒前
Mxs发布了新的文献求助10
11秒前
丘比特应助TOMORI酱采纳,获得10
11秒前
任性的冷梅完成签到,获得积分10
11秒前
11秒前
阳光莲小蓬完成签到,获得积分10
11秒前
11秒前
朝暮应助WeiBao采纳,获得10
12秒前
CuSO4完成签到,获得积分10
12秒前
开心发布了新的文献求助10
12秒前
咕咕鸽完成签到,获得积分10
12秒前
高分求助中
Picture Books with Same-sex Parented Families: Unintentional Censorship 700
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
Indomethacinのヒトにおける経皮吸収 400
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 370
Effective Learning and Mental Wellbeing 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3974943
求助须知:如何正确求助?哪些是违规求助? 3519467
关于积分的说明 11198482
捐赠科研通 3255728
什么是DOI,文献DOI怎么找? 1797904
邀请新用户注册赠送积分活动 877261
科研通“疑难数据库(出版商)”最低求助积分说明 806224