Model-Contrastive Federated Learning

计算机科学 联合学习 钥匙(锁) 相似性(几何) 人工智能 机器学习 深度学习 图像(数学) 计算机安全
作者
Qinbin Li,Bingsheng He,Dawn Song
出处
期刊: 被引量:628
标识
DOI:10.1109/cvpr46437.2021.01057
摘要

Federated learning enables multiple parties to collaboratively train a machine learning model without communicating their local data. A key challenge in federated learning is to handle the heterogeneity of local data distribution across parties. Although many studies have been proposed to address this challenge, we find that they fail to achieve high performance in image datasets with deep learning models. In this paper, we propose MOON: model-contrastive federated learning. MOON is a simple and effective federated learning framework. The key idea of MOON is to utilize the similarity between model representations to correct the local training of individual parties, i.e., conducting contrastive learning in model-level. Our extensive experiments show that MOON significantly outperforms the other state-of-the-art federated learning algorithms on various image classification tasks.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
wxf发布了新的文献求助10
刚刚
1秒前
1秒前
爆米花的应助被甜甜采纳,获得10
1秒前
LaK发布了新的文献求助10
1秒前
1秒前
俊逸的伟帮完成签到,获得积分10
2秒前
aa的应助被zhawenchang采纳,获得10
2秒前
2秒前
明理的从菡完成签到,获得积分10
2秒前
Heloise发布了新的文献求助10
2秒前
橙C美式完成签到,获得积分20
3秒前
3秒前
星辰大海的应助被内向易文采纳,获得10
4秒前
佳乐比不爱科研完成签到,获得积分10
4秒前
Hello的应助被yanyue采纳,获得10
4秒前
刘一硕完成签到,获得积分10
4秒前
斯文败类的应助被xth采纳,获得10
5秒前
小蘑菇的应助被科研通管家采纳,获得10
5秒前
小二郎的应助被科研通管家采纳,获得10
5秒前
兰战非完成签到 ,获得积分10
5秒前
5秒前
xj_yjl发布了新的文献求助10
5秒前
null的应助被科研通管家采纳,获得10
5秒前
加油完成签到,获得积分10
5秒前
5秒前
5秒前
顾矜的应助被科研通管家采纳,获得10
5秒前
充电宝的应助被科研通管家采纳,获得10
6秒前
6秒前
6秒前
hou的应助被科研通管家采纳,获得10
6秒前
缥缈的芹完成签到,获得积分10
6秒前
小龙发布了新的文献求助10
6秒前
学术雷锋的应助被科研通管家采纳,获得10
6秒前
李爱国的应助被科研通管家采纳,获得10
6秒前
7秒前
7秒前
顾矜的应助被Fanny采纳,获得10
7秒前
7秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
John McDowells Bildungstheorie 800
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Handbook of Pharmaceutical Excipients. 9th ed 400
Synthesis, Application and Future Perspectives of Smart Nano-materials - Part 1 400
Breaking the World 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8154217
求助须知:如何正确求助?哪些是违规求助? 9550722
关于积分的说明 21700876
捐赠科研通 7743358
什么是DOI,文献DOI怎么找? 3425651
关于科研通互助平台的介绍 2550897
邀请新用户注册赠送积分活动 2469372