Rethinking Federated Learning with Domain Shift: A Prototype View

计算机科学 概化理论 嵌入 一致性(知识库) 构造(python库) 领域(数学分析) 正规化(语言学) 理论计算机科学 人工智能 数学 计算机网络 数学分析 统计
作者
Wenke Huang,Mang Ye,Zekun Shi,Li He,Bo Du
标识
DOI:10.1109/cvpr52729.2023.01565
摘要

Federated learning shows a bright promise as a privacy-preserving collaborative learning technique. However, prevalent solutions mainly focus on all private data sampled from the same domain. An important challenge is that when distributed data are derived from diverse domains. The private model presents degenerative performance on other domains (with domain shift). Therefore, we expect that the global model optimized after the federated learning process stably provides generalizability performance on multiple domains. In this paper, we propose Federated Proto-types Learning (FPL) for federated learning under domain shift. The core idea is to construct cluster prototypes and unbiased prototypes, providing fruitful domain knowledge and a fair convergent target. On the one hand, we pull the sample embedding closer to cluster prototypes belonging to the same semantics than cluster prototypes from distinct classes. On the other hand, we introduce consistency regularization to align the local instance with the respective unbiased prototype. Empirical results on Digits and Office Caltech tasks demonstrate the effectiveness of the proposed solution and the efficiency of crucial modules.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
KeYang完成签到,获得积分10
刚刚
田様应助KAER采纳,获得10
2秒前
晓晨完成签到 ,获得积分10
2秒前
zhuzhu完成签到,获得积分10
2秒前
优雅小橘子完成签到 ,获得积分10
2秒前
小灰灰完成签到,获得积分10
2秒前
fhp完成签到,获得积分10
2秒前
金花猪饲养员完成签到,获得积分10
5秒前
xh-notes完成签到,获得积分10
5秒前
5秒前
Yziii应助hongw_liu采纳,获得10
5秒前
匆匆赶路人完成签到 ,获得积分10
6秒前
7秒前
wawaaaah完成签到 ,获得积分10
8秒前
晴天完成签到 ,获得积分10
8秒前
天真依玉完成签到,获得积分10
9秒前
diki完成签到,获得积分10
9秒前
siyuyu完成签到,获得积分10
9秒前
BlingBling完成签到,获得积分10
9秒前
刻苦的芜完成签到,获得积分10
10秒前
10秒前
板栗完成签到,获得积分10
10秒前
随性完成签到,获得积分10
10秒前
anyang完成签到,获得积分10
11秒前
爆米花应助科研通管家采纳,获得10
11秒前
小蘑菇应助科研通管家采纳,获得10
11秒前
11秒前
orixero应助科研通管家采纳,获得10
11秒前
科研通AI2S应助科研通管家采纳,获得10
11秒前
科研通AI2S应助科研通管家采纳,获得10
11秒前
Loooong应助科研通管家采纳,获得10
11秒前
领导范儿应助一塔湖图采纳,获得10
12秒前
laola发布了新的文献求助10
12秒前
郁金香完成签到,获得积分10
13秒前
75986686完成签到,获得积分10
13秒前
sb完成签到,获得积分10
13秒前
13秒前
牛顿的苹果完成签到,获得积分10
14秒前
学术蝗虫完成签到,获得积分10
14秒前
zhuboujs完成签到,获得积分10
16秒前
高分求助中
Sustainability in Tides Chemistry 2000
Microlepidoptera Palaearctica, Volumes 1 and 3 - 13 (12-Volume Set) [German] 1122
Дружба 友好报 (1957-1958) 1000
The Data Economy: Tools and Applications 1000
Mantiden - Faszinierende Lauerjäger – Buch gebraucht kaufen 700
PraxisRatgeber Mantiden., faszinierende Lauerjäger. – Buch gebraucht kaufe 700
A Dissection Guide & Atlas to the Rabbit 600
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3099877
求助须知:如何正确求助?哪些是违规求助? 2751333
关于积分的说明 7612942
捐赠科研通 2403282
什么是DOI,文献DOI怎么找? 1275217
科研通“疑难数据库(出版商)”最低求助积分说明 616310
版权声明 599053