Optimizing Federated Edge Learning on Non-IID Data via Neural Architecture Search

计算机科学 边缘设备 利用 GSM演进的增强数据速率 架空(工程) 启发式 人工神经网络 过程(计算) 边缘计算 人工智能 联合学习 机器学习 方案(数学) 建筑 分布式计算 数据挖掘 视觉艺术 艺术 数学分析 数学 操作系统 云计算 计算机安全
作者
Feifei Zhang,Jidong Ge,Chifong Wong,Sheng Zhang,Chuanyi Li,Bin Luo
标识
DOI:10.1109/globecom46510.2021.9685909
摘要

To exploit the vast amount of distributed data across edge devices, Federated Learning (FL) has been proposed to learn a shared model by performing distributed training locally on participating devices and aggregating the local models into a global one. The existing FL algorithms suffer from accuracy loss due to that data samples across all devices are usually not independent and identically distributed (non-i.i.d.). Besides, devices might lose connection during the training process in wireless edge computing. Thus, we advocate one-shot Neural Architecture Search technique as a basis to propose a solution which can deal with non-i.i.d. problem and is robust to the intermittent connection issue. We adopt a large network as the global model which includes all the candidate network architectures. The non-i.i.d. problem is alleviated by two steps: (1) identify and train the candidate networks which are potentially high performance and trained with less bias using a heuristic sampling scheme; (2) search for the final model with the highest accuracy rate from the candidate networks. Experimental results show that the model trained by our proposed method is robust to non-i.i.d. problem and can achieve 84% reduced communication overhead compared with the baselines.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
科研通AI2S应助Mia采纳,获得30
刚刚
zhangxueqing完成签到,获得积分10
1秒前
Yilion完成签到,获得积分10
1秒前
奎尼丁发布了新的文献求助10
4秒前
4秒前
默默发布了新的文献求助10
5秒前
5秒前
ZDZ发布了新的文献求助10
5秒前
yaocx完成签到,获得积分10
6秒前
6秒前
7秒前
Denmark发布了新的文献求助30
7秒前
WW完成签到,获得积分10
8秒前
zt发布了新的文献求助10
10秒前
huihuiwang发布了新的文献求助10
11秒前
11秒前
Aurora发布了新的文献求助10
11秒前
111发布了新的文献求助10
11秒前
D1fficulty完成签到,获得积分10
11秒前
12秒前
嵇晓旋完成签到 ,获得积分10
13秒前
快乐小兰完成签到 ,获得积分10
13秒前
14秒前
16秒前
Zong完成签到,获得积分10
17秒前
刘刘发布了新的文献求助50
17秒前
紫色蒙面侠应助pizi采纳,获得10
18秒前
清秀成威应助123采纳,获得10
19秒前
pufanlg发布了新的文献求助10
19秒前
sunshine发布了新的文献求助20
20秒前
20秒前
李爱国应助123465采纳,获得10
21秒前
傲娇的芝麻完成签到,获得积分10
22秒前
月下天成发布了新的文献求助10
24秒前
大模型应助muncy采纳,获得10
25秒前
少女徐必成完成签到 ,获得积分10
26秒前
领导范儿应助ncjdoi采纳,获得10
27秒前
Q17完成签到 ,获得积分10
28秒前
Ava应助blUe采纳,获得10
28秒前
jasmine完成签到,获得积分10
29秒前
高分求助中
Evolution 10000
Sustainability in Tides Chemistry 2800
юрские динозавры восточного забайкалья 800
English Wealden Fossils 700
A new species of Coccus (Homoptera: Coccoidea) from Malawi 500
A new species of Velataspis (Hemiptera Coccoidea Diaspididae) from tea in Assam 500
Diagnostic immunohistochemistry : theranostic and genomic applications 6th Edition 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3155953
求助须知:如何正确求助?哪些是违规求助? 2807296
关于积分的说明 7872331
捐赠科研通 2465597
什么是DOI,文献DOI怎么找? 1312272
科研通“疑难数据库(出版商)”最低求助积分说明 630017
版权声明 601905