已完结
  • 文献求助详情
标题
使用移动边缘计算的 DNN 实时协作推理加速
相关领域
计算机科学 推论 延迟(音频) 分布式计算 分拆(数论) GSM演进的增强数据速率 边缘设备 云计算 移动设备 背景(考古学) 近似推理 人工智能 电信 古生物学 数学 组合数学 生物 操作系统
网址
DOI
10.1109/IJCNN55064.2022.9892582 doi
其它 摘要:
协作推理方法将深度神经网络 (DNN) 模型分为两部分。它在终端设备和云服务器上协同运行,以最大限度地减少推理延迟并保护数据隐私,尤其是在 5G 时代。DNN 模型分区的方案取决于网络带宽大小。然而,在动态移动网络的上下文中,资源受限的设备无法有效地执行复杂的模型分区算法来实时获得最佳分区。在本文中,为了克服这一挑战,我们首先将模型分区问题表述为最小切割问题,以寻求最优分区。其次,我们提出了一种基于 CIC 的基于模型压缩的协作推理方法。CIC 通过降低算法的复杂性,提高了模型分区算法在资源受限的终端设备上执行的效率。CIC 根据 DNN 模型和平台资源的固有特征生成切分模型。拆分模型独立于网络环境,离线生成,并在当前环境中持续使用。CIC 具有出色的可压缩性,即使是具有数百层的 DNN 模型也可以在资源受限的设备上快速分区。实验结果表明,我们的方法明显比现有解决方案更有效,将模型分区决策时间加快了 100 倍,将推理延迟降低了 2.6 倍,在最佳情况下将吞吐量提高了 3.3 倍。
求助人
奶昔 在 2025-01-14 16:57:06 发布自河南,悬赏 10 积分
下载 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。
 
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
该求助已完结,感谢关注
如需该文献,请重新发布求助,前往发布
科研通,破除各种障碍,优化资源分配,让科研信息充分流通
请遵守相关知识产权规定,勿将文件分享给他人,仅可用于个人研究学习
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
2秒前
3秒前
射天狼完成签到,获得积分10
5秒前
南亭完成签到,获得积分10
7秒前
欣喜的薯片完成签到 ,获得积分10
8秒前
why完成签到,获得积分10
8秒前
hyhy完成签到,获得积分10
8秒前
科研通AI5应助li采纳,获得10
10秒前
11秒前
在一发布了新的文献求助30
12秒前
manfullmoon完成签到,获得积分10
12秒前
今后应助舒心的棒棒糖采纳,获得10
13秒前
thadzhou完成签到,获得积分10
13秒前
机智幻嫣应助段段小无敌采纳,获得10
13秒前
滴滴嘟完成签到,获得积分10
14秒前
limit应助cdgbdfbsfdvsd采纳,获得10
14秒前
852应助嘻嘻哈哈采纳,获得10
15秒前
Kai完成签到 ,获得积分10
15秒前
妥协完成签到 ,获得积分10
15秒前
Simpson完成签到 ,获得积分10
16秒前
九五式自动步枪完成签到 ,获得积分10
16秒前
xiaowu完成签到,获得积分20
19秒前
腼腆的修杰完成签到,获得积分10
20秒前
21秒前
上善若水完成签到 ,获得积分10
21秒前
why发布了新的文献求助10
22秒前
li完成签到,获得积分10
22秒前
23秒前
长颈鹿关注了科研通微信公众号
24秒前
jiabu完成签到,获得积分10
25秒前
25秒前
健壮不斜完成签到 ,获得积分10
26秒前
鹏笑发布了新的文献求助10
27秒前
27秒前
Good39发布了新的文献求助10
27秒前
一颗西柚完成签到 ,获得积分10
28秒前
moroa完成签到,获得积分10
29秒前
29秒前
橙汁完成签到,获得积分10
30秒前
30秒前
高分求助中
Production Logging: Theoretical and Interpretive Elements 2700
Neuromuscular and Electrodiagnostic Medicine Board Review 1000
こんなに痛いのにどうして「なんでもない」と医者にいわれてしまうのでしょうか 510
The First Nuclear Era: The Life and Times of a Technological Fixer 500
Unusual formation of 4-diazo-3-nitriminopyrazoles upon acid nitration of pyrazolo[3,4-d][1,2,3]triazoles 500
岡本唐貴自伝的回想画集 500
Distinct Aggregation Behaviors and Rheological Responses of Two Terminally Functionalized Polyisoprenes with Different Quadruple Hydrogen Bonding Motifs 450
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 物理 生物化学 纳米技术 计算机科学 化学工程 内科学 复合材料 物理化学 电极 遗传学 量子力学 基因 冶金 催化作用
热门帖子
关注 科研通微信公众号,转发送积分 3671635
求助须知:如何正确求助?哪些是违规求助? 3228335
关于积分的说明 9779690
捐赠科研通 2938645
什么是DOI,文献DOI怎么找? 1610206
邀请新用户注册赠送积分活动 760547
科研通“疑难数据库(出版商)”最低求助积分说明 736093