已完结
  • 文献求助详情
标题
基于多维优化的多出口 DNN 推理加速,实现边缘智能
相关领域
计算机科学 推论 试验台 延迟(音频) 边缘设备 GSM演进的增强数据速率 加速度 分布式计算 最优化问题 人工智能 分拆(数论) 云计算 算法 计算机网络 电信 数学 组合数学 操作系统 物理 经典力学
网址
DOI
10.1109/TMC.2022.3172402 doi
其它 摘要:边缘智能作为加速 DNN 推理的前瞻性范式,主要通过模型分区实现,这不可避免地会产生 DNN 中间数据的巨大传输开销。一种流行的解决方案引入了多出口 DNN,通过启用提前退出来减少延迟。然而,现有的工作忽略了退出设置和协同推理之间的相关性,导致设备到边缘的不协调。针对这一问题,本文首先研究了边缘计算中执行多出口 DNN 的瓶颈,并构建了一种具有出口选择、模型分区和资源分配的推理加速新模型。为了解决棘手的耦合子问题,我们提出了一个基于 M 终极维 O ptimization (MAMO) 的 M 最终退出 DNN 推理 A 加速框架。在 MAMO 中,首先从原始问题中提取退出选择子问题。然后,采用双向动态规划来确定任意多出口 DNN 的最佳退出设置。最后,基于最优退出设置,开发基于 DRL 的策略来学习模型分区和资源分配的联合决策。我们将 MAMO 部署在真实世界的测试台上,并评估其在各种场景中的性能。大量实验表明,它可以适应异构任务和动态网络,并将 DNN 推理速度提高多达13.7×与最先进的相比。
求助人
奶昔 在 2025-01-09 23:37:23 发布自河南,悬赏 10 积分
下载 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。
 
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
该求助已完结,感谢关注
如需该文献,请重新发布求助,前往发布
科研通的所有服务均免费,并承诺对个人用户永久免费!
请遵守相关知识产权规定,勿将文件分享给他人,仅可用于个人研究学习
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
柴郡喵完成签到,获得积分10
1秒前
JonyQ完成签到,获得积分10
2秒前
清蒸鱼吖发布了新的文献求助30
2秒前
鹏笑发布了新的文献求助10
3秒前
默默的树叶完成签到,获得积分10
3秒前
11发布了新的文献求助10
3秒前
香蕉觅云应助十三采纳,获得10
4秒前
right完成签到 ,获得积分10
4秒前
李栗粒粒发布了新的文献求助10
4秒前
feng发布了新的文献求助10
4秒前
乐乐应助毛毛采纳,获得10
5秒前
5秒前
ZH完成签到 ,获得积分10
5秒前
6秒前
6秒前
6秒前
6秒前
斯文败类应助小四喜采纳,获得10
7秒前
迟大猫应助子云采纳,获得10
8秒前
小郝已读博完成签到 ,获得积分10
8秒前
完美世界应助砍柴人采纳,获得30
8秒前
speed发布了新的文献求助10
9秒前
这么年轻压根睡不着完成签到 ,获得积分10
9秒前
10秒前
852应助李栗粒粒采纳,获得10
11秒前
cc发布了新的文献求助10
11秒前
11秒前
chenren发布了新的文献求助10
12秒前
li发布了新的文献求助10
13秒前
Orange应助小远远采纳,获得10
13秒前
qqqq完成签到,获得积分10
15秒前
英姑应助子云采纳,获得10
15秒前
汀上白沙完成签到,获得积分10
15秒前
17秒前
小鱼完成签到,获得积分10
18秒前
wyj0815发布了新的文献求助10
19秒前
20秒前
李栗粒粒完成签到,获得积分10
20秒前
Shadow完成签到 ,获得积分10
21秒前
传奇3应助夏目的一本烂账采纳,获得10
22秒前
高分求助中
Production Logging: Theoretical and Interpretive Elements 2700
Neuromuscular and Electrodiagnostic Medicine Board Review 1000
こんなに痛いのにどうして「なんでもない」と医者にいわれてしまうのでしょうか 510
The First Nuclear Era: The Life and Times of a Technological Fixer 500
Unusual formation of 4-diazo-3-nitriminopyrazoles upon acid nitration of pyrazolo[3,4-d][1,2,3]triazoles 500
岡本唐貴自伝的回想画集 500
Distinct Aggregation Behaviors and Rheological Responses of Two Terminally Functionalized Polyisoprenes with Different Quadruple Hydrogen Bonding Motifs 450
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 物理 生物化学 纳米技术 计算机科学 化学工程 内科学 复合材料 物理化学 电极 遗传学 量子力学 基因 冶金 催化作用
热门帖子
关注 科研通微信公众号,转发送积分 3671625
求助须知:如何正确求助?哪些是违规求助? 3228325
关于积分的说明 9779625
捐赠科研通 2938636
什么是DOI,文献DOI怎么找? 1610180
邀请新用户注册赠送积分活动 760547
科研通“疑难数据库(出版商)”最低求助积分说明 736093