已完结
  • 文献求助详情
标题
基于多维优化的多出口 DNN 推理加速,实现边缘智能
相关领域
计算机科学 推论 试验台 延迟(音频) 边缘设备 GSM演进的增强数据速率 加速度 分布式计算 最优化问题 人工智能 分拆(数论) 云计算 算法 计算机网络 电信 数学 组合数学 操作系统 物理 经典力学
网址
DOI
10.1109/TMC.2022.3172402 doi
其它 摘要:边缘智能作为加速 DNN 推理的前瞻性范式,主要通过模型分区实现,这不可避免地会产生 DNN 中间数据的巨大传输开销。一种流行的解决方案引入了多出口 DNN,通过启用提前退出来减少延迟。然而,现有的工作忽略了退出设置和协同推理之间的相关性,导致设备到边缘的不协调。针对这一问题,本文首先研究了边缘计算中执行多出口 DNN 的瓶颈,并构建了一种具有出口选择、模型分区和资源分配的推理加速新模型。为了解决棘手的耦合子问题,我们提出了一个基于 M 终极维 O ptimization (MAMO) 的 M 最终退出 DNN 推理 A 加速框架。在 MAMO 中,首先从原始问题中提取退出选择子问题。然后,采用双向动态规划来确定任意多出口 DNN 的最佳退出设置。最后,基于最优退出设置,开发基于 DRL 的策略来学习模型分区和资源分配的联合决策。我们将 MAMO 部署在真实世界的测试台上,并评估其在各种场景中的性能。大量实验表明,它可以适应异构任务和动态网络,并将 DNN 推理速度提高多达13.7×与最先进的相比。
求助人
奶昔 在 2025-01-09 23:37:23 发布自河南,悬赏 10 积分
下载 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。
 
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
该求助已完结,感谢关注
如需该文献,请重新发布求助,前往发布
学术共进,科研互通
请遵守相关知识产权规定,勿将文件分享给他人,仅可用于个人研究学习
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
布鲁爱思完成签到,获得积分10
刚刚
漂亮的人生完成签到,获得积分10
3秒前
6秒前
2213sss完成签到,获得积分10
8秒前
11秒前
12秒前
zho发布了新的文献求助10
16秒前
18秒前
19秒前
沸腾的大海完成签到,获得积分10
21秒前
23秒前
Gilana应助ixueyi采纳,获得10
23秒前
我是老大应助年轻的飞柏采纳,获得30
24秒前
25秒前
欣慰雪糕完成签到,获得积分10
25秒前
熊啊发布了新的文献求助10
26秒前
华仔应助小宋采纳,获得10
27秒前
刘亚茹发布了新的文献求助10
29秒前
欣慰雪糕发布了新的文献求助20
30秒前
开朗万天完成签到 ,获得积分10
31秒前
跳跳熊完成签到,获得积分10
31秒前
顾矜应助熊啊采纳,获得10
31秒前
33秒前
34秒前
归雁发布了新的文献求助30
35秒前
小枣发布了新的文献求助10
39秒前
身为风帆完成签到,获得积分10
39秒前
43秒前
化尾鱼完成签到,获得积分10
45秒前
46秒前
墨羽翔天完成签到,获得积分10
48秒前
49秒前
小宋发布了新的文献求助10
50秒前
50秒前
帅气的小鸭子完成签到,获得积分10
51秒前
CC发布了新的文献求助10
52秒前
傅英俊发布了新的文献求助10
52秒前
脑洞疼应助科研通管家采纳,获得10
55秒前
星辰大海应助科研通管家采纳,获得30
55秒前
CipherSage应助科研通管家采纳,获得10
55秒前
高分求助中
【此为提示信息,请勿应助】请按要求发布求助,避免被关 20000
Production Logging: Theoretical and Interpretive Elements 3000
CRC Handbook of Chemistry and Physics 104th edition 1000
Izeltabart tapatansine - AdisInsight 600
Introduction to Comparative Public Administration Administrative Systems and Reforms in Europe, Third Edition 3rd edition 500
Distinct Aggregation Behaviors and Rheological Responses of Two Terminally Functionalized Polyisoprenes with Different Quadruple Hydrogen Bonding Motifs 450
THE STRUCTURES OF 'SHR' AND 'YOU' IN MANDARIN CHINESE 320
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 物理 生物化学 纳米技术 计算机科学 化学工程 内科学 复合材料 物理化学 电极 遗传学 量子力学 基因 冶金 催化作用
热门帖子
关注 科研通微信公众号,转发送积分 3761818
求助须知:如何正确求助?哪些是违规求助? 3305596
关于积分的说明 10134822
捐赠科研通 3019634
什么是DOI,文献DOI怎么找? 1658239
邀请新用户注册赠送积分活动 792029
科研通“疑难数据库(出版商)”最低求助积分说明 754751