标题 |
用于实时视频分析的边缘高吞吐量协作推理
相关领域
计算机科学
吞吐量
分析
推论
GSM演进的增强数据速率
实时计算
计算机网络
数据挖掘
人工智能
电信
无线
|
网址 | |
DOI | |
其它 | 摘要:由于视频数据量巨大且 DNN 的计算密集型性质,在资源受限的移动设备上执行基于深度神经网络 (DNN) 的视频分析任务极具挑战性。一个有前途的解决方案是将任务卸载到边缘服务器执行。然而,由于终端设备数量的爆炸式增长,越来越多的移动设备连接到边缘服务器。这使得边缘服务器在面对并发计算请求时难以满足边缘视频分析的特定服务级别目标 (SLO),尤其是在实时场景中。为了解决这个问题,本文提出了 EHCI,这是一种用于实时视频分析的边缘高吞吐量协作推理框架。在移动设备上,EHCI 根据本地检测缓存从当前视频帧中裁剪关键区域,并将这些区域卸载到边缘服务器,这可以显著降低带宽消耗和计算成本。此外,考虑到来自多个移动设备的并发 DNN 推理请求,EHCI 使用关键区域修补方法在边缘服务器上实现高吞吐量 DNN 推理,并使用调度算法来满足每个移动设备的 SLO。经测试验证,EHCI 在实现的吞吐量方面比最先进的技术高出 159%,平均端到端延迟降低了 36%,并且应用精度牺牲在合理范围内。 |
求助人 | |
下载 | |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|