标题 |
IoVT 网络中基于学习的边缘设备协作 DNN 推理
相关领域
计算机科学
推论
GSM演进的增强数据速率
边缘设备
人工智能
机器学习
计算机网络
操作系统
云计算
|
网址 | |
DOI | |
其它 | 摘要:深度神经网络 (DNN) 是一种很有前途的技术,适用于视觉物联网 (IoVT) 设备,用于从非结构化数据中提取其视觉信息。但是,很难在资源受限的 IoVT 设备上部署完整的 DNN 模型来满足其延迟、能量和推理准确性需求。利用 IoVT 设备和移动边缘计算 (MEC) 服务器的可访问和可用计算资源,我们提出了一个边缘设备协作 DNN 推理框架,使资源受限的 IoVT 设备能够执行基于 DNN 的推理。特别是,DNN 模型分区将 DNN 模型分为两部分,分别部署在 IoVT 设备和多路接入 MEC 服务器上,以便协同执行推理。采用 DNN 提前退出和计算资源分配,在保证推理准确性的同时加速 DNN 推理。此外,还设计了一个衡量平均延迟和准确性 (IPLA) 推理性能的指标。联合多用户 DNN 分区、早期退出点选择和计算资源分配经过优化,可最大限度地提高推理延迟和准确性的权衡性能。我们将优化后的问题建模为马尔可夫决策过程,并提出了一种基于深度确定性策略梯度的边缘设备协同 DNN 推理算法,以解决巨大状态空间和高维连续动作的问题。在 CIFAR-10 数据集上使用 Alexnet 模型进行实验,在 ImageNet 数据集上使用 Resnet-50 模型进行实验。仿真结果验证了所提算法在保证推理准确性的同时,加快了 IoVT 设备的整体推理执行速度。 |
求助人 | |
下载 | 求助已完成,仅限求助人下载。 |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|