标题 |
![]() 提供模型即服务的联合学习:联合训练和推理优化
相关领域
计算机科学
推论
接头(建筑物)
培训(气象学)
服务(商务)
人工智能
机器学习
工程类
业务
建筑工程
物理
气象学
营销
|
网址 | |
DOI | |
其它 |
摘要: 在提供机器学习模型即服务来处理用户的推理请求的同时,在线应用程序可以利用新收集的数据定期升级模型。联合学习 (FL) 有利于在分布式客户端之间训练模型,同时将数据保留在本地。然而,现有的工作忽视了在客户有限资源下模型训练和推理的共存。本文重点介绍模型训练和推理的联合优化,以最大限度地提高客户端的推理性能。这种优化面临几个挑战。第一个挑战是在客户端可能部分参与 FL 时描述客户端的推理性能。为了解决这一挑战,我们引入了一个新的模型年龄 (AoM) 概念来量化客户端模型新鲜度,在此基础上,我们使用 FL 的全局模型收敛误差作为推理性能的近似度量。第二个挑战是客户决策之间的紧密耦合,包括联邦学习的参与概率、模型下载概率和服务率。针对挑战,我们提出了一种在线问题近似,以降低问题复杂性并优化资源以平衡模型训练和推理的需求。实验结果表明,所提算法将平均推理准确率提高了 12%。 |
求助人 | |
下载 | 求助已完成,仅限求助人下载。 |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|