标题 |
POSTER: LLM-PQ:Serving LLM on Heterogeneous Clusters with Phase-Aware Partition and Adaptive Quantization
海报:LLM-PQ:通过相位感知分区和自适应量化在异构集群上服务LLM
相关领域
分拆(数论)
计算机科学
推论
量化(信号处理)
星团(航天器)
并行计算
分布式计算
人工智能
算法
计算机网络
数学
组合数学
|
网址 | |
DOI | |
其它 |
期刊: 作者:Juntao Zhao; Borui Wan; Chuan Wu; Yanghua Peng; Haibin Lin 出版日期:2024-02-20 |
求助人 | |
下载 | |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|
NoahZhaodwqd 求助人 Lv1 关闭了本次求助。
说明 没人啊【积分已退回】
科研通AI2.0 机器人 未找到该文献,机器人已退出,请等待人工下载
16:04:31 未找到该文献,机器人已退出,请等待人工下载16:04:29 科研通AI机器人(新加坡)收到请求,开始寻找文献16:04:29 已向机器人发送请求
NoahZhaodwqd 求助人 Lv1 发起了本次求助