CacheGen: KV Cache Compression and Streaming for Fast Large Language Model Serving

已完结

文献求助详情

标题	CacheGen: KV Cache Compression and Streaming for Fast Large Language Model Serving CacheGen：用于快速大型语言模型服务的KV缓存压缩和流式传输相关领域计算机科学隐藏物压缩（物理）并行计算材料科学复合材料
网址	https://doi.org/10.1145/3651890.3672274
DOI	10.1145/3651890.3672274 doi
其它	期刊：作者：Yuhan Liu; Hanchen Li; Yihua Cheng; Siddhant Ray; Yuyang Huang; et al 出版日期：2024-07-31
求助人	ljw 在 2024-11-21 22:00:51 发布自上海，悬赏 10 积分
下载	该求助完结已超 24 小时，文件已从服务器自动删除，无法下载。
	温馨提示：该文献已被科研通学术中心收录，前往查看科研通『学术中心』是文献索引库，收集文献的基本信息（如标题、摘要、期刊、作者、被引量等），不提供下载功能。如需下载文献全文，请通过文献求助获取。

上个求助

下个求助

该求助已完结，感谢关注

如需该文献，请重新发布求助，前往发布

科研通，破除各种障碍，优化资源分配，让科研信息充分流通

请遵守相关知识产权规定，勿将文件分享给他人，仅可用于个人研究学习

我的文献求助列表浏览历史

一分钟了解求助规则 | 捐赠本站 | 历史今天

更新

2024年影响因子查询已上线 (2024-6-20)

更新

大幅提高文件上传限制，最高150M (2024-4-1)

科研通是完全免费的文献互助平台，具备全网最快的应助速度，最高的求助完成率。对每一个文献求助，科研通都将尽心尽力，给求助人一个满意的交代。

实时播报: yaya完成签到，获得积分10

1秒前; 二零二六完成签到，获得积分10

2秒前; Owen的应助被我要去看星星采纳，获得10

2秒前; 科研通AI2.0上传了应助文件

2秒前; 科研通AI2.0上传了应助文件

3秒前; 顺利念云完成签到，获得积分10

3秒前; Ava的应助被dd采纳，获得10

3秒前; BAOZI完成签到，获得积分10

4秒前; 爱撒娇的孤丹发布了新的文献求助10

4秒前; 挺帅一男的完成签到，获得积分10

7秒前; 星辰大海的应助被迦太基采纳，获得10

8秒前; jackten完成签到，获得积分10

8秒前; 科研通AI2S的应助被wyl采纳，获得10

9秒前; 完美世界上传了应助文件

9秒前; 薰硝壤的应助被稳重向南采纳，获得10

9秒前; WWW完成签到，获得积分10

10秒前; 薰硝壤上传了应助文件

11秒前; 自由的锦程发布了新的文献求助10

12秒前; Wei完成签到，获得积分10

13秒前; Yan发布了新的文献求助10

14秒前; 所所上传了应助文件

15秒前; 类人幼崽发布了新的文献求助10

16秒前; 小蘑菇上传了应助文件

17秒前; 小周完成签到，获得积分20

17秒前; kay完成签到，获得积分10

20秒前; 小周发布了新的文献求助10

20秒前; 深情安青的应助被boxi采纳，获得10

20秒前; 烟花的应助被WWW采纳，获得10

21秒前; 萧水白的应助被稳重向南采纳，获得10

22秒前; 科研通AI2S上传了应助文件

22秒前; 生姜发布了新的文献求助10

22秒前; 大个上传了应助文件

23秒前; tangyong完成签到，获得积分10

24秒前; 慕青上传了应助文件

24秒前; 今后的应助被小周采纳，获得10

25秒前; 张顺顺发布了新的文献求助10

25秒前; NexusExplorer上传了应助文件

27秒前; 山南水北发布了新的文献求助10

27秒前; 慕杨完成签到，获得积分10

27秒前; 萧水白上传了应助文件

27秒前