Democratizing AI: Open-source Scalable LLM Training on GPU-based Supercomputers

计算机科学 可扩展性 开源 培训(气象学) 超级计算机 计算科学 计算机体系结构 并行计算 操作系统 软件 物理 气象学
作者
Siddharth Singh,Prajwal Singhania,Aditya Ranjan,John Kirchenbauer,Jonas Geiping,Yuxin Wen,Neel Jain,Abhimanyu Hans,Manli Shu,Aditya Tomar,Tom Goldstein,Abhinav Bhatelé
标识
DOI:10.1109/sc41406.2024.00010

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
M先生发布了新的文献求助10
刚刚
柳叶洋完成签到,获得积分10
刚刚
科研通AI5应助科研通管家采纳,获得10
1秒前
今后应助科研通管家采纳,获得10
1秒前
顾矜应助科研通管家采纳,获得10
2秒前
2秒前
科研通AI5应助科研通管家采纳,获得10
2秒前
顾矜应助科研通管家采纳,获得10
2秒前
情怀应助科研通管家采纳,获得10
2秒前
CodeCraft应助科研通管家采纳,获得10
2秒前
Jasper应助科研通管家采纳,获得10
2秒前
轻松新竹应助科研通管家采纳,获得10
2秒前
行走的绅士完成签到,获得积分10
3秒前
YOLK97完成签到,获得积分10
7秒前
7秒前
科研通AI2S应助CYY采纳,获得10
7秒前
所所应助润秋采纳,获得15
9秒前
仁者无惧发布了新的文献求助50
12秒前
13秒前
jiang完成签到,获得积分10
14秒前
16秒前
17秒前
怡然凝云发布了新的文献求助10
20秒前
科研通AI2S应助yy123采纳,获得10
21秒前
21秒前
gxpjzbg完成签到,获得积分10
22秒前
fun发布了新的文献求助10
23秒前
粽子完成签到,获得积分10
24秒前
FRL发布了新的文献求助10
26秒前
27秒前
Akim应助草莓声明采纳,获得20
31秒前
小肥仔发布了新的文献求助10
32秒前
天妒嘤才发布了新的文献求助10
33秒前
蛙鼠兔发布了新的文献求助10
34秒前
科研通AI5应助天妒嘤才采纳,获得30
37秒前
共享精神应助无算浮白采纳,获得10
41秒前
文献看不懂应助kdjm688采纳,获得10
42秒前
顺利的飞荷完成签到,获得积分0
43秒前
火星上的枕头完成签到 ,获得积分10
43秒前
44秒前
高分求助中
【此为提示信息,请勿应助】请按要求发布求助,避免被关 20000
ISCN 2024 – An International System for Human Cytogenomic Nomenclature (2024) 3000
Continuum Thermodynamics and Material Modelling 2000
Encyclopedia of Geology (2nd Edition) 2000
105th Edition CRC Handbook of Chemistry and Physics 1600
T/CAB 0344-2024 重组人源化胶原蛋白内毒素去除方法 1000
Maneuvering of a Damaged Navy Combatant 650
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 物理 生物化学 纳米技术 计算机科学 化学工程 内科学 复合材料 物理化学 电极 遗传学 量子力学 基因 冶金 催化作用
热门帖子
关注 科研通微信公众号,转发送积分 3775739
求助须知:如何正确求助?哪些是违规求助? 3321356
关于积分的说明 10205076
捐赠科研通 3036329
什么是DOI,文献DOI怎么找? 1666067
邀请新用户注册赠送积分活动 797278
科研通“疑难数据库(出版商)”最低求助积分说明 757783