Optimizing I/O Performance Through Effective vCPU Scheduling Interference Management

计算机科学 调度(生产过程) 云计算 效率低下 虚拟机 分布式计算 操作系统 工程类 运营管理 经济 微观经济学
作者
Wang Liang,Jinzhe Yang,Jidong Zhai,Guangwen Yang
出处
期刊:IEEE Transactions on Parallel and Distributed Systems [Institute of Electrical and Electronics Engineers]
卷期号:35 (12): 2315-2330
标识
DOI:10.1109/tpds.2023.3329298
摘要

Virtual machines (VMs) heavily rely on virtual CPUs (vCPUs) scheduling to achieve efficient I/O performance. The vCPU scheduling interference can cause inconsistent scheduling latency and degraded I/O performance, potentially compromising the services provided by affected VMs. Existing solutions have limitations, such as inefficiency in diagnosing interference issues or imposing undesired side effects on cloud systems. To address these challenges, we present Otter, a holistic technique for optimizing I/O performance in the presence of vCPU scheduling interference. Otter employs innovative methods to enhance interference diagnosis efficiency. First, we propose lightweight methods to measure the dynamic changes in scheduling latencies for co-running vCPUs, ensuring both flexibility and accuracy. Second, we propose fine-grained quantification methods to timely determine the interference, with low false positive and false negative rates. Third, we identify interference patterns that aid in analyzing the root causes of interference and preventing similar issues from recurring. Otter has been operational for one year in the production cloud at the National Supercomputing Center (Wuxi). It diagnoses and helps fix more than 470 vCPU scheduling interference-related issues, resulting in a 19.6% improvement in cloud service I/O performance with negligible overhead in production.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
一期一会发布了新的文献求助10
刚刚
shenkekeshen的应助被竹竹采纳,获得10
1秒前
1秒前
2秒前
ding的应助被CKK采纳,获得10
2秒前
shenkekeshen的应助被wyt采纳,获得10
2秒前
2秒前
3秒前
欢喜泥猴桃完成签到,获得积分10
3秒前
3秒前
lxy完成签到,获得积分10
4秒前
聪明海豚完成签到,获得积分10
5秒前
辛勤岱周发布了新的文献求助30
5秒前
zzyyqq发布了新的文献求助10
5秒前
55发布了新的文献求助10
5秒前
整齐的豆芽完成签到,获得积分10
6秒前
枫叶关注了科研通微信公众号
6秒前
jerry完成签到,获得积分10
7秒前
7秒前
轩小宁发布了新的文献求助10
7秒前
李富杰发布了新的文献求助10
8秒前
8秒前
8秒前
9秒前
玖颜发布了新的文献求助10
9秒前
六开心完成签到,获得积分10
9秒前
王佳雯完成签到,获得积分20
11秒前
淡定的飞阳完成签到 ,获得积分10
11秒前
grfzz完成签到,获得积分10
11秒前
siempre完成签到 ,获得积分10
11秒前
12秒前
隐形曼青的应助被Daisy采纳,获得10
12秒前
55完成签到,获得积分10
13秒前
从容的罡发布了新的文献求助10
13秒前
13秒前
nail发布了新的文献求助10
14秒前
Owen的应助被小晴天采纳,获得10
15秒前
15秒前
15秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8189076
求助须知:如何正确求助?哪些是违规求助? 9576547
关于积分的说明 21848548
捐赠科研通 7787113
什么是DOI,文献DOI怎么找? 3435476
关于科研通互助平台的介绍 2559732
邀请新用户注册赠送积分活动 2482428