A Deduplication Algorithm Based on Data Similarity and Delta Encoding

重复数据消除 计算机科学 编码(内存) 相似性(几何) 数据挖掘 计算机数据存储 算法 数据库 人工智能 计算机硬件 图像(数学)
作者
Bowen Song,Limin Xiao,Guangjun Qin,Li Ruan,Shi-Da Qiu
出处
期刊:Communications in computer and information science 卷期号:: 245-253
标识
DOI:10.1007/978-981-10-3969-0_28
摘要

Satellite applications such as remote sensing application are overwhelmed with vast quantities of data. Nevertheless, the storage resources in the satellite are so limited that it should be used more efficient. The similarity between the remote sensing data is high, but the dissimilar parts of the data distribute irregularly. When using the traditional deduplication algorithm to split the file into chunks, a large amount of chunks are exactly similar but not the same, which results in the bad effect of data deduplication. We propose a deduplication algorithm based on data similarity and delta encoding to reduce the usage of storage resources. The data similarity analysis can find out the similar data. The delta encoding technology can reduce the usage of storage resources. Through experiments on remote sensing application data, we have achieved deduplication ratios up to 30:1, and analyzed how the chunksize affect the experiment results.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
njau2005完成签到,获得积分10
1秒前
大模型应助蝈蝈采纳,获得10
1秒前
3秒前
3秒前
3秒前
3秒前
小飞七应助清秀的如南采纳,获得10
3秒前
dashuaib发布了新的文献求助10
3秒前
李健应助不展采纳,获得10
4秒前
不要引力完成签到,获得积分10
5秒前
bkagyin应助Islet采纳,获得10
6秒前
6秒前
11完成签到,获得积分20
7秒前
小飞发布了新的文献求助10
7秒前
xiaolianwheat发布了新的文献求助10
7秒前
8秒前
英姑应助ZX801采纳,获得10
8秒前
8秒前
不要引力发布了新的文献求助10
8秒前
9秒前
9秒前
不再选择完成签到,获得积分10
9秒前
科目三应助钢笔采纳,获得10
9秒前
斯文败类应助轻狂采纳,获得10
10秒前
10秒前
自信又菡发布了新的文献求助20
10秒前
大个应助简单如容采纳,获得10
10秒前
11秒前
11秒前
11秒前
赘婿应助李一鹏采纳,获得30
11秒前
耿昭发布了新的文献求助10
11秒前
ccccccwq完成签到,获得积分10
11秒前
12秒前
Hygge发布了新的文献求助10
13秒前
赘婿应助xiaolianwheat采纳,获得10
13秒前
岳岳岳发布了新的文献求助10
13秒前
枸橼酸发布了新的文献求助10
14秒前
14秒前
高分求助中
Production Logging: Theoretical and Interpretive Elements 2700
Mechanistic Modeling of Gas-Liquid Two-Phase Flow in Pipes 2500
Kelsen’s Legacy: Legal Normativity, International Law and Democracy 1000
Handbook on Inequality and Social Capital 800
Conference Record, IAS Annual Meeting 1977 610
Interest Rate Modeling. Volume 3: Products and Risk Management 600
Interest Rate Modeling. Volume 2: Term Structure Models 600
热门求助领域 (近24小时)
化学 材料科学 生物 医学 工程类 有机化学 生物化学 物理 纳米技术 计算机科学 内科学 化学工程 复合材料 基因 遗传学 物理化学 催化作用 量子力学 光电子学 冶金
热门帖子
关注 科研通微信公众号,转发送积分 3546888
求助须知:如何正确求助?哪些是违规求助? 3123917
关于积分的说明 9357332
捐赠科研通 2822504
什么是DOI,文献DOI怎么找? 1551513
邀请新用户注册赠送积分活动 723546
科研通“疑难数据库(出版商)”最低求助积分说明 713791