Debiasing backdoor attack: A benign application of backdoor attack in eliminating data bias

后门 借记 计算机科学 计算机安全 过程(计算) 心理学 社会心理学 操作系统
作者
Shangxi Wu,Qing He,Yi Zhang,Dongyuan Lü,Jitao Sang
出处
期刊:Information Sciences [Elsevier]
卷期号:643: 119171-119171 被引量:1
标识
DOI:10.1016/j.ins.2023.119171
摘要

Backdoor attack which carries out a threat to model training has received increasing attention in recent years. Reviewing the previous research on adversarial attacks posing risk at the testing stage while at the same time facilitating the understanding of model predictions, we argue that the backdoor attack also has the potential to probe into the model learning process and help improve model performance. We started by attributing the phenomenon of Clean Accuracy Drop (CAD) in backdoor attack as the result of pseudo-deletion to the training data. Then an explanation from the perspective of model classification boundary is provided to explain this phenomenon that backdoor attack has advantages over undersampling in the data debiasing problem. Based on the above findings, we proposed Debiasing Backdoor Attack (DBA), employing backdoor attacks to address the data bias problem. Experiments demonstrate the effectiveness of backdoor attacks in debiasing tasks, with the envisioning of a broader range of benign application scenarios. Our code for the study can be found at https://github.com/KirinNg/DBA.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
畅畅发布了新的文献求助10
刚刚
啦啦啦关注了科研通微信公众号
刚刚
刚刚
Nightfall发布了新的文献求助10
1秒前
1秒前
yusong发布了新的文献求助10
1秒前
海孩子发布了新的文献求助10
2秒前
星辰大海应助珊珊采纳,获得10
2秒前
Sandy发布了新的文献求助10
2秒前
右旋王小二完成签到,获得积分10
2秒前
你好不好发布了新的文献求助10
2秒前
qw关注了科研通微信公众号
3秒前
3秒前
3秒前
3秒前
Tong完成签到,获得积分10
3秒前
科研通AI5应助三木足球采纳,获得10
3秒前
4秒前
科目三应助lemon采纳,获得10
4秒前
滴滴完成签到 ,获得积分10
5秒前
彭于彦祖应助sirhai采纳,获得30
5秒前
5秒前
tangtang发布了新的文献求助10
6秒前
6秒前
俞晓完成签到 ,获得积分10
6秒前
6秒前
斯文雁易发布了新的文献求助10
7秒前
alverine发布了新的文献求助10
8秒前
欢呼诗柳发布了新的文献求助10
9秒前
ssc完成签到,获得积分10
9秒前
wwj发布了新的文献求助10
9秒前
Sandy完成签到,获得积分10
10秒前
酷波er应助zr想发SCI采纳,获得30
11秒前
温暖小松鼠完成签到 ,获得积分10
13秒前
旭旭完成签到 ,获得积分10
13秒前
liu完成签到 ,获得积分10
13秒前
yusong完成签到,获得积分10
13秒前
ll完成签到 ,获得积分10
14秒前
畅快的明杰完成签到,获得积分10
15秒前
糊糊发布了新的文献求助10
15秒前
高分求助中
Production Logging: Theoretical and Interpretive Elements 2700
Mechanistic Modeling of Gas-Liquid Two-Phase Flow in Pipes 2500
Kelsen’s Legacy: Legal Normativity, International Law and Democracy 1000
Handbook on Inequality and Social Capital 800
Conference Record, IAS Annual Meeting 1977 610
Interest Rate Modeling. Volume 3: Products and Risk Management 600
Interest Rate Modeling. Volume 2: Term Structure Models 600
热门求助领域 (近24小时)
化学 材料科学 生物 医学 工程类 有机化学 生物化学 物理 纳米技术 计算机科学 内科学 化学工程 复合材料 基因 遗传学 物理化学 催化作用 量子力学 光电子学 冶金
热门帖子
关注 科研通微信公众号,转发送积分 3546676
求助须知:如何正确求助?哪些是违规求助? 3123726
关于积分的说明 9356475
捐赠科研通 2822353
什么是DOI,文献DOI怎么找? 1551369
邀请新用户注册赠送积分活动 723332
科研通“疑难数据库(出版商)”最低求助积分说明 713721