Debiasing backdoor attack: A benign application of backdoor attack in eliminating data bias

后门 借记 计算机科学 计算机安全 过程(计算) 心理学 社会心理学 操作系统
作者
Shangxi Wu,Qing He,Yi Zhang,Dongyuan Lü,Jitao Sang
出处
期刊:Information Sciences [Elsevier]
卷期号:643: 119171-119171 被引量:1
标识
DOI:10.1016/j.ins.2023.119171
摘要

Backdoor attack which carries out a threat to model training has received increasing attention in recent years. Reviewing the previous research on adversarial attacks posing risk at the testing stage while at the same time facilitating the understanding of model predictions, we argue that the backdoor attack also has the potential to probe into the model learning process and help improve model performance. We started by attributing the phenomenon of Clean Accuracy Drop (CAD) in backdoor attack as the result of pseudo-deletion to the training data. Then an explanation from the perspective of model classification boundary is provided to explain this phenomenon that backdoor attack has advantages over undersampling in the data debiasing problem. Based on the above findings, we proposed Debiasing Backdoor Attack (DBA), employing backdoor attacks to address the data bias problem. Experiments demonstrate the effectiveness of backdoor attacks in debiasing tasks, with the envisioning of a broader range of benign application scenarios. Our code for the study can be found at https://github.com/KirinNg/DBA.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
粗心的含莲应助由由采纳,获得10
1秒前
李健应助yy超爱看文献采纳,获得10
1秒前
所所应助起起采纳,获得10
2秒前
李健应助初七采纳,获得10
3秒前
乐乐应助白昼采纳,获得10
3秒前
泓7发布了新的文献求助10
4秒前
芊瑶完成签到,获得积分10
4秒前
5秒前
田様应助bai采纳,获得10
6秒前
6秒前
8秒前
8秒前
Orange应助许七安采纳,获得10
9秒前
lmy完成签到 ,获得积分10
9秒前
9秒前
谦让若蕊完成签到,获得积分10
10秒前
10秒前
科研通AI2S应助稳重元菱采纳,获得10
11秒前
庄庄发布了新的文献求助10
11秒前
12秒前
yy超爱看文献完成签到,获得积分10
12秒前
Natalian发布了新的文献求助10
13秒前
一只熊发布了新的文献求助10
13秒前
13秒前
活泼的手机完成签到,获得积分10
13秒前
okko发布了新的文献求助10
14秒前
看见更大的世界完成签到 ,获得积分10
14秒前
芊瑶发布了新的文献求助10
14秒前
Sharyn227发布了新的文献求助10
16秒前
17秒前
今后应助xiaoyi采纳,获得10
18秒前
18秒前
19秒前
20秒前
20秒前
20秒前
潘爱玲发布了新的文献求助10
21秒前
23秒前
许七安发布了新的文献求助10
24秒前
24秒前
高分求助中
歯科矯正学 第7版(或第5版) 1004
Semiconductor Process Reliability in Practice 1000
Smart but Scattered: The Revolutionary Executive Skills Approach to Helping Kids Reach Their Potential (第二版) 1000
Nickel superalloy market size, share, growth, trends, and forecast 2023-2030 600
GROUP-THEORY AND POLARIZATION ALGEBRA 500
Mesopotamian divination texts : conversing with the gods : sources from the first millennium BCE 500
Days of Transition. The Parsi Death Rituals(2011) 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3234164
求助须知:如何正确求助?哪些是违规求助? 2880584
关于积分的说明 8216048
捐赠科研通 2548171
什么是DOI,文献DOI怎么找? 1377575
科研通“疑难数据库(出版商)”最低求助积分说明 647925
邀请新用户注册赠送积分活动 623302