Reinforcement Learning Based Black-Box Adversarial Attack for Robustness Improvement

强化学习 计算机科学 对抗制 稳健性(进化) 人工智能 机器学习 均方误差 模式识别(心理学) 数学 生物化学 基因 统计 化学
作者
Soumyendu Sarkar,Ashwin Ramesh Babu,Sajad Mousavi,Sahand Ghorbanpour,Vineet Gundecha,Ricardo Luna Gutiérrez,Antonio Guillén,Avisek Naug
标识
DOI:10.1109/case56687.2023.10260607
摘要

We propose a Reinforcement Learning (RL) based adversarial Black-box attack (RLAB) that aims at adding minimum distortion to the input iteratively to deceive image classification models. The RL agent learns to identify highly sensitive regions in the input's feature space to add distortions to induce misclassification with minimum steps and L2 norm. The agent also selectively removes noises introduced at earlier steps in the iteration, which has less impact on the model at a given state. This novel dual-action method is equivalent to doing a deep tree search to add noises without an exhaustive search, leading to the faster generation of an optimum adversarial sample. This black-box method focuses on naturally occurring distortion to effectively measure the robustness of models, a key element of trustworthiness. The proposed method beats existing heuristic based state-of-the-art black-box adversarial attacks on metrics such as the number of queries, L2 norm, and success rate on ImageNet and CIFAR-10 datasets. For the ImageNet dataset, the average number of queries achieved by the proposed method for ResNet-50, Inception-V3, and VGG-16 models are 42%, 32%, and 31 % better than the popular "Square Attack". Furthermore, retraining the model with adversarial samples significantly improved robustness when evaluated on benchmark datasets such as CIFAR-10-C with the metrics of adversarial error and mean corruption error (mCE). Demo: https://tinyurl.com/yr8f7x9t
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
地德兴完成签到 ,获得积分10
刚刚
1秒前
339564965完成签到,获得积分10
2秒前
安静严青完成签到 ,获得积分10
2秒前
3秒前
柏林寒冬应助完犊子采纳,获得10
4秒前
ccc完成签到,获得积分10
4秒前
TianFuAI完成签到,获得积分10
5秒前
chee完成签到,获得积分10
6秒前
研友_ZA2B68完成签到,获得积分0
6秒前
inu1255完成签到,获得积分0
6秒前
只想顺利毕业的科研狗完成签到,获得积分10
7秒前
普鲁卡因发布了新的文献求助10
8秒前
Helios完成签到,获得积分10
9秒前
xueshidaheng完成签到,获得积分0
9秒前
BK_201完成签到,获得积分10
9秒前
风信子完成签到,获得积分10
10秒前
abiorz完成签到,获得积分0
10秒前
窗外是蔚蓝色完成签到,获得积分0
11秒前
nanostu完成签到,获得积分10
13秒前
吐司炸弹完成签到,获得积分10
13秒前
mayfly完成签到,获得积分10
14秒前
Brief完成签到,获得积分10
14秒前
大模型应助科研通管家采纳,获得10
15秒前
小二郎应助科研通管家采纳,获得10
15秒前
15秒前
科研通AI2S应助科研通管家采纳,获得10
15秒前
Amikacin完成签到,获得积分10
15秒前
鹏举瞰冷雨完成签到,获得积分10
15秒前
整齐的惮完成签到 ,获得积分10
16秒前
1122完成签到 ,获得积分10
16秒前
情怀应助Cheung2121采纳,获得30
18秒前
完犊子完成签到,获得积分20
18秒前
神秘玩家完成签到 ,获得积分10
19秒前
heher完成签到 ,获得积分10
23秒前
那些兔儿完成签到 ,获得积分0
26秒前
量子星尘发布了新的文献求助10
27秒前
30秒前
昵称666发布了新的文献求助20
32秒前
37秒前
高分求助中
【提示信息,请勿应助】关于scihub 10000
Les Mantodea de Guyane: Insecta, Polyneoptera [The Mantids of French Guiana] 3000
徐淮辽南地区新元古代叠层石及生物地层 3000
The Mother of All Tableaux: Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 3000
Handbook of Industrial Diamonds.Vol2 1100
Global Eyelash Assessment scale (GEA) 1000
Picture Books with Same-sex Parented Families: Unintentional Censorship 550
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4038112
求助须知:如何正确求助?哪些是违规求助? 3575788
关于积分的说明 11373801
捐赠科研通 3305604
什么是DOI,文献DOI怎么找? 1819255
邀请新用户注册赠送积分活动 892655
科研通“疑难数据库(出版商)”最低求助积分说明 815022