HyGloadAttack: Hard-label black-box textual adversarial attacks via hybrid optimization

对抗制 计算机科学 初始化 推论 人工智能 嵌入 黑匣子 可微函数 机器学习 理论计算机科学 数学 数学分析 程序设计语言
作者
Zhaorong Liu,Xi Xiong,Yuanyuan Li,Yan Yu,J.-H Lu,Shuai Zhang,Fei Xiong
出处
期刊:Neural Networks [Elsevier]
卷期号:178: 106461-106461 被引量:16
标识
DOI:10.1016/j.neunet.2024.106461
摘要

Hard-label black-box textual adversarial attacks present a highly challenging task due to the discrete and non-differentiable nature of text data and the lack of direct access to the model's predictions. Research in this issue is still in its early stages, and the performance and efficiency of existing methods has potential for improvement. For instance, exchange-based and gradient-based attacks may become trapped in local optima and require excessive queries, hindering the generation of adversarial examples with high semantic similarity and low perturbation under limited query conditions. To address these issues, we propose a novel framework called HyGloadAttack (adversarial Attacks via Hybrid optimization and Global random initialization) for crafting high-quality adversarial examples. HyGloadAttack utilizes a perturbation matrix in the word embedding space to find nearby adversarial examples after global initialization and selects synonyms that maximize similarity while maintaining adversarial properties. Furthermore, we introduce a gradient-based quick search method to accelerate the search process of optimization. Extensive experiments on five datasets of text classification and natural language inference, as well as two real APIs, demonstrate the significant superiority of our proposed HyGloadAttack method over state-of-the-art baseline methods.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
小胖鱼发布了新的文献求助10
1秒前
dzdzn关注了科研通微信公众号
1秒前
共享精神应助Zhaorf采纳,获得10
2秒前
2秒前
2秒前
2秒前
3秒前
3秒前
peikyang发布了新的文献求助10
3秒前
藤原拓海完成签到,获得积分10
3秒前
π1完成签到 ,获得积分10
3秒前
zhangqi发布了新的文献求助10
3秒前
CCL应助wjj采纳,获得20
4秒前
4秒前
单于天宇完成签到,获得积分10
4秒前
4秒前
畅快的南风完成签到,获得积分10
5秒前
猪猪hero完成签到,获得积分10
5秒前
要减肥冰菱完成签到,获得积分10
5秒前
肖静茹完成签到,获得积分20
5秒前
情怀应助啾啾咪咪采纳,获得10
6秒前
奥里给完成签到 ,获得积分10
6秒前
DQ8733完成签到,获得积分10
6秒前
AAAAAAAAAAA发布了新的文献求助10
7秒前
7秒前
鱼与树发布了新的文献求助10
7秒前
sun完成签到,获得积分20
7秒前
lbw完成签到 ,获得积分10
8秒前
领导范儿应助朴素篮球采纳,获得10
8秒前
小刘不笨发布了新的文献求助10
8秒前
8秒前
大方的雪曼完成签到,获得积分10
8秒前
詭詐应助西洲采纳,获得10
8秒前
9秒前
zhangting发布了新的文献求助10
9秒前
玉9989完成签到,获得积分20
9秒前
大方小白发布了新的文献求助10
9秒前
xiaowang完成签到,获得积分10
9秒前
123完成签到,获得积分10
9秒前
轩辕德地发布了新的文献求助10
10秒前
高分求助中
Continuum Thermodynamics and Material Modelling 3000
Production Logging: Theoretical and Interpretive Elements 2700
Social media impact on athlete mental health: #RealityCheck 1020
Ensartinib (Ensacove) for Non-Small Cell Lung Cancer 1000
Unseen Mendieta: The Unpublished Works of Ana Mendieta 1000
Bacterial collagenases and their clinical applications 800
El viaje de una vida: Memorias de María Lecea 800
热门求助领域 (近24小时)
化学 材料科学 生物 医学 工程类 有机化学 生物化学 物理 纳米技术 计算机科学 内科学 化学工程 复合材料 基因 遗传学 物理化学 催化作用 量子力学 光电子学 冶金
热门帖子
关注 科研通微信公众号,转发送积分 3527469
求助须知:如何正确求助?哪些是违规求助? 3107497
关于积分的说明 9285892
捐赠科研通 2805298
什么是DOI,文献DOI怎么找? 1539865
邀请新用户注册赠送积分活动 716714
科研通“疑难数据库(出版商)”最低求助积分说明 709678