Revisiting model fairness via adversarial examples

对抗制 计算机科学 歪斜 稳健性(进化) 数学优化 约束(计算机辅助设计) 人工智能 理论计算机科学 数学 电信 生物化学 化学 基因 几何学
作者
Tao Zhang,Tianqing Zhu,Jing Li,Wanlei Zhou,Philip S. Yu
出处
期刊:Knowledge Based Systems [Elsevier BV]
卷期号:277: 110777-110777 被引量:3
标识
DOI:10.1016/j.knosys.2023.110777
摘要

Existing research literally evaluates model fairness over limited observed data. In practice, however, factors such as maliciously crafted examples and naturally corrupted examples often appear in real-world data collection. This severely limits the reliability of bias removal methods, inhibits fairness improvement in long-term learning systems, and probes to study accuracy-related robustness. Therefore, we ask: How adversarial examples will skew model fairness? In this paper, we investigate the vulnerability of individual fairness and group fairness to adversarial attacks. We further propose a general adversarial fairness attack framework capable of twisting model bias through a small subset of adversarial examples. We formulate this problem as an optimization problem: maximizing the model bias with the constraint of the number of adversarial examples and the perturbation scale. Our approach finds the most vulnerable examples to model fairness based on the estimated distance from examples to the decision boundary and demographic information. The experimental results 1 show that model fairness is easily skewed by a small number of adversarial examples.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
qinyi发布了新的文献求助10
1秒前
脆啵啵马克宝完成签到,获得积分10
1秒前
1秒前
英俊的铭应助小谢不谢采纳,获得10
2秒前
俞安珊完成签到,获得积分10
2秒前
口外彭于晏完成签到,获得积分10
2秒前
lian发布了新的文献求助10
2秒前
小二郎应助宿舍放孔明灯采纳,获得10
3秒前
很多奶油发布了新的文献求助10
4秒前
pluto应助刘刘采纳,获得10
5秒前
5秒前
逸之狐应助美好眼神采纳,获得20
5秒前
海的呼唤发布了新的文献求助20
5秒前
搞科研的静静完成签到,获得积分10
6秒前
123完成签到,获得积分10
6秒前
漂亮的倒挂金钩完成签到,获得积分10
6秒前
lizz发布了新的文献求助10
7秒前
cza发布了新的文献求助10
7秒前
7秒前
8秒前
8秒前
8秒前
9秒前
开心祯祯完成签到,获得积分10
9秒前
科研通AI2S应助清爽熊猫采纳,获得10
9秒前
11秒前
优雅聋五发布了新的文献求助10
11秒前
盛夏完成签到,获得积分10
12秒前
wangshibing发布了新的文献求助10
12秒前
阿乐发布了新的文献求助10
12秒前
12秒前
12秒前
这次会赢吗完成签到,获得积分10
12秒前
pxc完成签到,获得积分10
13秒前
cza完成签到,获得积分10
13秒前
13秒前
123发布了新的文献求助10
14秒前
量子星尘发布了新的文献求助10
14秒前
君临梅阿查完成签到,获得积分10
14秒前
16秒前
高分求助中
The Mother of All Tableaux Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 2400
Ophthalmic Equipment Market by Devices(surgical: vitreorentinal,IOLs,OVDs,contact lens,RGP lens,backflush,diagnostic&monitoring:OCT,actorefractor,keratometer,tonometer,ophthalmoscpe,OVD), End User,Buying Criteria-Global Forecast to2029 2000
Optimal Transport: A Comprehensive Introduction to Modeling, Analysis, Simulation, Applications 800
Official Methods of Analysis of AOAC INTERNATIONAL 600
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 588
A new approach to the extrapolation of accelerated life test data 500
T/CIET 1202-2025 可吸收再生氧化纤维素止血材料 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3954162
求助须知:如何正确求助?哪些是违规求助? 3500212
关于积分的说明 11098471
捐赠科研通 3230734
什么是DOI,文献DOI怎么找? 1786110
邀请新用户注册赠送积分活动 869824
科研通“疑难数据库(出版商)”最低求助积分说明 801625