已入深夜,您辛苦了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!祝你早点完成任务,早点休息,好梦!

Revisiting model fairness via adversarial examples

对抗制 计算机科学 歪斜 稳健性(进化) 数学优化 约束(计算机辅助设计) 人工智能 理论计算机科学 数学 电信 生物化学 化学 基因 几何学
作者
Tao Zhang,Tianqing Zhu,Jing Li,Wanlei Zhou,Philip S. Yu
出处
期刊:Knowledge Based Systems [Elsevier BV]
卷期号:277: 110777-110777 被引量:3
标识
DOI:10.1016/j.knosys.2023.110777
摘要

Existing research literally evaluates model fairness over limited observed data. In practice, however, factors such as maliciously crafted examples and naturally corrupted examples often appear in real-world data collection. This severely limits the reliability of bias removal methods, inhibits fairness improvement in long-term learning systems, and probes to study accuracy-related robustness. Therefore, we ask: How adversarial examples will skew model fairness? In this paper, we investigate the vulnerability of individual fairness and group fairness to adversarial attacks. We further propose a general adversarial fairness attack framework capable of twisting model bias through a small subset of adversarial examples. We formulate this problem as an optimization problem: maximizing the model bias with the constraint of the number of adversarial examples and the perturbation scale. Our approach finds the most vulnerable examples to model fairness based on the estimated distance from examples to the decision boundary and demographic information. The experimental results 1 show that model fairness is easily skewed by a small number of adversarial examples.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
2秒前
兽王打的面包完成签到,获得积分20
2秒前
7秒前
dbq完成签到 ,获得积分10
7秒前
乐羽乐完成签到,获得积分10
7秒前
zzzzzz完成签到 ,获得积分10
7秒前
第二支羽毛完成签到,获得积分10
9秒前
个性乐儿完成签到,获得积分10
9秒前
顾矜的应助被nnn采纳,获得10
10秒前
小田完成签到 ,获得积分10
11秒前
秋风的应助被yang采纳,获得10
11秒前
leotao完成签到,获得积分10
11秒前
11秒前
田様的应助被再吃亿大口采纳,获得10
12秒前
jianglai发布了新的文献求助200
12秒前
qq发布了新的文献求助10
12秒前
AdamJie发布了新的文献求助30
14秒前
MX完成签到 ,获得积分10
14秒前
成就马里奥完成签到,获得积分10
14秒前
14秒前
香蕉觅云的应助被Phoebe采纳,获得10
15秒前
嘻嘻哈哈的应助被谨慎的寄云采纳,获得10
15秒前
16秒前
浪迹发布了新的文献求助30
16秒前
深情安青的应助被英俊h采纳,获得10
17秒前
llx666完成签到,获得积分10
18秒前
chiaoyin999发布了新的文献求助10
18秒前
Pia完成签到 ,获得积分10
19秒前
bm发布了新的文献求助10
19秒前
19秒前
21秒前
小鱼发布了新的文献求助10
21秒前
平常的人雄完成签到,获得积分10
22秒前
22秒前
22秒前
Drwang完成签到,获得积分10
23秒前
火山口发布了新的文献求助10
23秒前
23秒前
时间完成签到,获得积分10
24秒前
25秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8184867
求助须知:如何正确求助?哪些是违规求助? 9573803
关于积分的说明 21833148
捐赠科研通 7782177
什么是DOI,文献DOI怎么找? 3434414
关于科研通互助平台的介绍 2558563
邀请新用户注册赠送积分活动 2481067