清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

AI-Lancet: Locating Error-inducing Neurons to Optimize Neural Networks

计算机科学 追踪 跟踪(心理语言学) 深层神经网络 人工神经网络 人工智能 深度学习 后门 机器学习 软件 错误检测和纠正 算法 操作系统 程序设计语言 哲学 语言学 计算机安全
作者
Yue Zhao,Hong Zhu,Kai Chen,Shengzhi Zhang
标识
DOI:10.1145/3460120.3484818
摘要

Deep neural network (DNN) has been widely utilized in many areas due to its increasingly high accuracy. However, DNN models could also produce wrong outputs due to internal errors, which may lead to severe security issues. Unlike fixing bugs in traditional computer software, tracing the errors in DNN models and fixing them are much more difficult due to the uninterpretability of DNN. In this paper, we present a novel and systematic approach to trace and fix the errors in deep learning models. In particular, we locate the error-inducing neurons that play a leading role in the erroneous output. With the knowledge of error-inducing neurons, we propose two methods to fix the errors: the neuron-flip and the neuron-fine-tuning. We evaluate our approach using five different training datasets and seven different model architectures. The experimental results demonstrate its efficacy in different application scenarios, including backdoor removal and general defects fixing.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
sd完成签到,获得积分10
2秒前
li1完成签到,获得积分10
7秒前
EK1完成签到,获得积分10
12秒前
自由的梦山完成签到,获得积分10
12秒前
fr1完成签到,获得积分10
17秒前
18秒前
XE1完成签到,获得积分10
21秒前
23秒前
夏至完成签到 ,获得积分10
23秒前
活力的香彤完成签到,获得积分10
25秒前
FR完成签到,获得积分10
26秒前
卜哥完成签到 ,获得积分0
27秒前
ly完成签到,获得积分10
31秒前
33秒前
XE完成签到,获得积分10
36秒前
万能图书馆的应助被lzzj采纳,获得10
36秒前
lingling完成签到 ,获得积分10
37秒前
EC完成签到,获得积分10
40秒前
自觉大门完成签到,获得积分10
44秒前
LY完成签到,获得积分10
45秒前
愤怒的若颜完成签到,获得积分10
47秒前
JA完成签到,获得积分10
50秒前
XM4完成签到,获得积分10
54秒前
靓丽雪萍完成签到,获得积分10
56秒前
江氏巨颏虎完成签到,获得积分10
57秒前
XM3完成签到,获得积分10
59秒前
邹继霞完成签到 ,获得积分10
1分钟前
yy66_发布了新的文献求助10
1分钟前
nav完成签到 ,获得积分10
1分钟前
1分钟前
XM2完成签到,获得积分10
1分钟前
XM1完成签到,获得积分10
1分钟前
务实寒烟完成签到,获得积分10
1分钟前
BP完成签到,获得积分10
1分钟前
激情的盼晴完成签到,获得积分10
1分钟前
SZ完成签到 ,获得积分10
1分钟前
宗俊完成签到 ,获得积分10
1分钟前
悦耳的半兰完成签到,获得积分10
1分钟前
JamesPei的应助被喜悦的冰夏采纳,获得30
1分钟前
威武的迎蓉完成签到,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8159041
求助须知:如何正确求助?哪些是违规求助? 9554544
关于积分的说明 21719513
捐赠科研通 7748595
什么是DOI,文献DOI怎么找? 3427123
关于科研通互助平台的介绍 2552038
邀请新用户注册赠送积分活动 2471391