When Justice is Blind to Algorithms: Multilayered Blackboxing of Algorithmic Decision Making in the Public Sector

经济正义 公共部门 计算机科学 算法 人工智能 政治学 法学
作者
Charlotta Kronblad,Anna Essén,Magnus Mähring
出处
期刊:Management Information Systems Quarterly [MIS Quarterly]
标识
DOI:10.25300/misq/2024/18251
摘要

Both research and public discourse have recently drawn attention to the downsides of algorithmic decision making (ADM), highlighting how it can produce biased and discriminatory outcomes, and also pose threats to social justice. We address such threats that emanate from, but also go beyond, algorithms per se, extending to how public agencies and legal institutions (fail to) respond to consequences of ADM. Drawing on a case study of the use of an ADM system in public school administration, we explore the practices through which public institutions avoided engagement with the detrimental consequences of ADM, leading to injustice. We provide a conceptual model outlining how organizational ignoring practices can lead to social and institutional blackboxing of an ADM system, engendering both social and legal injustice. Our work paves the way for interdisciplinary research on multilayered blackboxing of ADM. We also extend algorithmic injustice research to include a legal dimension and provide practical implications in the form of a legal framework for ADM in the public sector.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Orange应助科研通管家采纳,获得10
刚刚
TrucCSC应助科研通管家采纳,获得10
刚刚
刚刚
852应助科研通管家采纳,获得10
刚刚
1秒前
myy完成签到,获得积分10
2秒前
浪浪山发布了新的文献求助10
3秒前
吁吁发布了新的文献求助10
3秒前
KaiZI发布了新的文献求助10
6秒前
theThreeMagi完成签到,获得积分10
7秒前
辰木完成签到,获得积分10
7秒前
xiao完成签到 ,获得积分10
8秒前
Cindy发布了新的文献求助10
8秒前
zhangzhangzhang完成签到,获得积分10
8秒前
8秒前
9秒前
不配.应助圆圆的波仔采纳,获得20
9秒前
9秒前
传奇3应助光亮灯泡采纳,获得10
12秒前
12秒前
Vincent发布了新的文献求助10
13秒前
Cindy完成签到,获得积分20
14秒前
鱼粥很好发布了新的文献求助10
14秒前
17秒前
Vincent完成签到,获得积分10
18秒前
19秒前
吁吁发布了新的文献求助10
21秒前
失眠的血茗完成签到,获得积分10
22秒前
柯柯完成签到,获得积分20
23秒前
23秒前
小马甲应助漫画采纳,获得10
24秒前
24秒前
27秒前
28秒前
KK发布了新的文献求助10
30秒前
Dong发布了新的文献求助10
31秒前
研友_VZG7GZ应助柯柯采纳,获得10
31秒前
Rwslpy完成签到 ,获得积分10
32秒前
丘比特应助人间生巧采纳,获得10
33秒前
34秒前
高分求助中
Evolution 3rd edition 1500
Lire en communiste 1000
Mantiden: Faszinierende Lauerjäger Faszinierende Lauerjäger 700
PraxisRatgeber: Mantiden: Faszinierende Lauerjäger 700
A new species of Coccus (Homoptera: Coccoidea) from Malawi 500
2-Acetyl-1-pyrroline: an important aroma component of cooked rice 500
Ribozymes and aptamers in the RNA world, and in synthetic biology 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3180810
求助须知:如何正确求助?哪些是违规求助? 2831014
关于积分的说明 7982642
捐赠科研通 2492884
什么是DOI,文献DOI怎么找? 1329918
科研通“疑难数据库(出版商)”最低求助积分说明 635836
版权声明 602954