How human–AI feedback loops alter human perceptual, emotional and social judgements

感知 心理学 判断 认知心理学 神经科学 认识论 哲学
作者
Moshe Glickman,Tali Sharot
出处
期刊:Nature Human Behaviour [Springer Nature]
标识
DOI:10.1038/s41562-024-02077-2
摘要

Abstract Artificial intelligence (AI) technologies are rapidly advancing, enhancing human capabilities across various fields spanning from finance to medicine. Despite their numerous advantages, AI systems can exhibit biased judgements in domains ranging from perception to emotion. Here, in a series of experiments ( n = 1,401 participants), we reveal a feedback loop where human–AI interactions alter processes underlying human perceptual, emotional and social judgements, subsequently amplifying biases in humans. This amplification is significantly greater than that observed in interactions between humans, due to both the tendency of AI systems to amplify biases and the way humans perceive AI systems. Participants are often unaware of the extent of the AI’s influence, rendering them more susceptible to it. These findings uncover a mechanism wherein AI systems amplify biases, which are further internalized by humans, triggering a snowball effect where small errors in judgement escalate into much larger ones.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
大气乐儿完成签到,获得积分10
1秒前
我是老大应助123321321345采纳,获得30
3秒前
3秒前
4秒前
zjh完成签到,获得积分20
6秒前
bbbbbbbbs发布了新的文献求助10
6秒前
6秒前
longlongzhi完成签到 ,获得积分10
7秒前
雪糕发布了新的文献求助10
8秒前
8秒前
9秒前
9秒前
Leelelele应助白白不读书采纳,获得20
9秒前
科目三应助武雨寒采纳,获得10
9秒前
Lee6655完成签到,获得积分10
10秒前
10秒前
dsf大师傅完成签到 ,获得积分10
11秒前
11秒前
11秒前
菌菌发布了新的文献求助10
11秒前
松江完成签到,获得积分10
12秒前
在在完成签到 ,获得积分10
12秒前
12秒前
lili发布了新的文献求助10
13秒前
13秒前
是咸鱼呀发布了新的文献求助10
13秒前
hhh发布了新的文献求助10
13秒前
ming发布了新的文献求助10
14秒前
兜兜窦完成签到,获得积分10
15秒前
STAN完成签到,获得积分10
15秒前
16秒前
16秒前
tian应助kgyl110采纳,获得10
16秒前
16秒前
小马甲应助善良夜梅采纳,获得10
16秒前
松江发布了新的文献求助10
17秒前
18秒前
OVERLXRD发布了新的文献求助10
18秒前
18秒前
Ivia完成签到,获得积分10
19秒前
高分求助中
The late Devonian Standard Conodont Zonation 2000
Nickel superalloy market size, share, growth, trends, and forecast 2023-2030 2000
The Lali Section: An Excellent Reference Section for Upper - Devonian in South China 1500
Very-high-order BVD Schemes Using β-variable THINC Method 870
Mantiden: Faszinierende Lauerjäger Faszinierende Lauerjäger 800
PraxisRatgeber: Mantiden: Faszinierende Lauerjäger 800
Fundamentals of Dispersed Multiphase Flows 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3254507
求助须知:如何正确求助?哪些是违规求助? 2896674
关于积分的说明 8293818
捐赠科研通 2565675
什么是DOI,文献DOI怎么找? 1393195
科研通“疑难数据库(出版商)”最低求助积分说明 652443
邀请新用户注册赠送积分活动 630000