Novelty and uncertainty regulate the balance between exploration and exploitation through distinct mechanisms in the human brain

新颖性 任务(项目管理) 利用 计算机科学 合并 搜索引擎索引 人工智能 平衡(能力) 机器学习 神经科学 心理学 经济 社会心理学 哲学 计算机安全 管理 认识论
作者
Jeffrey Cockburn,Vincent Man,William A. Cunningham,John P. O’Doherty
出处
期刊:Neuron [Cell Press]
卷期号:110 (16): 2691-2702.e8 被引量:35
标识
DOI:10.1016/j.neuron.2022.05.025
摘要

Both novelty and uncertainty are potent features guiding exploration; however, they are often experimentally conflated, and an understanding of how they interact to regulate the balance between exploration and exploitation has proved elusive. Using a task designed to decouple the influence of novelty and uncertainty, we identify separable mechanisms through which exploration is directed. We show that uncertainty-directed exploration is sensitive to the prospective benefit offered by new information, whereas novelty-directed exploration is maintained regardless of its potential advantage. Using a computational framework in conjunction with fMRI, we show that uncertainty-directed choice is rooted in an adaptive bias indexing the prospective utility of exploration. In contrast, novelty persistently promotes exploration by optimistically inflating reward expectations while simultaneously dampening uncertainty signals. Our results identify separable neural substrates charged with balancing the explore/exploit trade-off to foster a manageable decomposition of an otherwise intractable problem.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
SciGPT应助科研通管家采纳,获得10
刚刚
馨馨馨发布了新的文献求助10
刚刚
香蕉觅云应助科研通管家采纳,获得10
刚刚
浮游应助科研通管家采纳,获得10
刚刚
刚刚
刚刚
刚刚
刚刚
CodeCraft应助科研通管家采纳,获得10
刚刚
Jasper应助科研通管家采纳,获得10
刚刚
在水一方应助科研通管家采纳,获得10
刚刚
刚刚
彭于晏应助花痴的香菇采纳,获得10
1秒前
野原顶不住完成签到,获得积分10
1秒前
1秒前
1秒前
Lucas应助6036采纳,获得10
2秒前
樱sky完成签到,获得积分10
2秒前
星掠发布了新的文献求助10
2秒前
温乘云发布了新的文献求助10
3秒前
betty2009发布了新的文献求助10
4秒前
cathyyyyyy完成签到,获得积分10
4秒前
277发布了新的文献求助20
4秒前
没烦恼发布了新的文献求助10
5秒前
打打应助还单身的香菇采纳,获得10
6秒前
红心欢石榴完成签到,获得积分10
6秒前
阿希塔完成签到,获得积分10
6秒前
7秒前
7秒前
sasa发布了新的文献求助10
8秒前
autumn完成签到,获得积分10
8秒前
8秒前
8秒前
小二郎应助子铭采纳,获得10
8秒前
raner发布了新的文献求助10
9秒前
俭朴兔子完成签到,获得积分10
9秒前
ss完成签到,获得积分20
10秒前
小二郎应助没烦恼采纳,获得10
10秒前
10秒前
小蘑菇应助陈咪咪采纳,获得10
10秒前
高分求助中
Inorganic Chemistry Eighth Edition 1200
Free parameter models in liquid scintillation counting 1000
Standards for Molecular Testing for Red Cell, Platelet, and Neutrophil Antigens, 7th edition 1000
HANDBOOK OF CHEMISTRY AND PHYSICS 106th edition 1000
ASPEN Adult Nutrition Support Core Curriculum, Fourth Edition 1000
The Psychological Quest for Meaning 800
Signals, Systems, and Signal Processing 610
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6303852
求助须知:如何正确求助?哪些是违规求助? 8120487
关于积分的说明 17006797
捐赠科研通 5363537
什么是DOI,文献DOI怎么找? 2848597
邀请新用户注册赠送积分活动 1826072
关于科研通互助平台的介绍 1679863