Trust Region Policy Optimisation in Multi-Agent Reinforcement Learning

强化学习 单调函数 计算机科学 外稃(植物学) 多样性(控制论) 财产(哲学) 功能(生物学) 贝尔曼方程 数学优化 人工智能 数学 禾本科 生态学 进化生物学 生物 认识论 数学分析 哲学
作者
Jakub Grudzien Kuba,Ruiqing Chen,Muning Wen,Ying Wen,Fanglei Sun,Jun Wang,Yaodong Yang
出处
期刊:Cornell University - arXiv 被引量:2
标识
DOI:10.48550/arxiv.2109.11251
摘要

Trust region methods rigorously enabled reinforcement learning (RL) agents to learn monotonically improving policies, leading to superior performance on a variety of tasks. Unfortunately, when it comes to multi-agent reinforcement learning (MARL), the property of monotonic improvement may not simply apply; this is because agents, even in cooperative games, could have conflicting directions of policy updates. As a result, achieving a guaranteed improvement on the joint policy where each agent acts individually remains an open challenge. In this paper, we extend the theory of trust region learning to MARL. Central to our findings are the multi-agent advantage decomposition lemma and the sequential policy update scheme. Based on these, we develop Heterogeneous-Agent Trust Region Policy Optimisation (HATPRO) and Heterogeneous-Agent Proximal Policy Optimisation (HAPPO) algorithms. Unlike many existing MARL algorithms, HATRPO/HAPPO do not need agents to share parameters, nor do they need any restrictive assumptions on decomposibility of the joint value function. Most importantly, we justify in theory the monotonic improvement property of HATRPO/HAPPO. We evaluate the proposed methods on a series of Multi-Agent MuJoCo and StarCraftII tasks. Results show that HATRPO and HAPPO significantly outperform strong baselines such as IPPO, MAPPO and MADDPG on all tested tasks, therefore establishing a new state of the art.

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
SYLH应助Three采纳,获得10
1秒前
2秒前
Orange应助DouBy采纳,获得30
2秒前
4秒前
闪闪落雁完成签到,获得积分10
5秒前
5秒前
善学以致用应助罗某人采纳,获得10
7秒前
7秒前
赘婿应助烧酒采纳,获得10
8秒前
Qintt发布了新的文献求助10
9秒前
hy1234完成签到 ,获得积分10
9秒前
9秒前
槿萱完成签到,获得积分10
10秒前
ll给STP顶峰相见的求助进行了留言
10秒前
棒棒的红红完成签到,获得积分10
11秒前
南楼小阁主完成签到,获得积分10
12秒前
燕燕于飞发布了新的文献求助10
13秒前
13秒前
14秒前
anz完成签到,获得积分10
15秒前
15秒前
Ryan完成签到,获得积分10
16秒前
16秒前
鲸落发布了新的文献求助10
16秒前
NexusExplorer应助Cindy采纳,获得10
17秒前
17秒前
苏东方完成签到,获得积分10
17秒前
18秒前
18秒前
蓦然回首发布了新的文献求助10
20秒前
迷人的冰安完成签到,获得积分10
20秒前
CipherSage应助燕燕于飞采纳,获得10
22秒前
xiao123789发布了新的文献求助10
22秒前
randomname发布了新的文献求助10
22秒前
dong应助FLZLC采纳,获得10
23秒前
田様应助老毛采纳,获得10
23秒前
罗某人发布了新的文献求助10
23秒前
23秒前
偷乐发布了新的文献求助10
24秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Cognitive Neuroscience: The Biology of the Mind 1000
Technical Brochure TB 814: LPIT applications in HV gas insulated switchgear 1000
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
Picture Books with Same-sex Parented Families: Unintentional Censorship 500
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3969513
求助须知:如何正确求助?哪些是违规求助? 3514327
关于积分的说明 11173617
捐赠科研通 3249672
什么是DOI,文献DOI怎么找? 1794973
邀请新用户注册赠送积分活动 875537
科研通“疑难数据库(出版商)”最低求助积分说明 804836