Trust Region Policy Optimisation in Multi-Agent Reinforcement Learning

强化学习 单调函数 计算机科学 外稃(植物学) 多样性(控制论) 财产(哲学) 功能(生物学) 贝尔曼方程 数学优化 人工智能 数学 禾本科 生态学 进化生物学 生物 认识论 数学分析 哲学
作者
Jakub Grudzien Kuba,Ruiqing Chen,Muning Wen,Ying Wen,Fanglei Sun,Jun Wang,Yaodong Yang
出处
期刊:Cornell University - arXiv 被引量:2
标识
DOI:10.48550/arxiv.2109.11251
摘要

Trust region methods rigorously enabled reinforcement learning (RL) agents to learn monotonically improving policies, leading to superior performance on a variety of tasks. Unfortunately, when it comes to multi-agent reinforcement learning (MARL), the property of monotonic improvement may not simply apply; this is because agents, even in cooperative games, could have conflicting directions of policy updates. As a result, achieving a guaranteed improvement on the joint policy where each agent acts individually remains an open challenge. In this paper, we extend the theory of trust region learning to MARL. Central to our findings are the multi-agent advantage decomposition lemma and the sequential policy update scheme. Based on these, we develop Heterogeneous-Agent Trust Region Policy Optimisation (HATPRO) and Heterogeneous-Agent Proximal Policy Optimisation (HAPPO) algorithms. Unlike many existing MARL algorithms, HATRPO/HAPPO do not need agents to share parameters, nor do they need any restrictive assumptions on decomposibility of the joint value function. Most importantly, we justify in theory the monotonic improvement property of HATRPO/HAPPO. We evaluate the proposed methods on a series of Multi-Agent MuJoCo and StarCraftII tasks. Results show that HATRPO and HAPPO significantly outperform strong baselines such as IPPO, MAPPO and MADDPG on all tested tasks, therefore establishing a new state of the art.

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
chen完成签到,获得积分10
1秒前
Hello应助ylw采纳,获得10
1秒前
2秒前
ChemistryZyh发布了新的文献求助10
2秒前
wensir发布了新的文献求助10
2秒前
端庄千琴完成签到,获得积分10
2秒前
heavennew完成签到,获得积分10
3秒前
4秒前
眼睛大樱桃完成签到,获得积分10
4秒前
Yuantian发布了新的文献求助10
5秒前
学吗你完成签到 ,获得积分10
5秒前
御青白少发布了新的文献求助10
6秒前
无尽夏完成签到,获得积分10
6秒前
Rylee发布了新的文献求助10
8秒前
8秒前
无私的念文完成签到 ,获得积分10
9秒前
充电宝应助Yuantian采纳,获得10
10秒前
水水完成签到,获得积分10
11秒前
sskr发布了新的文献求助10
11秒前
15327432191完成签到 ,获得积分10
12秒前
酷波er应助果汁采纳,获得10
12秒前
善学以致用应助程公子采纳,获得10
12秒前
海阔天空发布了新的文献求助10
12秒前
ChemistryZyh完成签到,获得积分10
13秒前
wensir完成签到,获得积分10
15秒前
斯文败类应助Rylee采纳,获得10
16秒前
养不熟的野猫完成签到,获得积分10
16秒前
sskr完成签到,获得积分10
16秒前
高文强完成签到,获得积分10
17秒前
18秒前
我是老大应助liu采纳,获得10
18秒前
领导范儿应助小熊软糖采纳,获得10
18秒前
华仔应助kevin采纳,获得10
19秒前
20秒前
21秒前
晴朗葡萄发布了新的文献求助30
21秒前
bkagyin应助冷艳的冬萱采纳,获得10
21秒前
22秒前
文献啊文献完成签到,获得积分10
23秒前
高分求助中
【提示信息,请勿应助】关于scihub 10000
Les Mantodea de Guyane: Insecta, Polyneoptera [The Mantids of French Guiana] 3000
徐淮辽南地区新元古代叠层石及生物地层 3000
The Mother of All Tableaux: Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 3000
Global Eyelash Assessment scale (GEA) 1000
Picture Books with Same-sex Parented Families: Unintentional Censorship 550
Research on Disturbance Rejection Control Algorithm for Aerial Operation Robots 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4038569
求助须知:如何正确求助?哪些是违规求助? 3576279
关于积分的说明 11374944
捐赠科研通 3305979
什么是DOI,文献DOI怎么找? 1819354
邀请新用户注册赠送积分活动 892698
科研通“疑难数据库(出版商)”最低求助积分说明 815048