Formally Verified Solution Methods for Markov Decision Processes

马尔可夫决策过程 霍尔 可执行文件 计算机科学 实施 动态规划 数学优化 理论计算机科学 马尔可夫过程 程序设计语言 算法 数学 统计
作者
Maximilian Schäffeler,Mohammad Abdulaziz
出处
期刊:Proceedings of the ... AAAI Conference on Artificial Intelligence [Association for the Advancement of Artificial Intelligence]
卷期号:37 (12): 15073-15081 被引量:2
标识
DOI:10.1609/aaai.v37i12.26759
摘要

We formally verify executable algorithms for solving Markov decision processes (MDPs) in the interactive theorem prover Isabelle/HOL. We build on existing formalizations of probability theory to analyze the expected total reward criterion on finite and infinite-horizon problems. Our developments formalize the Bellman equation and give conditions under which optimal policies exist. Based on this analysis, we verify dynamic programming algorithms to solve tabular MDPs. We evaluate the formally verified implementations experimentally on standard problems, compare them with state-of-the-art systems, and show that they are practical.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
英俊的铭的应助被LWW采纳,获得10
刚刚
Lucas的应助被LWW采纳,获得10
刚刚
刚刚
醉卧星河完成签到,获得积分20
刚刚
酷波er的应助被LWW采纳,获得10
刚刚
传奇3的应助被LWW采纳,获得10
刚刚
达不溜杭完成签到,获得积分10
刚刚
科目三的应助被LWW采纳,获得10
刚刚
星辰大海的应助被LWW采纳,获得10
刚刚
CipherSage的应助被LWW采纳,获得10
刚刚
阳光新筠发布了新的文献求助10
1秒前
Ling发布了新的文献求助20
1秒前
1秒前
烟花的应助被清pq采纳,获得10
2秒前
2秒前
CodeCraft的应助被Xavier采纳,获得10
3秒前
3秒前
hehe594发布了新的文献求助30
5秒前
酥酥发布了新的文献求助10
5秒前
研友_LOoNvL完成签到,获得积分10
5秒前
爆米花的应助被tomatoGG采纳,获得10
5秒前
Butter完成签到,获得积分10
6秒前
小薛发布了新的文献求助10
6秒前
6秒前
Maestro_S的应助被Wangguanbo采纳,获得100
7秒前
7秒前
魔幻的妖丽完成签到,获得积分10
7秒前
烟花的应助被iceicefdtd采纳,获得10
7秒前
7秒前
Cheish发布了新的文献求助10
7秒前
8秒前
Joy完成签到,获得积分10
8秒前
10秒前
英俊访烟完成签到,获得积分10
10秒前
威武青旋发布了新的文献求助10
10秒前
bgdw1219完成签到,获得积分10
10秒前
zhouzhou发布了新的文献求助10
10秒前
10秒前
11秒前
科研通AI6.2的应助被一ersansi采纳,获得10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
What Else Can I Tell You?: A Pragmatic Study of English Rhetorical Questions as Discursive and Argumentative Acts 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8157968
求助须知:如何正确求助?哪些是违规求助? 9553877
关于积分的说明 21716417
捐赠科研通 7747262
什么是DOI,文献DOI怎么找? 3426921
关于科研通互助平台的介绍 2551625
邀请新用户注册赠送积分活动 2470979