On the effect of perturbations in first-order optimization methods with inertia and Hessian driven damping

黑森矩阵 耗散系统 动力系统理论 应用数学 数学 惯性 趋同(经济学) 理论(学习稳定性) 黑森方程 订单(交换) 凸函数 动力系统(定义) 类型(生物学) 数学分析 正多边形 计算机科学 物理 经典力学 偏微分方程 几何学 机器学习 生物 一阶偏微分方程 经济 量子力学 经济增长 生态学 财务
作者
Hédy Attouch,Jalal Fadili,Vyacheslav Kungurtsev
出处
期刊:Evolution Equations and Control Theory [American Institute of Mathematical Sciences]
卷期号:12 (1): 71-71 被引量:6
标识
DOI:10.3934/eect.2022022
摘要

<p style='text-indent:20px;'>Second-order continuous-time dissipative dynamical systems with viscous and Hessian driven damping have inspired effective first-order algorithms for solving convex optimization problems. While preserving the fast convergence properties of the Nesterov-type acceleration, the Hessian driven damping makes it possible to significantly attenuate the oscillations. To study the stability of these algorithms with respect to perturbations, we analyze the behaviour of the corresponding continuous systems when the gradient computation is subject to exogenous additive errors. We provide a quantitative analysis of the asymptotic behaviour of two types of systems, those with implicit and explicit Hessian driven damping. We consider convex, strongly convex, and non-smooth objective functions defined on a real Hilbert space and show that, depending on the formulation, different integrability conditions on the perturbations are sufficient to maintain the convergence rates of the systems. We highlight the differences between the implicit and explicit Hessian damping, and in particular point out that the assumptions on the objective and perturbations needed in the implicit case are more stringent than in the explicit case.</p>
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
跳跃的白云完成签到 ,获得积分10
11秒前
穆奕完成签到 ,获得积分10
19秒前
21秒前
leo完成签到,获得积分10
27秒前
www完成签到 ,获得积分10
28秒前
王佳豪完成签到,获得积分10
32秒前
34秒前
39秒前
呵呵发布了新的文献求助10
40秒前
小星历险记完成签到 ,获得积分10
41秒前
Robe完成签到 ,获得积分10
44秒前
liberation完成签到 ,获得积分0
48秒前
50秒前
呵呵完成签到,获得积分20
52秒前
tzy6665完成签到,获得积分10
53秒前
杨天天完成签到,获得积分10
54秒前
roundtree完成签到 ,获得积分0
55秒前
nengzou完成签到 ,获得积分10
57秒前
Sandy应助帅气的宛凝采纳,获得20
1分钟前
laber完成签到,获得积分0
1分钟前
Fly完成签到 ,获得积分10
1分钟前
kanong完成签到,获得积分0
1分钟前
穿山的百足公主完成签到 ,获得积分10
1分钟前
诺亚方舟哇哈哈完成签到 ,获得积分0
1分钟前
JayL完成签到,获得积分10
1分钟前
1分钟前
小井盖完成签到 ,获得积分10
1分钟前
故意的小猫咪完成签到,获得积分10
1分钟前
真真完成签到 ,获得积分10
1分钟前
故意的鼠标完成签到,获得积分10
1分钟前
summer完成签到,获得积分10
1分钟前
阿敬完成签到,获得积分10
1分钟前
漂漂亮亮大番薯完成签到,获得积分10
1分钟前
dream完成签到 ,获得积分10
1分钟前
和谐的夏岚完成签到 ,获得积分10
1分钟前
勤奋的灯完成签到 ,获得积分10
1分钟前
现代风格完成签到,获得积分10
1分钟前
luffy完成签到 ,获得积分10
1分钟前
samuel完成签到,获得积分10
2分钟前
Mason完成签到,获得积分10
2分钟前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
Cognitive Neuroscience: The Biology of the Mind 1000
Technical Brochure TB 814: LPIT applications in HV gas insulated switchgear 1000
Immigrant Incorporation in East Asian Democracies 600
Nucleophilic substitution in azasydnone-modified dinitroanisoles 500
不知道标题是什么 500
A Preliminary Study on Correlation Between Independent Components of Facial Thermal Images and Subjective Assessment of Chronic Stress 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3968559
求助须知:如何正确求助?哪些是违规求助? 3513358
关于积分的说明 11167370
捐赠科研通 3248804
什么是DOI,文献DOI怎么找? 1794465
邀请新用户注册赠送积分活动 875116
科研通“疑难数据库(出版商)”最低求助积分说明 804664