Learning Deep Sparse Regularizers with Applications to Multi-View Clustering and Semi-Supervised Classification

计算机科学 人工智能 稀疏逼近 机器学习 神经编码 聚类分析 特征学习 稀疏矩阵 深度学习 模式识别(心理学) 物理 量子力学 高斯分布
作者
Shiping Wang,Zhaoliang Chen,Shide Du,Zhouchen Lin
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:: 1-1 被引量:70
标识
DOI:10.1109/tpami.2021.3082632
摘要

Sparsity-constrained optimization problems are common in machine learning, such as sparse coding, low-rank minimization and compressive sensing. However, most of previous studies focused on constructing various hand-crafted sparse regularizers, while little work was devoted to learning adaptive sparse regularizers from given input data for specific tasks. In this paper, we propose a deep sparse regularizer learning model that learns data-driven sparse regularizers adaptively. Via the proximal gradient algorithm, we find that the sparse regularizer learning is equivalent to learning a parameterized activation function. This encourages us to learn sparse regularizers in the deep learning framework. Therefore, we build a neural network composed of multiple blocks, each being differentiable and reusable. All blocks contain learnable piecewise linear activation functions which correspond to the sparse regularizer to be learned. Furthermore, the proposed model is trained with back propagation, and all parameters in this model are learned end-to-end. We apply our framework to multi-view clustering and semi-supervised classification tasks to learn a latent compact representation. Experimental results demonstrate the superiority of the proposed framework over state-of-the-art multi-view learning models.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
脑洞疼的应助被小杨采纳,获得10
刚刚
bkagyin的应助被LWW采纳,获得10
刚刚
顾矜的应助被LWW采纳,获得10
1秒前
Hello的应助被LWW采纳,获得10
1秒前
英俊的铭的应助被LWW采纳,获得10
1秒前
Lucas的应助被LWW采纳,获得10
1秒前
1秒前
醉卧星河完成签到,获得积分20
1秒前
酷波er的应助被LWW采纳,获得10
1秒前
传奇3的应助被LWW采纳,获得10
1秒前
达不溜杭完成签到,获得积分10
1秒前
科目三的应助被LWW采纳,获得10
1秒前
星辰大海的应助被LWW采纳,获得10
1秒前
CipherSage的应助被LWW采纳,获得10
1秒前
阳光新筠发布了新的文献求助10
2秒前
Ling发布了新的文献求助20
2秒前
2秒前
烟花的应助被清pq采纳,获得10
3秒前
3秒前
CodeCraft的应助被Xavier采纳,获得10
4秒前
4秒前
hehe594发布了新的文献求助30
6秒前
酥酥发布了新的文献求助10
6秒前
研友_LOoNvL完成签到,获得积分10
6秒前
爆米花的应助被tomatoGG采纳,获得10
6秒前
Butter完成签到,获得积分10
7秒前
小薛发布了新的文献求助10
7秒前
7秒前
Maestro_S的应助被Wangguanbo采纳,获得100
8秒前
8秒前
魔幻的妖丽完成签到,获得积分10
8秒前
烟花的应助被iceicefdtd采纳,获得10
8秒前
8秒前
Cheish发布了新的文献求助10
8秒前
9秒前
Joy完成签到,获得积分10
9秒前
11秒前
英俊访烟完成签到,获得积分10
11秒前
威武青旋发布了新的文献求助10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
What Else Can I Tell You?: A Pragmatic Study of English Rhetorical Questions as Discursive and Argumentative Acts 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8157968
求助须知:如何正确求助?哪些是违规求助? 9553877
关于积分的说明 21716417
捐赠科研通 7747262
什么是DOI,文献DOI怎么找? 3426921
关于科研通互助平台的介绍 2551625
邀请新用户注册赠送积分活动 2470979