Geometry Regularized Autoencoders

自编码 人工智能 非线性降维 特征学习 外部数据表示 计算机科学 代表(政治) 正规化(语言学) 嵌入 核(代数) 模式识别(心理学) 歧管对齐 歧管(流体力学) 核方法 深度学习 可逆矩阵 机器学习 数学 降维 支持向量机 纯数学 组合数学 法学 工程类 政治 机械工程 政治学
作者
Andrés Duque,Sacha Morin,Guy Wolf,Kevin R. Moon
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:45 (6): 7381-7394 被引量:4
标识
DOI:10.1109/tpami.2022.3222104
摘要

A fundamental task in data exploration is to extract low dimensional representations that capture intrinsic geometry in data, especially for faithfully visualizing data in two or three dimensions. Common approaches use kernel methods for manifold learning. However, these methods typically only provide an embedding of the input data and cannot extend naturally to new data points. Autoencoders have also become popular for representation learning. While they naturally compute feature extractors that are extendable to new data and invertible (i.e., reconstructing original features from latent representation), they often fail at representing the intrinsic data geometry compared to kernel-based manifold learning. We present a new method for integrating both approaches by incorporating a geometric regularization term in the bottleneck of the autoencoder. This regularization encourages the learned latent representation to follow the intrinsic data geometry, similar to manifold learning algorithms, while still enabling faithful extension to new data and preserving invertibility. We compare our approach to autoencoder models for manifold learning to provide qualitative and quantitative evidence of our advantages in preserving intrinsic structure, out of sample extension, and reconstruction. Our method is easily implemented for big-data applications, whereas other methods are limited in this regard.

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
nightmare发布了新的文献求助10
刚刚
Lili发布了新的文献求助10
1秒前
kingwill应助南韵采纳,获得20
2秒前
4秒前
Poik完成签到,获得积分10
4秒前
刘娅铷发布了新的文献求助10
4秒前
6秒前
小小吴完成签到,获得积分10
7秒前
不孤独的发卡完成签到,获得积分20
7秒前
潘善若发布了新的文献求助30
10秒前
zzzjh完成签到,获得积分10
10秒前
香蕉觅云应助超级采纳,获得10
12秒前
12秒前
安然完成签到 ,获得积分10
17秒前
桔子完成签到,获得积分10
17秒前
17秒前
落后的哈密瓜完成签到,获得积分10
18秒前
潘善若发布了新的文献求助10
19秒前
Rainbow完成签到 ,获得积分10
20秒前
22秒前
SciGPT应助momo采纳,获得10
22秒前
22秒前
Lili完成签到,获得积分10
23秒前
23秒前
24秒前
congyjs完成签到,获得积分20
26秒前
超级发布了新的文献求助10
27秒前
27秒前
潘善若发布了新的文献求助10
28秒前
Rondab应助胡图图采纳,获得10
28秒前
28秒前
30秒前
nilu完成签到,获得积分10
30秒前
congyjs发布了新的文献求助10
31秒前
32秒前
CodeCraft应助落后的哈密瓜采纳,获得10
32秒前
32秒前
王汉韬发布了新的文献求助10
33秒前
Nature_Science完成签到,获得积分10
33秒前
34秒前
高分求助中
A new approach to the extrapolation of accelerated life test data 1000
ACSM’s Guidelines for Exercise Testing and Prescription, 12th edition 500
‘Unruly’ Children: Historical Fieldnotes and Learning Morality in a Taiwan Village (New Departures in Anthropology) 400
Indomethacinのヒトにおける経皮吸収 400
Phylogenetic study of the order Polydesmida (Myriapoda: Diplopoda) 370
基于可调谐半导体激光吸收光谱技术泄漏气体检测系统的研究 350
Robot-supported joining of reinforcement textiles with one-sided sewing heads 320
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 3989297
求助须知:如何正确求助?哪些是违规求助? 3531418
关于积分的说明 11253893
捐赠科研通 3270097
什么是DOI,文献DOI怎么找? 1804884
邀请新用户注册赠送积分活动 882087
科研通“疑难数据库(出版商)”最低求助积分说明 809158