Tensor clustering with planted structures: Statistical optimality and computational limits

聚类分析 数学 计算复杂性理论 张量(固有定义) 时间复杂性 多项式的 秩(图论) 集团 算法 组合数学 理论计算机科学 计算机科学 统计 几何学 数学分析
作者
Yuetian Luo,Anru Zhang
出处
期刊:Annals of Statistics [Institute of Mathematical Statistics]
卷期号:50 (1) 被引量:18
标识
DOI:10.1214/21-aos2123
摘要

This paper studies the statistical and computational limits of high-order clustering with planted structures. We focus on two clustering models, constant high-order clustering (CHC) and rank-one higher-order clustering (ROHC), and study the methods and theory for testing whether a cluster exists (detection) and identifying the support of cluster (recovery). Specifically, we identify the sharp boundaries of signal-to-noise ratio for which CHC and ROHC detection/recovery are statistically possible. We also develop the tight computational thresholds: when the signal-to-noise ratio is below these thresholds, we prove that polynomial-time algorithms cannot solve these problems under the computational hardness conjectures of hypergraphic planted clique (HPC) detection and hypergraphic planted dense subgraph (HPDS) recovery. We also propose polynomial-time tensor algorithms that achieve reliable detection and recovery when the signal-to-noise ratio is above these thresholds. Both sparsity and tensor structures yield the computational barriers in high-order tensor clustering. The interplay between them results in significant differences between high-order tensor clustering and matrix clustering in literature in aspects of statistical and computational phase transition diagrams, algorithmic approaches, hardness conjecture, and proof techniques. To our best knowledge, we are the first to give a thorough characterization of the statistical and computational trade-off for such a double computational-barrier problem. Finally, we provide evidence for the computational hardness conjectures of HPC detection (via low-degree polynomial and Metropolis methods) and HPDS recovery (via low-degree polynomial method).
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
ding完成签到,获得积分20
1秒前
炫哥IRIS发布了新的文献求助10
2秒前
3秒前
3秒前
研ZZ发布了新的文献求助10
3秒前
3秒前
3秒前
可以听见吗完成签到 ,获得积分10
3秒前
苏西坡发布了新的文献求助10
4秒前
Bminor完成签到,获得积分10
4秒前
五五完成签到,获得积分10
4秒前
领导范儿应助开朗以亦采纳,获得10
4秒前
5秒前
诚c发布了新的文献求助10
5秒前
木麻黄完成签到 ,获得积分0
6秒前
汪哈七发布了新的文献求助10
6秒前
6秒前
1111chen发布了新的文献求助10
6秒前
爱吃树梅子完成签到,获得积分10
7秒前
chen发布了新的文献求助10
7秒前
7秒前
zhangyimg发布了新的文献求助10
8秒前
Alyssa发布了新的文献求助10
9秒前
Cc发布了新的文献求助10
10秒前
10秒前
guozi发布了新的文献求助10
10秒前
awen完成签到,获得积分20
11秒前
豆豆完成签到,获得积分10
11秒前
11秒前
狗十七发布了新的文献求助10
11秒前
马千亦完成签到,获得积分10
11秒前
12秒前
小虎完成签到,获得积分10
12秒前
隐形的糖豆完成签到,获得积分10
12秒前
13秒前
14秒前
科研辣鸡辣辣完成签到 ,获得积分10
14秒前
15秒前
诚c完成签到,获得积分10
15秒前
ding应助ding采纳,获得10
15秒前
高分求助中
Evolution 10000
The Young builders of New china : the visit of the delegation of the WFDY to the Chinese People's Republic 1000
юрские динозавры восточного забайкалья 800
English Wealden Fossils 700
Foreign Policy of the French Second Empire: A Bibliography 500
Chen Hansheng: China’s Last Romantic Revolutionary 500
China's Relations With Japan 1945-83: The Role of Liao Chengzhi 400
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3147820
求助须知:如何正确求助?哪些是违规求助? 2798873
关于积分的说明 7832037
捐赠科研通 2455841
什么是DOI,文献DOI怎么找? 1306979
科研通“疑难数据库(出版商)”最低求助积分说明 627957
版权声明 601587