Measuring Multivariate Redundant Information with Pointwise Common Change in Surprisal

点式的 多元统计 计算机科学 数学 数据挖掘 人工智能 计量经济学 统计 数学分析
作者
Robin A. A. Ince
出处
期刊:Entropy [MDPI AG]
卷期号:19 (7): 318-318 被引量:157
标识
DOI:10.3390/e19070318
摘要

The problem of how to properly quantify redundant information is an open question that has been the subject of much recent research. Redundant information refers to information about a target variable S that is common to two or more predictor variables X i . It can be thought of as quantifying overlapping information content or similarities in the representation of S between the X i . We present a new measure of redundancy which measures the common change in surprisal shared between variables at the local or pointwise level. We provide a game-theoretic operational definition of unique information, and use this to derive constraints which are used to obtain a maximum entropy distribution. Redundancy is then calculated from this maximum entropy distribution by counting only those local co-information terms which admit an unambiguous interpretation as redundant information. We show how this redundancy measure can be used within the framework of the Partial Information Decomposition (PID) to give an intuitive decomposition of the multivariate mutual information into redundant, unique and synergistic contributions. We compare our new measure to existing approaches over a range of example systems, including continuous Gaussian variables. Matlab code for the measure is provided, including all considered examples.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Zzzoey发布了新的文献求助10
刚刚
搜集达人应助小罗飞飞飞采纳,获得10
刚刚
詹卫卫完成签到 ,获得积分10
刚刚
刚刚
宇_发布了新的文献求助20
刚刚
1秒前
esdeath发布了新的文献求助10
1秒前
云轩完成签到,获得积分10
1秒前
1秒前
1秒前
自然乐松发布了新的文献求助10
1秒前
yesir完成签到,获得积分10
2秒前
普雅花的等待完成签到,获得积分10
2秒前
想人陪的以云完成签到,获得积分10
3秒前
科研通AI5应助德德采纳,获得10
3秒前
NexusExplorer应助李来仪采纳,获得10
3秒前
威康宇宙发布了新的文献求助10
3秒前
小蘑菇应助润润轩轩采纳,获得10
3秒前
4秒前
4秒前
个性尔槐发布了新的文献求助10
4秒前
xiangxl完成签到,获得积分10
4秒前
fang完成签到 ,获得积分10
5秒前
汉堡包应助zhui采纳,获得10
5秒前
5秒前
万万完成签到,获得积分10
5秒前
sci完成签到,获得积分10
6秒前
6秒前
科研通AI5应助马静雨采纳,获得50
6秒前
Lucas应助酷炫板凳采纳,获得10
6秒前
6秒前
FFFFFFG完成签到,获得积分10
7秒前
完美世界应助0000采纳,获得30
8秒前
rosexu发布了新的文献求助10
8秒前
爆米花应助sv采纳,获得10
8秒前
8秒前
搞怪网络完成签到,获得积分10
10秒前
10秒前
liudiqiu应助lh采纳,获得10
10秒前
命运的X号发布了新的文献求助10
10秒前
高分求助中
Continuum Thermodynamics and Material Modelling 3000
Production Logging: Theoretical and Interpretive Elements 2700
Social media impact on athlete mental health: #RealityCheck 1020
Ensartinib (Ensacove) for Non-Small Cell Lung Cancer 1000
Unseen Mendieta: The Unpublished Works of Ana Mendieta 1000
Bacterial collagenases and their clinical applications 800
El viaje de una vida: Memorias de María Lecea 800
热门求助领域 (近24小时)
化学 材料科学 生物 医学 工程类 有机化学 生物化学 物理 纳米技术 计算机科学 内科学 化学工程 复合材料 基因 遗传学 物理化学 催化作用 量子力学 光电子学 冶金
热门帖子
关注 科研通微信公众号,转发送积分 3527849
求助须知:如何正确求助?哪些是违规求助? 3107938
关于积分的说明 9287239
捐赠科研通 2805706
什么是DOI,文献DOI怎么找? 1540033
邀请新用户注册赠送积分活动 716893
科研通“疑难数据库(出版商)”最低求助积分说明 709794