Performance of some variable selection methods when multicollinearity is present

多重共线性 Lasso(编程语言) 特征选择 变量(数学) 统计 偏最小二乘回归 回归 计算机科学 设计矩阵 回归分析 选择(遗传算法) 弹性网正则化 数学 计量经济学 机器学习 数学分析 万维网
作者
Il-Gyo Chong,Chi‐Hyuck Jun
出处
期刊:Chemometrics and Intelligent Laboratory Systems [Elsevier BV]
卷期号:78 (1-2): 103-112 被引量:1747
标识
DOI:10.1016/j.chemolab.2004.12.011
摘要

Variable selection is one of the important practical issues for many scientific engineers. Although the PLS (partial least squares) regression combined with the VIP (variable importance in the projection) scores is often used when the multicollinearity is present among variables, there are few guidelines about its uses as well as its performance. The purpose of this paper is to explore the nature of the VIP method and to compare with other methods through computer simulation experiments. We design 108 experiments where observations are generated from true models considering four factors–the proportion of the number of relevant predictors, the magnitude of correlations between predictors, the structure of regression coefficients, and the magnitude of signal to noise. Confusion matrix is adopted to evaluate the performance of PLS, the Lasso, and stepwise method. We also discuss the proper cutoff value of the VIP method to increase its performance. Some practical hints for the use of the VIP method are given as simulation results.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
PDF的下载单位、IP信息已删除 (2025-6-4)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
小彭友完成签到,获得积分10
3秒前
4秒前
josie完成签到 ,获得积分10
8秒前
llll完成签到 ,获得积分10
8秒前
量子星尘发布了新的文献求助10
8秒前
韭菜发布了新的文献求助10
8秒前
外向的斑马完成签到 ,获得积分10
9秒前
村长热爱美丽完成签到 ,获得积分10
11秒前
尹尹关注了科研通微信公众号
13秒前
呆呆完成签到 ,获得积分10
14秒前
xianyaoz完成签到 ,获得积分0
21秒前
杨远杰完成签到,获得积分10
22秒前
蓝桉完成签到 ,获得积分10
22秒前
JuliaWang完成签到 ,获得积分10
29秒前
无限的含羞草完成签到,获得积分10
30秒前
八二力完成签到 ,获得积分10
34秒前
韭菜发布了新的文献求助10
37秒前
情怀应助科研通管家采纳,获得30
40秒前
water应助科研通管家采纳,获得10
40秒前
JamesPei应助科研通管家采纳,获得10
40秒前
2012csc完成签到 ,获得积分0
42秒前
风清扬应助韭菜采纳,获得10
43秒前
WSY完成签到 ,获得积分10
44秒前
虞无声发布了新的文献求助10
45秒前
执着新蕾完成签到,获得积分10
47秒前
Vivian完成签到 ,获得积分10
50秒前
666完成签到 ,获得积分10
52秒前
57秒前
量子星尘发布了新的文献求助10
1分钟前
蔡从安完成签到,获得积分10
1分钟前
奥雷里亚诺完成签到 ,获得积分10
1分钟前
不呆完成签到 ,获得积分10
1分钟前
Cheung2121发布了新的文献求助30
1分钟前
画龙完成签到,获得积分10
1分钟前
韭菜完成签到,获得积分20
1分钟前
Owen应助Cheung2121采纳,获得10
1分钟前
爱学习的小李完成签到 ,获得积分10
1分钟前
若水完成签到 ,获得积分10
1分钟前
SYLH应助tian采纳,获得10
1分钟前
脑洞疼应助tian采纳,获得10
1分钟前
高分求助中
【提示信息,请勿应助】关于scihub 10000
Les Mantodea de Guyane: Insecta, Polyneoptera [The Mantids of French Guiana] 3000
徐淮辽南地区新元古代叠层石及生物地层 3000
The Mother of All Tableaux: Order, Equivalence, and Geometry in the Large-scale Structure of Optimality Theory 3000
Handbook of Industrial Diamonds.Vol2 1100
Global Eyelash Assessment scale (GEA) 1000
Picture Books with Same-sex Parented Families: Unintentional Censorship 550
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 遗传学 基因 物理化学 催化作用 冶金 细胞生物学 免疫学
热门帖子
关注 科研通微信公众号,转发送积分 4038112
求助须知:如何正确求助?哪些是违规求助? 3575788
关于积分的说明 11373801
捐赠科研通 3305604
什么是DOI,文献DOI怎么找? 1819255
邀请新用户注册赠送积分活动 892655
科研通“疑难数据库(出版商)”最低求助积分说明 815022