老师,请教10-11多元线性回归模型的R2及其调整的问题。

来源:10-11 多元线性回归(下)

Jazz_Qi

2019-10-22

老师,请教一下问题:

1、R方的公式:SQXQ2pjRQ.png,没有看看到公式与自变量个数的关系,所以不大明白您说的即使添加的自变量是噪音也会提高R方的意思,噪音应该不会影响减数的分子部分啊,固定样本的话分母也就固定。还是说多元线性回归模型的求解过程能够使用噪音字段来减少(y-y hat)^2吗?

2、变回归系数的假设检验中出现部分偏回归系数是显著不为0的时候是否也可以推出模型的假设检验h0:b1=b2=...=bk=0可以被拒绝?

3、考察自变量的组合的贡献的资料,老师有些往上资料的链接吗?或者我搜索什么关键词比较容易查到?

写回答

1回答

Angelayuan

2019-10-23

1. 随着自变量个数的增加, (y - y hat)^2会减小。下图是证明, 来自https://stats.stackexchange.com/questions/207717/why-does-r2-grow-when-more-predictor-variables-are-added-to-a-model 你也可以阅读这个链接里的内容获取更多信息。

//img.mukewang.com/szimg/5daf5d5909e5cee613000974.jpg

2. 不一定。对某一个偏相关系数检验的结果显著(即拒绝零假设),不代表对整个模型的检验的结果也一定显著。我们一般先对模型整体进行假设检验,如果结果显著的话(即至少有一个偏相关系数不为0), 再进一步对偏相关系数做检验以找到到底是哪个偏相关系数不为0。这个过程跟方差分析比较相似 -- 在方差分析中,我们也是先判断是否所有均值都相等, 如果不是的话, 再进一步寻找到底是哪个均值与其他的均值不一样。

3. 你直接搜multiple linear regression就可以找到很多资料, 其中讲的比较全面的都会涉及到对一组自变量的检验。比如下面截图里这篇文章就写的很好(https://onlinelibrary.wiley.com/doi/abs/10.1002/9781118133880.hop202018), 里面有一个部分是"sets of predictors"讲的就是一组变量的情况。你也可以自己搜索"多元线性回归"查找一些中文资料, 里面应该也有讲。

//img1.sycdn.imooc.com/szimg/5daf61fd09ad958713420580.jpg

0
0

专为程序员设计的统计课

清晰的统计学知识网络+与编程结合的讲解方式+数据可视化展示

1631 学习 · 173 问题

查看课程