R平方/相关性取决于预测变量的方差

简介: R平方/相关性取决于预测变量的方差

在我今天参与的一个讨论中,提出了一个问题,即在具有单个连续预测器的线性回归模型中R平方如何/是否取决于预测变量的方差。这个问题的答案当然是肯定的。


可视化

我们还可以在R中轻松地可视化前面的概念。我们首先从具有非常大的样本大小的线性模型中模拟数据:

n < -  10000
 x < -  100 * runif(n)
y < -  x + rnorm(n)

我们有:



Y对X,对X没有限制

拟合相应的线性模型证实了这一点:


summary(lm(y~x))

Call:
lm(formula = y ~ x)

Residuals:
    Min      1Q  Median      3Q     Max
-4.1295 -0.6794 -0.0023  0.6879  3.5579

Coefficients:
             Estimate Std. Error  t value Pr(>|t|)
(Intercept) 0.0068489  0.0204500    0.335    0.738
x           0.9999752  0.0003534 2829.539   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1.015 on 9998 degrees of freedom
Multiple R-squared:  0.9988,  Adjusted R-squared:  0.9988
F-statistic: 8.006e+06 on 1 and 9998 DF,  p-value: < 2.2e-16


给出R平方0.9988。

接下来,我们再次绘制数据,


summary(lm(y[x<1]~x[x<1]))

Call:
lm(formula = y[x < 1] ~ x[x < 1])

Residuals:
     Min       1Q   Median       3Q      Max
-2.93421 -0.73513 -0.09459  0.69282  2.59506

Coefficients:
            Estimate Std. Error t value Pr(>|t|)
(Intercept)  -0.0893     0.2432  -0.367  0.71459
x[x < 1]      1.3960     0.4386   3.183  0.00215 **
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1.121 on 72 degrees of freedom
Multiple R-squared:  0.1233,  Adjusted R-squared:  0.1112
F-statistic: 10.13 on 1 and 72 DF,  p-value: 0.002155
相关文章
|
6月前
【视频】什么是非线性模型与R语言多项式回归、局部平滑样条、 广义相加GAM分析工资数据|数据分享(上)
【视频】什么是非线性模型与R语言多项式回归、局部平滑样条、 广义相加GAM分析工资数据|数据分享
|
6月前
|
大数据
stata具有异方差误差的区间回归
stata具有异方差误差的区间回归
|
6月前
【视频】什么是非线性模型与R语言多项式回归、局部平滑样条、 广义相加GAM分析工资数据|数据分享(下)
【视频】什么是非线性模型与R语言多项式回归、局部平滑样条、 广义相加GAM分析工资数据|数据分享
|
6月前
R语言异方差回归模型建模:用误差方差解释异方差
R语言异方差回归模型建模:用误差方差解释异方差
(二)随机变量的数字特征:探索概率分布的关键指标
(二)随机变量的数字特征:探索概率分布的关键指标
|
机器学习/深度学习 Linux Python
如何知道一个变量的分布是否为高斯分布?
如何知道一个变量的分布是否为高斯分布?
199 0
如何知道一个变量的分布是否为高斯分布?
多变的夏普率二---正态分布约束下的样本的标准差是无偏估计?
多变的夏普率二---正态分布约束下的样本的标准差是无偏估计?
78 0
多变的夏普率二---正态分布约束下的样本的标准差是无偏估计?
|
数据可视化 Python
如何检测时间序列中的异方差(Heteroskedasticity)
时间序列中非恒定方差的检测与处理,如果一个时间序列的方差随时间变化,那么它就是异方差的。否则数据集是同方差的。 异方差性影响时间序列建模。因此检测和处理这种情况非常重要。
544 0