多重回归2.ppt

多重线性回归(2)
Multiple Linear Regression
2
多重线性回归模型
β0为截距(intercept),
βi称为偏回归系数(partial regression coefficient)
总体
样本
3
模型的建立
参数的最小二乘估计:
寻求参数0、1、…、p的适宜数值b0、b1、…、bp,使观察值Y和回归估计值Yhat之间残差平方和最小
回归方程的假设检验:
H0:1=2=…=p=0;
H1:各i不全为零。
检验方法为方差分析。将Y的总变异分解为回归和剩余两个部分,然后做F检验。
4
多重回归方差分析表
变异来源
离均差平方和SS
自由度
.
均方
MS
F
总
SS总
n-1
MS回/MS剩
回归
SS回
p
SS回/p
剩余
SS剩
n-p-1
SS剩/(n-p-1)
5
偏回归系数的假设检验
当多重回归方程经检验在规定的水准上有统计学意义时,并不意味着每一个自变量都对Y有显著影响,即并不意味着各偏回归系数都与零有显著差别。因此,还须对各自变量的作用进行检验。即:
H0:i=0; H1:i0。
 
检验统计量为t。
6
标准化偏回归系数 standardized partial regression coefficients
各个偏回归系数之间一般不能直接通过比较大小来判断它们对Y的贡献的大小。若要比较各个自变量对应变量Y的贡献,必须比较标准化偏回归系数,因为它是没有度量衡单位的。
算法:先对变量进行Z变换,即
然后用y,x拟合回归模型。
7
偏相关
偏相关(partial correlation)定义
设有随机变量x1,x2, z1…zk
令
则给定z1…zk, x1,x2的偏相关定义为
8
简单相关和偏相关的一个结果
数学成绩Y、语文成绩X和智商Z之间的相关
(a)Y和X简单相关(b)X关于Z的回归和残差
10
扣除智商的影响后,数学成绩Y和语文成绩X之间的偏相关系数示意图
(c)Y关于Z的回归和残差
(d)残差Y-和残差X-间简单相关
和残差X-
间简单相关