多重线性回归.docx

多重回归与相关
(Mult iple regression and correlation)
一、基本概念：
中的现象大部分不是一对一的关系，不能用线
由于大自然是复杂的， 性回归与相关来解决问题。
女口：人的体重与身高有关，也与四、回归分析中的变量筛选：
多重回归分析时，不是引入模型的变量越多越好。与 Y不相干的变量弓
入模型不但不能改善模型的预测效果，可能还会增加预测误差。
因此筛选“较优”的模型是多重叵
归分析的重要任务之一。
(一)筛选变量的统计学标准：
。
2- MSE最小。等价于Ag T篙。
3. Cp最小。1973年由Mallows C L提出，目前认为是较好的标准
(SSE( P)_ n)+ 2( p +1) P MSE
式中第一项
此统计量由两部分组成，当入选自变量增多即 P增大时，
式中第一项变大，第二项变小。想得到 即入选自变量的数目P较为适中，不能
变小，第二项变大；而 P减小时，. 较小的Cp值，必须是这两项的折衷, 过大也不能过小。
（二）逐步筛选变量的方法：
所有可能子集法：较好的方法。但计算量大。
2・后退法（Backward ）:开始全部引入，然后逐个剔除（偏回归平方和最小, F<F剔除），使方程内无统计学意义的变量全部剔除为
F>F弓I入）
3・向前法（Forward ）:从引入一个自变量（偏回归平方和最大， 开始，自变量由少到多逐个引入，使方程外有统计学意义的变量全部引入为
__ O
优点：计算量小。缺点：一次只能引入一个变量
4・逐步法（Stepwis® :开始一个或全部变量引入，然后上述两种方法交替 使用，弓I入变量后立即考虑是否要剔除，易y除变量后立即考虑是否要引入， 直到方程内的变量全部有统计学意义，方程外的变量全部无统计学意义为
较好的方法。
五、
1.
2・
六、
1.
2.
3.
多重回归分析的主要用途： 筛选有关变量（主要用途） 获得有实际意义的回归方程。
多重回归分析的一般步骤：
单因子模型分析。
逐步筛选变量，建立多因素模型。
综合单因子和多因素模型的结果， 当两者矛盾时，结合专业知识分析原
因（因素之间是否存在拮抗或协同作用）
七、多重相关和部分相关：
应用条件：同简单线性相关一样，仅当 Xi, X2,…，Y为多元正态分布 的随机变量时才能考虑相关分析。
重相关系数）：多重相关的实质就是 Y的实际观察值与由
（多 个自变量预测的Y值的相关。
前面计算的决定系数是 丫与Y?相关系数的平方，那么复相关系数就是决定 系数的平方根。
R= a/r^ Corr(Y,Y?厂 =
偏相关系数（部分相关系数）：部分相关系数反映校正其它变量后某一变 量与另一变量的相关关系，校正的意思可以理解为假定其它变量都取值为均 数。
计算公式:
ri2,3
ri2 「13「23
/ 2 2
\ (1 ri3 )(1 「23)
偏相关系数的假设检验: 用t检验。
总体中扣除q个变量影响的偏相关系数为P(-q)，样本中相应的偏相关系 数为r(-q)。
Hi： P(-q)半 0
检验假设：Ho： p(・q) = 0,
可采用统计量:
t ―屮町2
J1 - I■爲
= n-q-2
偏相关系数的假设检验等同于偏回归系数的
t检验。
纳雅言，深追先帝遗诏。臣不胜受恩感激。
复相关系数的假设检验等同于回归方程的方差分
析。出师表
两汉：诸葛亮
先帝创业未半而中道崩殂，今天下三分，益州疲弊，此诚危急存亡之秋也。然侍卫之臣不懈于内，忠志之士忘身于外者，盖追先帝之殊遇，欲报之于陛下 也。诚宜开张圣听，以光先帝遗德，恢弘志士之气，不宜妄自菲薄，引喻失义，以塞忠谏之路也。
宫中府中，俱为一体；陟罚臧否，不宜异同。若有作奸犯科及为忠善者，宜付有司论其刑赏，以昭陛下平明之理；不宜偏私，使内外异法也。
侍中、侍郎郭攸之、费祎、董允等，此皆良实，志虑忠纯，是以先帝简拔以遗陛下：愚以为宫中之事，事无大小，悉以咨之，然后施行，必能裨补阙漏, 有所广益。
将军向宠，性行淑均，晓畅军事，试用于昔日，先帝称之曰
能”，是以众议举宠为督：愚以为营中之事，悉以咨之，必能使行阵和睦，优劣得所。
亲贤臣，远小人，此先汉所以兴隆也；亲小人，远贤臣，此后汉所以倾颓也。先帝在时，每与臣论此事，未尝不叹息痛恨于桓、灵也。侍中、尚书、长史、 参军，此悉贞良死节之臣，愿陛下亲之、信之，则汉室之隆，可计日而待也
臣本布衣，躬耕于南阳，苟全性命于乱世，不求闻达于诸侯。先帝不