第11章 多元线性回归.pptx
《第11章 多元线性回归.pptx》由会员分享,可在线阅读,更多相关《第11章 多元线性回归.pptx(76页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、统计应用预测大学足球比赛的获胜得分差额 为检验一场大学足球比赛中“争球码数”、“传球码 数”、“回 传 次 数”、“控球时间”以及“主场优势”等变量对比赛最后得分的影响,分析人员建立了一个多元回归模型。该模型的因变量是“比赛获胜得分的差值”,它等于胜方的最后得分减去负方的最后得分从高校体育协会前20名球队的比赛中随机抽取了90场,收集到自变量和因变量的数据,并进行多元回归分析,得到的回归结果如表预测变量预测变量系数系数t值值截距截距3.223.222.062.06争球码数差争球码数差0.110.1112.5012.50传球码数差传球码数差0.090.0910.1910.19回传次数差回传次数差
2、-2.80-2.80-5.75-5.75控球时间差控球时间差-0.01-0.01-3.94-3.94主场优势变量主场优势变量3.043.041.681.68因变量:获胜得分差因变量:获胜得分差修正的修正的R R2 2=0.72=0.72第1页/共76页第 11 章 多元线性回归11.1 多元线性回归模型 11.2 回归方程的拟合优度11.3 显著性检验11.4 多重共线性11.5 利用回归方程进行估计和预测11.6 变量选择与逐步回归11.7 虚拟自变量的回归11.8 非线性回归第2页/共76页学习目标1.回归模型、回归方程、估计的回归方程2.回归方程的拟合优度3.回归方程的显著性检验4.多重
3、共线性问题及其处理5.利用回归方程进行估计和预测6.虚拟自变量的回归问题7.非线性回归8.用 Excel 进行回归分析第3页/共76页11.1 多元线性回归模型多元线性回归模型多元回归模型与回归方程多元回归模型与回归方程估计的多元回归方程估计的多元回归方程参数的最小二乘估计参数的最小二乘估计第4页/共76页多元回归模型与回归方程第5页/共76页多元回归模型(multiple regression model)1.一个因变量与两个及两个以上自变量的回归2.描述因变量 y 如何依赖于自变量 x1,x2,xk 和误差项 的方程,称为多元回归模型3.涉及 k 个自变量的多元回归模型可表示为 0 0 ,
4、1 1,k k是参数是参数 是被称为误差项的随机变量是被称为误差项的随机变量 y y 是是x x1,1,,x x2 2 ,x xk k 的线性函数加上误差项的线性函数加上误差项 包包含含在在y y里里面面但但不不能能被被k k个个自自变变量量的的线线性性关关系系 所所解解释释的的变变异异性性第6页/共76页多元回归模型(基本假定)1.误差项是一个期望值为0的随机变量,即E()=02.对于自变量x1,x2,xk的所有值,的方差 2都相同3.误差项是一个服从正态分布的随机变量,即N(0,2),且相互独立第7页/共76页多元回归方程(multiple regression equation)1.描述
5、因变量 y 的平均值或期望值如何依赖于自变量 x1,x2,xk的方程2.多元线性回归方程的形式为 E(y)=0+1 x1+2 x2+k xk 1 1,k k称为偏回归系数称为偏回归系数 i i 表表示示假假定定其其他他变变量量不不变变,当当 x xi i 每每变变动动一一个单位时,个单位时,y y 的平均变动值的平均变动值第8页/共76页二元回归方程的直观解释二元线性回归模型二元线性回归模型二元线性回归模型二元线性回归模型(观察到的观察到的y y)回归面回归面 0 0 i ix x1 1y yx x2 2(x x1 1,x x2 2)第9页/共76页估计的多元回归方程第10页/共76页估计的多
6、元回的方程(estimated multiple regression equation)是是 估计值估计值 是是 y y 的估计值的估计值1.用样本统计量 估计回归方程中的 参数 时得到的方程2.由最小二乘法求得3.一般形式为第11页/共76页参数的最小二乘估计第12页/共76页参数的最小二乘法2.求求解解各回归参数的标准方程如下各回归参数的标准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和达到最小来求得达到最小来求得 。即。即第13页/共76页参数的最小二乘法(例题分析)【例例】一家大型商业银行在多个地区设有分行,为弄清楚不良贷款形成的原因,抽
7、取了该银行所属的25家分行2002年的有关业务数据。试建立不良贷款y与贷款余额x1、累计应收贷款x2、贷款项目个数x3和固定资产投资额x4的线性回归方程,并解释各回归系数的含义 用用Excel进行回归进行回归第14页/共76页11.2 回归方程的拟合优度回归方程的拟合优度多重判定系数多重判定系数估计标准误差估计标准误差第15页/共76页多重判定系数第16页/共76页多重判定系数(multiple coefficient of determination)1.回归平方和占总平方和的比例2.计算公式为3.因变量取值的变差中,能被估计的多元回归方程所解释的比例 第17页/共76页修正多重判定系数(a
8、djusted multiple coefficient of determination)1.用样本量n和自变量的个数k去修正R2得到 2.计算公式为3.避免增加自变量而高估 R24.意义与 R2类似5.数值小于R2 Excel Excel 输出结果的分析输出结果的分析输出结果的分析输出结果的分析第18页/共76页估计标准误差 Sy1.对误差项的标准差 的一个估计值2.衡量多元回归方程的拟合优度3.计算公式为 Excel Excel 输出结果的分析输出结果的分析输出结果的分析输出结果的分析第19页/共76页11.3 显著性检验显著性检验线性关系检验线性关系检验回归系数检验和推断回归系数检验和
9、推断第20页/共76页线性关系检验第21页/共76页线性关系检验1.检验因变量与所有自变量之间的线性关系是否显著2.也被称为总体的显著性检验3.检验方法是将回归均方(MSR)同残差均方(MSE)加以比较,应用 F 检验来分析二者之间的差别是否显著如果是显著的,因变量与自变量之间存在线性关系如果不显著,因变量与自变量之间不存在线性关系第22页/共76页线性关系检验1.提出假设H0:12k=0 线性关系不显著H1:1,2,k至少有一个不等于02.2.计算计算检验统计量检验统计量F F3.确定确定显著性水平显著性水平 和分子自由度和分子自由度k k、分母自由度、分母自由度n-kn-k-1-1找出临界
10、值找出临界值F F 4.4.作出作出决策:若决策:若F F F F ,拒绝,拒绝H H0 0 Excel Excel 输出结输出结输出结输出结果的分析果的分析果的分析果的分析第23页/共76页回归系数检验和推断第24页/共76页回归系数的检验1.线性关系检验通过后,对各个回归系数有选择地进行一次或多次检验2.究竟要对哪几个回归系数进行检验,通常需要在建立模型之前作出决定3.对回归系数检验的个数进行限制,以避免犯过多的第类错误(弃真错误)4.对每一个自变量都要单独进行检验5.应用 t 检验统计量第25页/共76页回归系数的检验(步骤)1.提出假设H0:i=0 (自变量 xi 与 因变量 y 没有
11、线性关系)H1:i 0 (自变量 xi 与 因变量 y有线性关系)2.计算检验的统计量 t3.确定显著性水平,并进行决策 t t t t,拒绝,拒绝H H0 0;t t t(25-2)=2.069,所以均拒绝原假设,说明这4个自变量两两之间都有显著的相关关系2.由表Excel输出的结果可知,回归模型的线性关系显著(Significance-F 1.03539E-06=0.05)。这也暗示了模型中存在多重共线性3.固定资产投资额的回归系数为负号(-0.029193),与预期的不一致第35页/共76页多重共线性问题的处理第36页/共76页多重共线性(问题的处理)1.将一个或多个相关的自变量从模型中
12、剔除,使保留的自变量尽可能不相关2.如果要在模型中保留所有的自变量,则应避免根据 t 统计量对单个参数进行检验对因变量值的推断(估计或预测)限定在自变量样本值的范围内 Excel Excel 输出结果的分析输出结果的分析输出结果的分析输出结果的分析第37页/共76页提示1.在建立多元线性回归模型时,不要试图引入更多的自变量,除非确实有必要2.在社会科学的研究中,由于所使用的大多数数据都是非试验性质的,因此,在某些情况下,得到的结果往往并不令人满意,但这不一定是选择的模型不合适,而是数据的质量不好,或者是由于引入的自变量不合适 第38页/共76页11.5 利用回归方程进行估计和预测利用回归方程进
13、行估计和预测软件应用软件应用第39页/共76页置信区间估计(例题分析)STATISTICA输出的不良贷款的置信区间第40页/共76页预测区间估计(例题分析)STATISTICA输出的不良贷款的预测区间第41页/共76页11.6 变量选择与逐步回归变量选择与逐步回归变量选择过程变量选择过程向前选择向前选择向后剔除向后剔除逐步回归逐步回归第42页/共76页变量选择过程1.在建立回归模型时,对自变量进行筛选2.选择自变量的原则是对统计量进行显著性检验将一个或一个以上的自变量引入到回归模型中时,是否使得残差平方和(SSE)有显著减少。如果增加一个自变量使SSE的减少是显著的,则说明有必要将这个自变量引
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第11章 多元线性回归 11 多元 线性 回归
限制150内