《方差与协方差》PPT课件.ppt

1结结束束 随机变量的数学期望随机变量的数学期望(均值均值),它体现了随它体现了随机机变量取值的平均水平变量取值的平均水平,是随机变量的一个重要的是随机变量的一个重要的数字特征数字特征.但是在很多场合但是在很多场合,仅仅知道平均值是不够的仅仅知道平均值是不够的.2 随机变量的方差随机变量的方差 2结结束束 例如例如,某零件的真实长度为某零件的真实长度为a,现在用甲、乙现在用甲、乙两台仪器各测量两台仪器各测量10次次,并将测量结果并将测量结果 X 用坐标上的用坐标上的点表示如图：点表示如图：问问:哪台仪器的测量效果好一些？哪台仪器的测量效果好一些？甲仪器测量结果甲仪器测量结果 乙仪器测量结果乙仪器测量结果较好较好因为乙仪器的测量结果更集中在均值附近因为乙仪器的测量结果更集中在均值附近.测量结果的测量结果的均值都是均值都是 a3结结束束 为此需要引进另一个数字特征为此需要引进另一个数字特征,用它来度量用它来度量随机变量在其中心随机变量在其中心(即均值即均值)附近取值的离散程度附近取值的离散程度(或集中程度或集中程度).这个数字特征就是这个数字特征就是:方差方差.再如再如:考察某车床加工轴承的质量时考察某车床加工轴承的质量时,若若最关键的指标为长度最关键的指标为长度,则不但要注意轴承的平均则不但要注意轴承的平均长度长度,同时还要考虑轴承长度与平均长度的偏离同时还要考虑轴承长度与平均长度的偏离程度程度(即加工的精度即加工的精度);等等等等.我们该用怎样的量去我们该用怎样的量去度量这种偏离程度呢度量这种偏离程度呢?X E(X)?E X E(X)?E|X E(X)|?E X E(X)2 4结结束束 一、方差一、方差(variance)的定义的定义随机变量随机变量 X 的的平方偏差平方偏差 X E(X)2 的均值的均值记作记作或或 Var(X),叫做叫做 X 的方差的方差.而而记作记作 叫做叫做 X 的标准差的标准差或均方差或均方差.方差刻划了随机变量取值的离散程度方差刻划了随机变量取值的离散程度:若若 X 的取值比较集中的取值比较集中,则方差较小；则方差较小；若若 X 的取值比较分散的取值比较分散,则方差较大则方差较大.5结结束束如如:据以往记录据以往记录,甲乙两射手命中环数甲乙两射手命中环数 X、Y 的分布律为的分布律为 X 6 7 8 9 10P 0.1 0.2 0.4 0.2 0.1Y 6 7 8 9 10P 0.2 0.2 0.2 0.2 0.2及及可以算出可以算出:两人命中环数的平均水平相同两人命中环数的平均水平相同,从中看不出两人射击技术的从中看不出两人射击技术的高低高低;但但 说明甲的说明甲的命中环数命中环数比乙的更集中比乙的更集中,即甲的射击技术比乙的稳定即甲的射击技术比乙的稳定.6结结束束二二.方差的简化计算公式方差的简化计算公式即即:方差等于方差等于 平方的期望平方的期望 减减 期望的平方期望的平方.证明证明:7结结束束例例:设设 X 的概率密度为的概率密度为 且且 D(X)=1/18,求求 a,b 及及 E(X).而而解解:由归一性得由归一性得 故故解得解得 b=0,a=2,E(X)=2/3或或b=2,a=2,E(X)=1/3.8结结束束例例:设设(X,Y)的概率密度为的概率密度为试求试求 D(X),D(Y).解解:xy01y=x9结结束束三三.常见分布的期望与方差常见分布的期望与方差(3)则则(2)则则(1)则则(4)则则(5)则则 10结结束束四四.方差的性质方差的性质(1)对任意常数对任意常数 k 与与 c 有有:D(k X+c)=k 2 D(X).(2)设设 X 与与 Y 相互相互独立独立,则则 进一步进一步,若若 X1,Xn 相互独立相互独立,则对任意常则对任意常数数 c1,cn 有有:D(X+Y)=D(X)+D(Y),D(XY)=D(X)+D(Y).D(c1 X1+cn Xn)=c12 D(X1)+cn2 D(Xn).(3)D(X)=0 的充要条件是的充要条件是 X 以概率以概率 1 取常数取常数 C,即即 PX=C =1.11结结束束例例:则则解解:X 表示表示 n 重伯努利试验中重伯努利试验中“成功成功”的次数的次数,p为每次试验成功的概率为每次试验成功的概率,则则 X B(n,p);引入引入1,若第若第 i 次试验成功次试验成功,0,若第若第 i 次试验失败次试验失败.i=1,2,n,则则 X1,X2,Xn 相互独立相互独立,且且而而 Xi 的分布律为的分布律为 Xi 0 1 P q p故故 E(Xi)=p,E(Xi2)=p,D(Xi)=E(Xi2)E(Xi)2=p q,从而从而12结结束束例例:有限个独立正态变量的线性组合仍然服从有限个独立正态变量的线性组合仍然服从正态分布正态分布,若若且它们相互独立且它们相互独立,则则解解:13结结束束五五.随机变量的标准化随机变量的标准化 设设 X 具有具有 为为 X 的标准化随机变量的标准化随机变量.E(Y)=0,D(Y)=1.则叫则叫14结结束束六六.切比雪夫切比雪夫(Chebyshev)不等式不等式 对对 X,若若 E(X),D(X)都存在都存在,则对则对或或(1)方差确实能衡量随机变量取值的离散程度方差确实能衡量随机变量取值的离散程度.(2)该不等式能在该不等式能在 X 的分布未知的情况下对的分布未知的情况下对的概率的下限作一估计的概率的下限作一估计,若记若记则则等等等等.15结结束束 一、协方差一、协方差随机变量随机变量 X 和和 Y 的协方差的协方差 前面我们介绍了随机变量的数学期望和方差前面我们介绍了随机变量的数学期望和方差,对于多维随机变量，反映分量之间关系的数字特征对于多维随机变量，反映分量之间关系的数字特征中中,最重要的就是协方差和相关系数最重要的就是协方差和相关系数.3 协方差协方差(Covariance)和相关系数和相关系数1.定义定义:16结结束束(1)Cov(X,Y)=Cov(Y,X)(2)Cov(a X,b Y)=a b Cov(X,Y),a,b 是常数是常数(3)Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)2.简单性质简单性质:3.协方差的简化计算公式协方差的简化计算公式:Cov(X,Y)=E(X Y)E(X)E(Y)可见，可见，若若 X 与与 Y 独立独立,则则 Cov(X,Y)=0.4.随机变量随机变量和的方差与协方差的关系和的方差与协方差的关系 D(X+Y)=D(X)+D(Y)+2Cov(X,Y)17结结束束二、相关系数二、相关系数1.定义定义:设设 D(X)0,D(Y)0,称称为随机变量为随机变量 X 和和Y 的相关系数的相关系数.注注:相关系数也叫标准协方差相关系数也叫标准协方差,其实是标准化其实是标准化随机变量随机变量的协方差的协方差.与与18结结束束2.相关系数的性质相关系数的性质:存在常数存在常数a,b 使使即即 X 和和 Y 以概率以概率 1 线性相关线性相关.可见相关系数刻划了可见相关系数刻划了 X 和和 Y 间间“线性相关线性相关”的程的程度度.的值越接近于的值越接近于 1,Y 与与 X 的线性相关程度越高的线性相关程度越高;的值越接近于的值越接近于 0,Y 与与 X 的线性相关程度越弱的线性相关程度越弱;则则 Y 与与 X 有严格线性关系有严格线性关系;若若若若则则Y 与与X 无线性关系无线性关系,叫做叫做 X 与与Y 不相关不相关.19结结束束注意注意:若若 X 与与 Y 独立独立,则则 Cov(X,Y)=E(XY)E(X)E(Y)=0,但由但由 X 与与 Y 不相关不相关,不一定能推出不一定能推出 X 与与 Y 独立独立.而对下述情形而对下述情形,独立与不相关等价独立与不相关等价:若若(X,Y)服从二维正态分布服从二维正态分布,则则X 与与 Y 独立独立X 与与 Y 不相关不相关.从而从而 X 与与 Y 不相关不相关;20结结束束例例:设设 X 在在(1/2,1/2)内服从均匀分布内服从均匀分布,而而 Y=cos X,试考察试考察 X 与与 Y 的相关性及独立性的相关性及独立性?解解:而而 Y 与与 X 有严格的函数关系有严格的函数关系,因此因此 Cov(X,Y)=E(X Y)E(X)E(Y)=0,故故 X 和和 Y 不相关不相关.即即 X 和和 Y 不独立不独立.21结结束束 一、矩一、矩为为 X 的的 k 阶原点矩阶原点矩,可见可见:X 的期望是的期望是 X 的的 1 阶原点矩阶原点矩;在随机变量的数字特征中在随机变量的数字特征中,更一般的是矩更一般的是矩.4 矩、协方差矩阵矩、协方差矩阵为为 X 的的 k 阶中心矩阶中心矩,为为 X 和和 Y 的的 k+l 阶混合原点矩阶混合原点矩,为为 X 和和 Y 的的 k+l 阶混合中心矩阶混合中心矩.X 的方差是的方差是X 的的 2 阶中心矩阶中心矩;X 和和 Y 的协方差是的协方差是 X 和和 Y 的的 2 阶混合中心矩阶混合中心矩.22结结束束二、协方差矩阵二、协方差矩阵 对对 n 维随机变量维随机变量(X1,X2,Xn),称矩阵称矩阵为为(X1,X2,Xn)的的 协方差矩阵协方差矩阵.因对所有因对所有 i,j 成立成立 ci j=cj i ,记记 i,j=1,2,n,故故 C T =C,C 为对称为对称矩阵矩阵.引入引入(X1,X2,Xn)的协方差矩阵的协方差矩阵,可更好地可更好地处理多维随机变量处理多维随机变量.23结结束束比如比如,我们可从二维正态随机变量的概率密度推广出我们可从二维正态随机变量的概率密度推广出 n 维维正态随机变量的概率密度正态随机变量的概率密度:设设 n 维随机变量维随机变量(X1,X2,Xn)的概率密度为的概率密度为则称则称 X 服从服从 n 维正态分布维正态分布.f(x1,x2,xn)其中其中 C 是是(X1,X2,Xn)的协方差矩阵的协方差矩阵,C 1 表示表示 C 的逆矩阵的逆矩阵,|C|是它的行列式是它的行列式,有关有关 n 维正态分布的几条重要性质见书第维正态分布的几条重要性质见书第3章章,稍作了解稍作了解.