经管类概率论与数理统计第七章参数估计（2022年-2023年）.docx

2022年-2023年最新从本章开始我们介绍统计推断，所谓统计推断就是由样本推断总体，统计推断包括参数估 计和假设检验两局部，它们是统计推断最基本而且是互相有联系的两局部，本章介绍统计推断 的第一局部参数估计。参数通常指总体分布中的特征值"和叮2和各种分布中的参数，例如二点分布B （1, P） 中的P，泊松分布P （%）中的只，正态分布N （、CF2）的“、怔等,习惯用3表示参数， 通常参数提未知的。参数估计的形式有两类，设 X,X,.,X是来自总体的样本。我们用一个统计量 1 2 n次小，一工）的取值作为参数腑估计值，那么祢为的点估计（量），就是参数的点估计，如果对参数曲估计需要对估计作出可靠性判断，就需要对这一可靠性给出可靠性区间或置信 区间，叫区间估计。下面首先介绍点估计7.1 点估计的几种方法直接用来估计未知参数削勺统计量 法改见，工）称为参数创勺点估计量，简称为点估 计，人们可以运用各种方法构造出很多田勺估计，本节介绍两种最常用的点估计方法。它们是: 矩法和极大似然法。7.1.1 替换原理和矩法估计用下面公式表示扇方法叫矩法自=z遍=14=岳任-好例7 1对某型号的20辆汽车记录每5L汽油的行驶里程（km）,观测数据如下：29.827.628.327.930.128.729.928.027.928.728.427.229.528.528.030.029.129.829.626.9这是一个容量为20的样本观测值，对应总体是该型号汽车每5L汽油的行驶里程，其 分布形式尚不清楚，可用矩法估计其均值，方差，本例中经计算有1 = 28.695, 4=0.9185由此给出总体均值，方差的估计分别为即或=丞=28.695,$T= s； = 0.9185【答疑编号：10070101针对该题提问】矩法估计的统计思想（替换原理）十分简单明确，众人都能接受，使用场合甚广。例7 2设总体为指数分布，其密度函数为以，4）三人/"，元口x”.,x是样本，由于 3亦即 £8 故；I的矩法估计为1 n2022年-2023年最新2022年-2023年最新它是疝勺标准化随机变量，且具备下面两个特点:(1) u中包含所要估计的未知参数H (其中b);(2) u的分布为N (0, 1),它与未知参数"无关。 因为uN (0, 1),因而有根据uN (0, 1)的概率密度欣x)的对称性(见下列图)当 a=0.05 时，1-a=0.095,- b ,<722,因此有1=1.96,将不等式U X% -ua <u<ua1转化为 2 F亦即I-cr -天一心 丁工"4 +见2 7"2% 汉0025 = L96当 a=0.05 时，2产11-1,96 亍 乂至彳+1.96产11-1,96 亍 乂至彳+1.960.95自一 1.96三，十L96冬说明未知参数户包含在区间中W& 的概率是95%,这里，不仅给出的区间估计，还给出了这一区间估计的置信度(或置信概率)。事实上，当置信度为”也 / ,犬+也予1a时，区间估计为22在引例中，假设3=160, cr=40, n=16o贝ij有2022年-2023年最新2022年-2023年最新-(7x 1.96 号=160-1.96乂J甩-ax + 1.96=160 + 1.%x4071640诉= 140.4= 179.8：.(140.4<179.6) = 0.95说明该绝缘子抗扭强度X的期望"在（140.4, 179.6）内的可靠度为0.95o 下面，引出置信区间的概念。八4八八定义7-5设夕为总体的未知参数仇二&&，演，仇二仇（小马,与混由样本,，定出的两个统计量，假设对于给定的概率1-a （0Va<1）,有P « 工 6 £ 耳=1 - a b，人 ZK -那么随机区间怦'巳称为参数邠置信度为1-a的置信区间，3麻 八八八91 =&（局尼，0仇=仇（再,向，与,A）为置信下限，瓦称为置信上限。 人 八 一置信区间的意义可作如下解释：跑含在随机区间丛'4中的概率为100 （1-a） %； 或者说，随机区间历°'以100 （1-a） %的概率包含且 粗略地说，当a=0.05时，在100 ZS 八一次的抽样中，大致有95次弛含在Ri'日”中，而其余5次可能不在该区间中。a常取的数值为0.05, 0.01,此时置信度1-a分别为0.95, 0.99。置信区间的长度可视为区间估计的精度，下面分析置信度与精度的关系。（1）当置信度1a增大，又样本容量n固定时，置信区间长度增大，即区间估计精度减低 ；当置信度1a减小，又样本容量n固定，置信区间长度减小，即区间估计精度提高。（2）设置信度1-a固定。当样本容量n增大时，置信区间减小（如引例中，置信区间长度2心力为 不必），区间估计精度提高。单个正态总体参数的置信区间正态总体况（1行2）是最常见的分布，本小节中我们讨论它的两个参数的置信区间。1.b时"的置信区间设总体X服从正态分布N3。'），其中 ，而姝知，求陶勺置信度1-a的置信区间。这一问题实际上已在引例中的讨论中解决，得到所以的置信度1-a的置信区间为所以的置信度1-a的置信区间为2022年-2023年最新2022年-2023年最新当(x=0.05,-2=1.96；当 a=0.01,1=2.576o例1某车间生产滚珠，从长期实践知道，滚珠直径X服从正态分布。从某天产品里随 机抽取6个，测得直径为（单位：毫米）：14.6, 15.1, 14.9, 14.8, 15.2, 15.1 o假设总体方差b,o.06,求总体均值"的置信区间（a=0.05, a=0.01）o【管疑编号：10070202针对该题提问】解x = 14.95,a=0.05时，置信度为95%的置信区间为x-1.96x-1.96«14 75.15 15a=0.01时，置信度为99%的置信区间为z-2,576z-2,576(7，元十2.«14,69,15,21从此例知，在样本容量n固定时，当置信度1a较大时，置信区间长度较大；当置信度较小时，置信区间较小。_例2用天平称量某物体的质量9次，得平均值为1=15.4 （g）,天平称量结果为正 态分布，其标准差为0.1g,试求该物体质量的0.95置信区间。【答疑编号：10070203针对该题提问】解 此处1a=0.95, a=0.05,查表知u。闻.96,于是该物体质量"的0.95的置信区间为-=15.4±1.96x1= 15.4±0.0653从而该物体质量的0.95置信区间为15.3347, 15.4653。例3设总体为正态分布凶（"，"为得到"的置信水平为0.95的置信区间长度不超过1.2, 样本容量应为多大？【答疑编号：10070204针对该题提问】解 由题设条件知的0.95置信区间为口一一"十年22其区间长度为打，它仅依赖于样本容量n而与样本具体取值无关。现要求3« 之（。）叱%乂 L96 J 10.67r 11即有 L2 或 现1.a=0.95,故T=1.96,从而 3。即样本容 量至少为11时才能使得"的置信水平为0.95的置信区间长度不超过1.2。2.b未知时"的置信区间2022年-2023年最新2022年-2023年最新这时可用t统计量，因为 s,完全类似于上一小节由于t (n-1)分布的概率密度f (x)的对称性有(见下列图)22二尸(14 > J) = at (n-1)分布密度七(1)产(工(盟 T) <i<ta (»-1)=l-aF(-L («-1)(»-1) = l-a正(大一邑伊_1)，工夕工兀+邑伊1)=)=1一& 221»_252 =V (Xj -X)其中 /一17是48的无偏估计。例4假设轮胎的寿命服从正态分布。为估计某种轮胎的平均寿命，现随机地抽12只轮 胎试用，测得它们的寿命(单位：万千米)如下：4.68 4.85 4.32 4.85 4.61 5.02 5.20 4.60 4.58 4.72 4.38 4.70试求平均寿命的0.95置信区间。【答疑编号：10070205针对该题提问】_解 此处正态总体标准差未知，可使用t分布求均值的置信区间。本例中经计算有X =4.7092, s2=0.0615o取a =0.05查表知t(11) =2.2010,于是平均寿命的0.95置信区间0.025为(单位：万千米)4.7092 ±2.2010.- = 4,5516,4.8668V12。3.的置信区旬之2此时虽然也可以就"是否分两种情况讨论叮2的置信区间，但在实际问题中仃2未知 时的情况是极为罕见的，所以我们只在 你知的条件下讨论CT?的置信区间。2022年-2023年最新设 X, X丁 X 3,设 X, X丁 X 3,伽一 1）/，X力来自总体X的样本，样本方差S2可作为 叮2的点估计。由 /57工”中包含未知参数b%又它的分布与仃2无关，以-2作为估计函数，可用于叮2的区间 估计。由于2分布是偏态分布，寻找平均长度最短区间很难实现，一般都改为寻找等尾置a信区间：把a平分为两局部，在工"分布两侧各截面积为5的局部，即采用工”的的两个分位数I】一彳户（ > * （«-1） = ，双炉 > 幻.T） = 1它们满足3222。（见下列图）二也飞/的_1) 41-22)=1 £王一1） 一（同一1）¥ 一2；"（超一。 卜一工3 = 1-仪。之2尸瑞3-1)Z &(甩-1)1将上式开方即可得标准差CF的置信区间。例5某厂生产的零件质量X服从正态分布拉（出1）。现从该厂生产的零件中抽取9个,2022年-2023年最新测得其质量为(单位：g)45.3 45.4 45.1 45.3 45.5 45.7 45.4 45.3 45.6试求总体标准差b的0.95置信区间。【答疑编号：10070206针对该题提问】查表知解 由数据可算得 s2=0.0325, (n-1 ) s2=8xQ.0325=0.26 ,这里 a=0.95 , r(8) = 2.1797, (8) =17,5345s2代入公式可得i7的0.95置信区间为=0,014870.1193=0,014870.11930.260.2617.53457 2.1797从而b的0.95置信区间为0.1218, 0.3454o以上关于正态总体参数的区间估计的讨论列表如表7-1所示。表7-1 正惠总惨筌放的区间估计表所借参数条件估济参数苴信区间，心比包金，未知5564刀尸3-旷宝（/-1）4；&-1）I七本章小结本章考核要求为（一）点估计（1）知道点估计的概念（2）会用矩法求总体参数的矩估计值，主要依据是口 = Xj二竺（3）会用最大似然估计法求总体参数的估计值。基本方法是由样本X , X , X , X构造一个似然函数或似然函数的对数123nL（X , X , X , X , 。=P （X=X ） P （X=X ） .P （X=X ）123n12nL（X , X , X ,X , 0 =f（X ） f（X ） .f（X ）123n12n人然后由InL （毛，务，予，x,）取最大的值时的碉的为前值，即6 = 是L的最大值点。（二）点估计量的评价标准（1）假设E二依那么3：是8的无偏估计。2022年-2023年最新（2）假设济，瓦都是硼无偏估计，且1）（自外就说济比会甫效。假设四啡-电0叫就说是©是3的相合估计以上三条标准中主要掌握无偏估计和有效估计（三）区间估计（1）知道区间估计的概念（2）会求一个正态总体歆的参数/和T的置信区间。公式见表7-1作业教材151页习题7.11, 2, 3教材154页习题7.21, 3, 4教材164页习题7.31, 2, 4, 5, 6, 7自测题7 （教材166页）2022年-2023年最新/L = - = =EX X例7 3设X,x焦来自服从区间(0,。上的均匀分布 WX夕的样本，40为未 知参数。求郎)矩估计2"【答疑编号：10070102针对该题提问】 解：易知总体X的均值为峻3”)，(口+日) 22=1夕二夕=2£X 2由矩法对矩估计为g = 2既=2万八比方,假设样本值为0.1, 0.7, 0.2, 1, 1.9, 1.3, 1.8,那么向勺估计值19=2x7(0.1+0.7+0.2+1 + 1.9+L3+L8) =2例74在一批产品取样n件，发现其中有m件次品，试用此样本求该批产品的次品 率p的矩估计。【答疑编号：10070103针对该题提问】 解：因为/=工工),A / . K . «例如抽样总数n=l()0,其中次品m=5.p = = = 0.0 5那么 « 100例7-5 总机在一分钟间隔内接到呼唤次数XP ( A)o观察一分种接到呼唤次 数共观察40次，结果如下接到呼唤次数012345观察次数51012832求未知参数;I的面古计5【答疑编号：10070104针对该题提问】解： VX-P (A)EX= A由矩法如=文.J=T(2)计算 40 (0x5+1x10+2x12+3x8+4x3+5x2) =2/=2极大似然估计为了表达极大似然原理的直观想法，先看例7 6例7-6设有外表完全相同的两个箱子，甲箱中有99个白球和1个黑球，乙箱中有99 个黑球和1个白球，现随机地抽取一箱，并从中随机抽取一球，结果取得白球，问这球是从 哪一个箱子中取出的？【答疑编号：10070105针对该题提问】2022年-2023年最新解：不管是哪一个箱子，从箱子中任取一球都有两个可能的结果：A表示取出白球，B 表示取出黑球，如果我们取出的是甲箱，那么A发生的概率为0.99,而如果取出的是乙箱， 那么A发生的概率为0.01,现在一次试验中结果A发生了，人们的第一印象就是：“此白球(A) 最像从甲箱取出的“，或者是说，应该认为试验条件对事件A出现有利，从而可以推断这球 是从甲箱中取出的，这个推断很符合人们的经验事实，这里“最像”就是“极大似然”之意。本例中假设的数据很极端，一般地，我们可以这样设想，在两个箱子中各有100个球， 甲箱中白球的比例是P,乙箱中白球的比例是P,P> P,现随机地抽取一个箱子并I212从中抽取一球，假定取到的是白球，如果我们要在两个箱子中进行选择，由于甲箱中白球的 比例高于乙箱，根据极大似然原理，我们应该推断该球来自甲箱。下面分别给出离散型随机变量和连续型随机变量的极大似然估计求未知参数的估计的步骤(一)离散型随机变量第一步，从总体X取出样本x6,x1 z n第二步，构造似然函数L (x.x , & =P (X=x P (X=x)r.P (X=x )I 2 n12n第三步，计算InL (x,x b.,x ,9并化简12 n第四步，当9= %时In L (x ,x ,x , 9)取最大值那么取夕=% 1 2 n常用方法是微积分求最值的方法。(二)连续型随机变量假设 Xf (x,9)第一步 从总体X取出样本xX,x1 2 n第二步构造似然函数L (X1,Xq,X ,& =f(X 3 )0f (x , o ) &.f (x ,) &1 z 9 n12n第三步 计算InL(X,?少.,X、日并化简八第四步 当3= %时InL, 9)取最大值那么取3= %1 2 n常用方法是微积分求最值的方法例7 7设总体XB (1, P)即1，假设A发生X=<-0.假设A不发生设P (A) =P,从总体X中抽样xx户,x，问最大似然法求声 12 n【答疑编号：10()70106针对该题提问】解：当XB (1, P)时，应有 P(X=5)=9* (1 - P)，：.P (X=l) =P, P (X=0) =1P第一步构造似然函数L (x ,x , P) =P (X = x ) P (X=x ) .P (X = x ) 1 2 n12n- p广"p广F (1-域：第一步计算In L (x,x,.，x, P)并化间1 2 n=(x+x ) lnp+ (n- (x+x ) In (1-p)1n1n2022年-2023年最新乡田£(孙马% p)第三步求曲= P»A+ 七 郎一(药+4驻点为 P化简为(x +.+x ) (1-p) =pn- (x+.+x )1n) (x +x ) =np1n1 z 、-一 缶 +4) = X 驻点«因为只有一个驻点 P二兀是最大点 取方二W例抽样n次A发生m次，那么在x , x.x中有m个1,其余为0, 12 nm m. P=一 n例7 8 (1)设总体X服从泊松分布p (%),求的极大似然估计；(2)设总体X 服从指数分布E (Z),求兄的极大似然估计【答疑编号：10070107针对该题提问】解：(1) VX-P (%)/ 4” n2(引为=方>3=五) j-ij-iAp (X=k) = A! 从总体X中取样本x , x .X o n12nInL(A)= 8为)"/1一也一上(为!& !.4!)dln£(；L) 24 =“ AA= = x 驻点n解得力的极大似然估计 I "-1 = -£入=x易知;I的矩估计亦为G2 2) VX-E ( A)第一步，从中取样本值xx9.x ,应有>0, x >0.x >0 12n12n.似然函数 L(x，x .x )=f(x )f(x )f(x(加即*"胪。机'12 n12n第二步 计算lnZ(%,4)=H11U-”;q +入)2022年-2023年最新2022年-2023年最新十十演）第三步求枭驻点为+十4元是最大点 i=i取 X五=1在例7 2中用矩法估计也是同样结果一1。例79设了U（Q9）,即，,0£汗“ d0,其它从中取样X , X .X ,试用最大似然法求9 I 2 n【答疑编号：10070108针对该题提问】解：因为样本x ， x°x已经取出。 12 n所以应有 0<x <&fi<x <&.0<x <&所以弼取值由围为 赤四%/二%）*e<+8第一步构造似然函数.4） = p（%）p（%）.p（4）1 1 1 1= & 99。>0,很明显，似然函数M%，%L，£）是。的单调减函数，因此当日最小时，似然 函数%墉大，由条件max（z，V+8知弥最小值为6"=磔双,工”）所以8 =磔兹可，X优寸”可，与一乙田）最大。取占二ma双匕占，一、）这一结果与用矩法估计（例7-3）的结果夕=21不同。例710假设V叫巴力，从中抽样x/ X,x ,试用最大似然估计法求：氏，12 n【答疑编号：10070109针对该题提问】解：x的似然函数£（%，兀）= %）/）/CG&7P&7P=(2加，)2 exp 1-In Z 3,广,）=一不力（& -白了 一 In b一丽（2落）将In人3,分别关于两个分量求偏导并令其为0即得到似然方程组西心加）=3%小。b 1西心加）=3%小。b 1，(1)而明，）齐期.小岸Co = 02b ， (2)一口 = 4% = x解此方程组，由（1）可得驻点/=""的极大似然估计为同X ，2022年-2023年最新将之代入（2）给出叮之的极大似然估计3,力（4-4应附177.2点估计的评价标准我们已经看到，点估计有各种不同的求法，为了在不同的点估计间进行比拟选择，就必须 对各种点估计的好坏给出评价标准。数理统计中给出了众多的估计量评价标准，对同一估计量使用不同的评价标准可能会得到 完全不同的结论，因此，在评价某一个估计好坏时首先要说明是在哪一个标准下，否那么所论好坏 毫无意义。但在诸多标准中，有一个基本标准是所有的估计都应该满足的，它是衡量一个估计是否可 行的必要条件，这就是估计的相合性，我们就从相合性开始介绍。7.2.1 相合性我们知道，点估计是一个统计量，因此它是一个随机变量，在样本量一定的条件下，我们 不可能要求完全等同于参数的真实取值，但如果我们有足够的观测值，根据格里纹科定理，随着 样本量的不断增大，经验分布函数逼近真实分布函数，因此完全可以要求估计量随着样本量的不 断增大而逼近参数真值，这就是相合性，严格定义如下，定义72设。匚0为未知参数，二瓦区,，七）是劭勺一个估计量，n是样本容量，假设对任何一个万口,有蚣尸服一 4 T（7.2.1）那么称为为参数目的相合估计相合性被认为是对估计的一个最基本要求，如果一个估计量，在样本量不断增大时，它 都 不能把被估参数估计到任意指定的精度，那么这个估计是很值得怀疑的，通常，不满足相 合性要 求的估计一般不予考虑，证明估计的相合性一般可应用大数定律或直接由定义来证。例11用大数定律证明。二亍是#的相合估计【答疑编号：10070110针对该题提问】证：由切比雪夫大数定律即邓>1 = 0A=W是1的相合估计为了防止用定义判断相合性的困难，下面介绍一个判断相合性很有用的定理:定量：设瓦=瓦区，工）是弼估计量假设蚓地幻=02022年-2023年最新2) n那么无是g的相合估计。例12证明3=S”是7?的相合估计 【答疑编号：10070111针对该题提问】证：在前面我们已经证明 EC”?(2)涔-1(1)R_ 2至X- X)7口伽79)3/=5维/的相合估计7. 2.2无偏性相合性是大样本下估计量的评价标准，对小样本而言，需要一些其他的评价标准，无偏性 便是一个常用的评价标准。设人a%，4)是&的一个估计，S的参数空间为®,假设对任意的。匚®有£=e那么称抽 删无偏估计，否那么称为有偏估计。例713对任一总体而言，样本均值是总体均值的无偏估计，当总体k阶矩存在时， 样本k阶原点矩4是总体k阶原点矩4的无偏估计，但对k阶中心矩那么不一样，例如，二阶样本中心矩屋就不是总体方差叮2的无偏估计，事实上， “ 林【答疑编号：10070112针对该题提问】对此，有如下两点说明(1)当样本量趋于无究时，有：我们称S羯的渐近无偏估计，这说明当样本量较大时，可近似看作的无偏估计假设漏乍如下修正： 二 /?次一%724)那么/是总体方差的无偏估计，这种简章的修正方法在一些场合常被采用，危比潼常用，这是 因为在n2时，因此用4估计b"有偏小的倾向，特别在小样本场合要使用,估计无偏性不具有不变性。即假设绽9的无偏估计，一般而言，g (仍不是g (9)的无 偏估计，除非g(9)是9的线性函数，例如，产是"的无偏估计，但s不是cr的无偏估计例14证明尸5是"的无偏估计0弭+ =1。其中%4是X的样本【答疑编号：10070113针对该题提问】证：£口=或01%+电工2 +，一工)=%电+/期十&风=&敢+&耿+q欧=(4+&)取2022年-2023年最新=（a + / + 凌.区"二100 +& +& =1特别情形。=亍是口的无偏估计例15证明3=S“是<7?的无偏估计【答疑编号：10070114针对该题提问】、正.次（丁司工片-威W： n-l1.- X）。芋-«?） I11£以：-港£；=力3, + /7） -同（冷4 （£©2）=M2-1(W2+3£?)一 符一/十= (« -1)(727. 2.3有效性参数的无偏估计可以有很多，那么如何在无偏估计中进行选择？直观的想法是希望该估计围 绕参数真值的波动越小越好，波动的大小可以用方差来衡量，因此人们常用无偏估计的方差的 大小作为度量无偏估计优劣的标准，这就是有效性。定义7-4设瓦，瓦是舟J两个无偏估计，如果对任意的9匚停有D（钻以区）那么称瓦比 为有效例16 设x ,x是取自某总体的样本，记总体均值为“，总体方差为bL那么nf从=应，巧=工都是的无偏估计，但 S' 出 理显然，只要n>l,史比兔有效，这说明，用全部数据的平均估计总体均值要比只使用局部数据更有效。【答疑编号：10070115针对该题提问】-11.12U =一与 + 一当= X + X、例17比拟T 2 1 2”与力3 1 3 2谁有效【答疑编号：10070116针对该题提问】出"1、1 t 11解（1） E出=跃*廿廿1 + * = w = #八 121212=£（彳甬+ ；了,=彳&g+=、 +三# = &333333注与用都是"的无偏估计+ - X） = 2?（-+ D（- x2）IN，乙，乙lc11 2 1+ = b + = 4444八 1212=oq西+1为）=刀勺而）+ d（与）2022年-2023年最新2022年-2023年最新1 » 4 c 1 2 4 2 一 +-以=Y +丁9999A比/有效例18设工U0，2H）,从总体中取样瓦，修，一兀【答疑编号：10070117针对该题提问】证明 3是驯无偏估计和相合估计欧=生竺=%解 22.。母31*86=一3212质=£占）二盛二以二% =。3333 2c 2 夕=与3是团勺无偏估计公? 一 4 4D网=a/ = _Dx = = -Dx 399 n&2 = !6 - 0(m 的=9« 1227非C £ 一&=-xC £ 一&=-x3是比勺相合估计7.3参数的区间估计用点估计去估计总体的参数，即使是无偏且有效的，也会由于样本的随机性，使得从一个 样本X , jX , 2X 3，X 算得的估计值不一定是被估计的参数的真实值，而且估计值的可靠 性并不知道，这是一个重大的问题，因此，必须解决根据估计量的分布，在一定可靠性的程度 下指出被估计的总体参数的取值范围，这正是本节要介绍的参数的区间估计问题。7.3.1 置信区间概念为了引入置信区间的概念，请看下面的引例。引例 设某种绝缘子抗扭强度X服从正态分布 "（压仃），其中"未知，仃2（仃=45公斤,米），试对总体均值#作区间估计。【答疑编号：10070201针对该题提问】对于区间估计，要选择一个合适的统计量，假设在该总体取一个容量为n的样本xr x2, xv xn,样本均值为充4的点估计即I,然而我们要给出"的一个区间估计，以表达出 J11一（T2L（",）估计的误差，我们知道« o在区间估计问题中，要选取一个合适的估计函数。这时，