6.1-6.2

nullnull 第六章 参数估计 上一讲，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理. 它们是进一步学习统计推断的基础.null 总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质.随机抽样null 现在我们来介绍一类重要的统计推断问 参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数. 参数估计估计废品率估计新生儿的体重估计湖中鱼数… …估计降雨量 在参数估计问题中，假定总体分布 形式已知，未知的仅仅是一个或几个 参数.null这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xnnull参数估计点估计区间估计null设这5个数是:1.65 1.67 1.68 1.78 1.69这是点估计.这是区间估计.假如我们要估计某队男生的平均身高.null6.1 参数的点估计随机抽查100个婴儿…得100个体重数据10,7,6,6.5,5,5.2, …而全部信息就由这100个数组成.null把样本值代入T(X1,X2,…Xn) 中，得到的一个点估计值 .nullnull可以用样本均值;也可以用样本中位数;还可以用别的统计量 .问题是: null 由大数定律, 自然想到把样本体重的平均值作为总体平均体重的一个估计.样本体重的平均值null(2) 怎样决定一个估计量是否比另一个估计 量“好”？这就需要讨论以下几个问题:(1) 我们希望一个“好的”估计量具有什么 特性？(3) 如何求得合理的估计量？那么要问:null 寻求估计量的方法1. 矩估计法2. 极大似然法3. 最小二乘法4. 贝叶斯方法……这里我们主要介绍前面两种方法 .null6.1.1 矩估计法 其基本思想是用样本矩估计总体矩 . 理论依据: 或格列汶科定理（见教材177页） 它是基于一种简单的“替换”思想建立起来的一种估计方法 .是英国统计学家K.皮尔逊最早提出的 .大数定律null例1它服从指数分布：现得样本值为168 130 169 143 174 198 108 212 252 解由题意知,即因此,自然的. 对给定的样本值计算得故计值.null用相应的样本矩去估计总体矩的估计方法 就称为矩估计法.nulli=1,2,…,k从这k个方程中解出j=1,2,…,kj=1,2,…,knull例2解先求总体一阶原点矩一阶样本矩null解: 由矩法,样本矩总体矩从中解得数学期望 是一阶 原点矩null例4解即解得量.注意到null例4解量.注意到null解:由密度函数知null用样本矩估计 总体矩null 矩法的优点是简单易行,并不需要事先知道总体是什么分布 . 缺点是，当总体类型已知时，没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 . 其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性 .null稍事休息null 6.1.2 极大似然法 是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家 高斯在1821年提出的 , 然而，这个方法常归功于 英国统计学家费歇 . 费歇在1922年重新发现了 这一方法，并首先研究了这 种方法的一些性质 .null 极大似然法的基本思想 先看一个简单例子：一只野兔从前方窜过 .是谁打中的呢？某位同学与一位猎人一起外出打猎 .如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下 .null 你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大似然法的基本思想 :在已得到试验结果的情况下，null 极大似然估计原理： 当给定样本X1,X2,…Xn时，定义似然函数为：null 似然函数：null (4) 在最大值点的达式中, 用样本值代入 就得参数的极大似然估计值 .求极大似然估计(MLE)的一般步骤是：(1) 由总体分布导出样本的联合概率函数 (或联合密度);null两点说明：2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原则来求 .null 下面举例说明如何求极大似然估计L(p)= f (X1,X2,…Xn; p ) 例6 设X1,X2,…Xn是取自总体 X~B(1, p) 的一个样本，求参数p的极大似然估计值.解：似然函数为: null对数似然函数为：对p求导并令其为0，=0即为 p 的MLE .null解：似然函数为对数似然函数为例7 设X1,X2,…Xn是取自总体X的一个样本null求导并令其为0=0从中解得对数似然函数为null解：似然函数为i=1,2,…,nnull对数似然函数为解：似然函数为i=1,2,…,nnull=0 (2)由(1)得=0 (1)对数似然函数为null于是于是由于null极大似然估计的一个性质可证明极大似然估计具有下述性质：null 例9 一罐中装有白球和黑球，有放回地抽取一个容量为n的样本，其中有 k 个白球，求罐中黑球与白球之比 R 的极大似然估计. 解: 设X1,X2,…,Xn为所取样本，则X1,X2,…,Xn是取自B(1,p)的样本，p是每次抽取时取到白球的概率，p未知 .先求p的MLE：nullp的MLE为 在前面例4中,我们已求得由前述极大似然估计的性质不难求得null第二次捕出的有记号的鱼数X是r.v, X具有超几何分布：为了估计湖中的鱼数N，第一次捕上r条鱼， 做上记号后放回. 隔一段时间后, 再捕出S 条鱼, 结果发现这S条鱼中有k条标有记号. 根据这个信息，如何估计湖中的鱼数呢？最后，我们用极大似然法估计湖中的鱼数null应取使L(N;k)达到最大的N，作为N的极大似然估计. 但用对N求导的方法相当困难, 我们考虑比值：把上式右端看作N的函数，记作L(N;k) .经过简单的计算知，这个比值大于或小于1，null经过简单的计算知，这个比值大于或小于1，null 6.2 估计量的优良性准则 在介绍估计量优良性的准则之前，我们必须强调指出： 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 . 这是因为估计量是样本的函数，是随机变量 . 因此，由不同的观测结果，就会求得不同的参数估计值. 因此一个好的估计，应在多次试验中体现出优良性 .null 常用的几条是：1．无偏性2．有效性3．相合性这里我们重点介绍前面两个标准 .null 估计量是随机变量，对于不同的样本值会得到不同的估计值 . 我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值. 这就导致无偏性这个标准 . 1．无偏性null无偏性的实际意义是指没有系统性的偏差 .注：在科学技术中，产生的系统偏差. 无偏性是对估计量一个常见而重复的要求，其实际意义是指估计量没有系统的偏差,只存在随机偏差.例如，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的用样本均值作为总体均值的估计时，周围波动，对同一统计问题大量重复使用不会产生系统偏差.null对一般而言，我们有定理则（1）证因为null（2）于是证null（3）计量.证null注：例如，但因为null所以无偏估计以方差小者为好, 这就引进了有效性这一概念 .null2．有效性null 在数理统计中常用到最小方差无偏估计.它的定义是:（也称最佳无偏估计）null例1计,并比较其有效性.解已知其分布函数为null因故且又所以null故完即且null3．相合性我们不仅希望一个估计量是无偏的，并且具有较小的方差，还希望当样本容量无限增大时，某种意义下任意接近未知参数的值，性(一致性)的评价标准. 定义有估计量能在由此引入相合或null例2在,证事实上,令由大数定理知作为特例,计量.null 这一讲，我们介绍了参数点估计，讨论了估计量的优良性准则 . 给出了寻求估计量最常用的矩法和极大似然法 . 参数点估计是用一个确定的值去估计未 知的参数. 看来似乎精确，实际上把握不大. 为了使估计的结论更可信，需要引入区间估计. 这是下一讲的内容 .