第 1 节   参数的点估计   

一．数学概念与定义

   （1）点估计问题

      设总体的分布函数的形式已知的，其中是未知参数，借助于总体的一个样本，来估计未知参数的值的问题，称为参数的点估计问题。

      点估计的问题就是要构造一个适当的统计量，用样本的一组观察值，得到的观察值，以此来估计未知参数。我们称统计量为的估计量，它的观察值称为的估计值。

  （2）矩估计法

     设随机变量为总体，其分布函数为，其中为个未知参数（对于连续型的总体，给出概率，对于离散型的总体，给出分布律）。假设总体的各阶原点矩存在，则是的函数，记作，即

，

      对于来自总体的的一个样本，它的样本阶原点矩为

，

      我们令

，

      即

      从上述方程组中解出，分别记作

            

            

      … … … … …

      

      以此作为参数的估计量，称为矩估计量。如果测得样本观察值为，代入上述矩估计量，便得到未知参数的矩估计值为

            

            

      … … … …

            

      上述估计未知参数的方法叫做矩估计法。

  （3）极大似然估计法

      1°设总体为离散型随机变量，分布律为

      其中为未知能数，它的取值范围为，设为来自总体的样本，为样本值，令

      称为样本的似然函数。取，使得

      这样的与样本值有关，记作，称它为参数的极大似然估计值，而相应的统计量称为参数的极大似然估计量。

      要求参数的极大似然估计，就是求似然函数的最大值点。当关于可微时，必然满足方程，由此方程可以解得参数的极大似然估计值（在具体问题中，很容易判断是否为的最大值）。方程的最大值点与下述方程的最大值点相同：

      称此方程为似然方程。解此方程就得到参数极大似然估计值。如果把样本值换成样本，便得到的极大似然估计量。

      2° 设总体为连续型随机变量，概率密度为， ，为未知参数，设为来自总体的样本，其观察值为则似然函数为

      似然方程

      由此解出的极大似然估计值为。如果把样本值换成样本便得到的极大似然估计量。

      3° 若总体的分布中含有个未知参数，则似然函数是这些未知参数的函数

      取对数后，求出关于的偏导数并令它等于零，得到似然方程组

，

      由此方程可解得各未知参数的极大似然估计值。

  （4）估计量的评选标准

      1° 无偏性  设是未知参数的估计量，若，则称为的无偏估计量。

      2° 有效性  设与都是的无偏估计，如果，则称比有效。

二．原理公式和法则

     极大似然估计具有下述性质：设是关于未知参数的函数，   ，具有单值反函数，，又设是总体的分布中所含有参数的极大似然估计，则是的极大似然估计。

 三. 重点、难点分析

      在参数估计中，常用的点估计方法有两种：矩估计法和极大似然估计法。这是重点内容。矩估计法直观意义最明显，对任何总体都可用，方法简单，但要求总体的相应矩存在，若不存在就不能用矩估计法。极大似然估计法对任何总体都可用，从它得到的估计量具有一致性和有效性，即使不具有无偏性，也常常能够修改成无偏估计量，可以证明，在一定条件下，未知参数的极大似然估计量与其直值之差可以任意小；极大似然估计量具有不变性。所以，从某种意义上说没有比极大似然估计更好的估计，但是，并不是所有待估计的参数都能求到似然估计量。并且求极大似然估计量时，往往要解一个似然方程（或方程组）有时比较难解或根本就写不出有限形式的解。

      评价估计量的三个常用标准：无偏性，有效性，一致性。

      点估计的两种常用形式是矩估计和极大似然的估计，对同一个参数，用不同的方法求得的估计量可能是不同的，无偏性、有效性、一致性，就是三种不同的评选估计量的标准。评价估计量，不能从一个估计量的某次具体表现上去衡量好坏，而应看其整休性质。

      运用样本数据对总体未知数作出估计的，总希望这个估计尽可能准确和有效，但在评价估计量时，由于估计量是样本的函数，它是一个随机变量，对于不同的样本观察值就会得到参数的不同估计值。因此，我们不能仅由一次试验的结果来衡量，首先希望多次估计值的理论平均值等于真值，即，这一性质称之为无偏性。

      其次，对同一个参数，可能有许多无偏估计量，哪一个估计量比其他估计量更好呢？自然地认为应以对真值平均偏差较小者为好，即若比有效。

四. 典型例题

   例1:  设总体的概率密度为

   其中，与为未知参数。又设为总体的样本，求民的矩估计量。

   解:  由于

   令

   即

   解得与的矩估计量为

。

   例2．设为的一个样本值，求的极大似然估计；若方差未知，如何估计？

   解：，密度函数所以似然函数

   令，得．

   若未知，则似然函数为

   令，得．

   例3．设是来自总体的一个样本，求的极大似然估计．

   解：，故．

   因为，而是的具有单值反函数的函数，所以据极大似然估计的性质有

．

    例4:  设是来自具有限均值与方差的总体的一个样本，证明：样本均值是的无偏估计，样本方差是的无偏估计。

   证 

   由于与总体同分布，则有

   因此，与分别为与的无偏估计。

   注意，样本的二阶中心矩作为的估计量是有偏的，因为

    例5:  设是未知参数的无偏估计，且有，试证不是的地偏估计。

   证:  由于是的无偏估计，则有

   又，故有

   所以不是的无偏估计。