最小二乘估计量的统计性质

考察总体的估计量，可从如下几个方面考察其优劣性：

（1）线性性，即它是否是另一个随机变量的线性函数；

（2）无偏性，即它的均值或期望是否等于总体的真实值；

（3）有效值，即它是否在所有线性无偏估计量中具有最小方差；

（4）渐进无偏性，即样本容量趋于无穷大时，它的均值序列是否趋于总体真值；

（5）一致性，即样本容量趋于无穷大时，它是否依概率收敛于总体的真值；

（6）渐进有效性，即样本容量趋于无穷大时，它在所有的一致估计量中是否具有最小的渐进方差。

这里，前三个准则也称作估计量的有限样本性质或小样本性质（small-sample properties）,因为一旦某估计量具有该性质，它是不以样本的大小而改变的。拥有这类性质的估计量称为最佳线性无偏估计量（Best Linear Unbiased Estimator，BLUE）。

当然，在有限样本情形下，有时很难找到最佳线性无偏估计量，这时就需要考察样本容量无限增大时估计量的渐进性质。

后三个准则称为估计量的无限样本性质或大样本渐进性质（large-sample asymptotic properties）。如果有限样本情况下不能满足估计的准则，则应扩大样本容量，考虑参数估计量的大样本性质。

需要说明的是，从估计量统计性质的角度看，无偏性与有效性是小样本性质中最为重要的两个性质，线性性并不是必须的；而在大样本性质中，由于问题较为复杂，人们更多地关注一致性。普通最小二乘法具有线性性、无偏性和有效性，是最佳线性无偏估计量，这就是著名的高斯-马尔科夫定理（Gauss-Markov theorem）。